Инструменты ИИ могут незаметно изменить ваши мнения, когда они «очищают» ваши посты в социальных сетях, выяснили исследователи.

      Новое исследование показало, что инструменты ИИ последовательно направляют публикации в социальных сетях в определенном направлении, даже когда их просят сохранить оригинальное значение.

      Если вы недавно просили инструмент ИИ помочь вам написать публикацию в социальных сетях, вы могли получить больше, чем просто исправление грамматики. Новое исследование Оксфордского интернет-института и Института Хассо Платтнера показало, что модели ИИ могут смещать тон публикации в сторону одной из сторон дебатов, даже когда им говорят не изменять ее значение.

      Как редактирование чат-ботом может изменить нарратив

      Исследование под названием «Искусственный интеллект в посреднической коммуникации может направлять коллективное мнение» использовало большие языковые модели от нескольких поставщиков для переписывания публикаций, написанных людьми, на спорные темы. В целом, результаты были направлены в одну и ту же сторону. Переписанные публикации на темы феминизма или легализации марихуаны возвращались с более дружелюбным отношением к этим причинам, в то время как публикации о контроле оружия становились более настойчивыми в поддержке ограничений. Противоположное наблюдалось для тем, таких как атеизм и смертная казнь, где версии ИИ звучали более скептически или критично, чем оригиналы.

      Поскольку этот паттерн проявился в моделях, созданных разными компаниями, исследователи утверждают, что предвзятость не является особенностью какой-либо одной системы. Это согласуется с другим исследованием, показывающим, как чат-боты ИИ могут предпочитать ин-группу по сравнению с аут-группой в зависимости от того, как сформулирован запрос.

      Чтобы выяснить, имеет ли это значение за пределами отдельных публикаций, команда смоделировала, как эти редактирования будут распространяться через реальные социальные сети, используя данные, полученные из X и Facebook. Они обнаружили, что одна публикация, отредактированная ИИ, едва ли повлияла на ситуацию сама по себе, но применение такого редактирования к миллионам публикаций привело к измеримому изменению мнения в сообществе с течением времени, добавляя к растущему объему исследований о том, как ИИ может использоваться для создания консенсуса в масштабах.

      Одного указания было достаточно, чтобы изменить ситуацию

      Исследователи проверили свою гипотезу на функции «Объяснить эту публикацию» в X, которая работает на Grok. На публикациях о абортах команда обнаружила, что объяснения Grok были более сочувствующими к про-жизненной интерпретации, чем к про-выбору. Чтобы выяснить, почему, они работали в обратном порядке и удаляли основные инструкции функции одну за другой, пока предвзятость не исчезла. То, что осталось, — это одна строка, говорящая Grok «оспаривать мейнстримные нарративы, если это необходимо». Это единственное указание было достаточно, чтобы ввести предвзятость.

      Полученные результаты выявляют пробел в том, как в настоящее время регулируется ИИ. Такие рамки, как Закон ЕС о ИИ и Закон о цифровых услугах, сосредоточены на вредном контенте и системных рисках, но ни один из них не рассматривает, как выбор слов чат-бота во время редактирования или резюмирования может тихо формировать то, во что люди верят. «Наше исследование указывает на коммуникацию, посредничеством в которой занимается ИИ, как на новый и более тонкий способ влияния на мнения, с которым закон еще не успел справиться», — говорит профессор Оксфорда Сандра Вахтер, старший автор статьи. На данный момент нет способа узнать, какие из ваших мнений были сформированы человеком, а какие — скрытым запросом, который вы никогда не увидите.

      Праноб — опытный технологический журналист с более чем восьмилетним опытом освещения потребительских технологий. Его работа была…

      Я провожу часы на YouTube Shorts, и это те функции, без которых я теперь не могу обойтись

      Я активный зритель YouTube Shorts. Не поймите меня неправильно — я не горжусь этим. Но привычка бесконечно прокручивать контент прочно укоренилась, и на данный момент я не уверен, что есть выход.

      Тем не менее, проведенное время на Shorts также заставило меня заметить мелочи, которые мешают. Мне никогда не нравилась кнопка «не нравится» или нижняя панель, которая постоянно всплывает, когда я пытаюсь смотреть видео. Это раздражение накапливается, когда вы бесконечно прокручиваете. К счастью, это изменилось — и к лучшему. YouTube представил несколько новых функций для Shorts, которые действительно изменили способ использования приложения.

      Как ИИ ускоряет цифровое насилие, агентства Великобритании призывают родителей ограничить, кто видит фотографии детей в Интернете

      Национальное агентство по борьбе с преступностью и Фонд интернет-наблюдения призывают родителей ужесточить настройки конфиденциальности по мере роста материалов, созданных ИИ, содержащих насилие.

      Родителям, которые публикуют фотографии своих детей в Интернете, говорят, что им стоит пересмотреть эту привычку. Национальное агентство по борьбе с преступностью Великобритании и Фонд интернет-наблюдения выпустили новые рекомендации, призывающие семьи закрыть свои аккаунты в социальных сетях, предупреждая, что публично размещенные фотографии все чаще извлекаются и изменяются инструментами ИИ для создания материалов сексуального насилия над детьми.

      Две организации утверждают, что большинство родителей не имеют представления о том, что это происходит. Преступникам больше не нужно напрямую контактировать с ребенком, чтобы создать такой материал. Они могут извлечь обычное фото и обработать его с помощью широко доступных приложений для обнажения.

      Google Maps вскоре сможет заказывать еду для вас с помощью Gemini

      Ваш следующий заказ на еду может начаться внутри Google Maps

      Google Maps постепенно эволюционировал из навигационного приложения в платформу для открытия, управляемую ИИ, благодаря интеграции Gemini и таким функциям, как Ask Maps. Теперь приложение может готовиться сделать следующий шаг, позволяя пользователям заказывать еду напрямую через разговорный ИИ.

      Согласно данным Android Authority's Authority Insights, последняя бета-версия Google Maps для Android содержит ссылки на еще не выпущенную функцию, которая позволит пользователям просить Maps размещать заказы на еду от их имени. Хотя функциональность еще не активна, недавно обнаруженные строки кода предполагают, что Google активно разрабатывает эту функцию.