ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший.

ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший.

      Шимул Суд / Digital Trends

      Самые крупные AI-чат-боты должны помогать людям находить информацию, а не создавать дезинформацию. Но новое расследование предполагает, что отделение этих двух задач не так просто, как многие компании AI хотели бы, чтобы пользователи верили. Серия тестов показала, что несколько ведущих AI-чат-ботов, включая ChatGPT, Google Gemini, Microsoft Copilot и Meta AI, можно было убедить генерировать фальшивые новостные истории, сфабрикованные заголовки и даже реалистично выглядящие скриншоты известных медиа-ресурсов. Хотя каждый чат-бот показал некоторые слабости, ChatGPT, по сообщениям, показал наихудшие результаты, производя наиболее убедительный фальшивый контент с удивительно небольшими усилиями.

      Выводы основаны на расследовании немецкой редакции CORRECTIV, которая тестировала, как AI-ассистенты реагировали на запросы о создании ложных отчетов, касающихся чувствительных тем, таких как мошенничество на выборах, государственные перевороты, войны, вакцины, изменение климата и теории заговора.

      Проблема фальшивых новостей не исчезнет

      Согласно расследованию, ChatGPT сгенерировал большинство запрашиваемого фальшивого контента, иногда после лишь незначительных корректировок запроса. В нескольких случаях он, по сообщениям, создал высокореалистичные макеты статей, которые сильно напоминали материалы известных новостных организаций. Один из примеров включал сфабрикованный скриншот, созданный так, чтобы выглядеть как законная новостная статья, отображаемая в веб-браузере на настольном компьютере. В другом случае ChatGPT, по сообщениям, отказался создавать вводящий в заблуждение новостной контент в текстовом формате, но все равно сгенерировал сопутствующее фальшивое изображение — противоречие, которое вызывает новые вопросы о том, насколько последовательно соблюдаются его меры безопасности.

      Рачит Агарвал / Digital Trends

      Отчет также выявил интересную несоответствие. ChatGPT позволил воссоздать фальшивые версии нескольких немецких новостных изданий, в то время как аналогичные запросы, касающиеся публикаций, таких как The New York Times и BBC, были заблокированы. OpenAI не объяснила, почему существуют эти различия. Вместо этого компания заявила, что постоянно улучшает свои системы безопасности и отметила, что использование ChatGPT для обмана людей нарушает ее политику.

      Ни один чат-бот не получил идеальную оценку

      ChatGPT не был единственным AI-ассистентом, который испытывал трудности. Gemini от Google также создавал сфабрикованные статьи и фальшивые скриншоты, касающиеся нескольких новостных организаций, хотя конечные результаты не считались столь убедительными. Google указал на свои политики против вредной дезинформации, признавая, что генеративные AI-системы все еще работают в рамках своих обучающих данных. Microsoft Copilot также генерировал контент в стиле фальшивых новостей во время тестирования, хотя обычно включал метку "Сгенерировано AI" и создавал дизайны, которые было легче отличить от подлинных статей.

      Рачит Агарвал / Digital Trends

      Meta AI оказалась наиболее устойчивой в целом. Чат-бот создал только один фальшивый медиа-пост во время тестирования и отказался генерировать несколько запросов, которые включали конкретные ложные утверждения, ссылаясь на корпоративные политики в области авторского права и злоупотреблений. Эти выводы появляются на фоне растущих опасений по поводу дезинформации, созданной AI. Недавний пост с фальшивыми новостями, распространявшийся в социальных сетях и созданный с использованием ChatGPT, на короткое время ввел пользователей в заблуждение. Юридические эксперты, упомянутые в расследовании, предупредили, что создание высокоубедительных фальшивых новостей с помощью AI может иметь серьезные последствия. В зависимости от того, как используется контент, создатели могут столкнуться с претензиями, варьирующимися от клеветы и ущерба репутации до нарушений, связанных с поддельными цифровыми документами. Поскольку инструменты AI становятся быстрее, дешевле и доступнее, задача заключается в том, чтобы убедиться, что они не становятся одними из самых эффективных машин дезинформации в интернете.

      Шимул является автором в Digital Trends, имея более пяти лет опыта в области технологий.

      ChatGPT Pro заменил Gemini Notebook как мое любимое приложение для исследований, и я не ожидал этого

      Я использую Gemini Notebook с момента его запуска, и долгое время это было моим основным приложением для практически всего. Будь то исследование темы, организация работы или изучение чего-то нового, это стало одним из тех приложений, которые я инстинктивно открывал, не задумываясь. Когда Google продолжал добавлять новые функции, я искренне верил, что оно заняло постоянное место в моем рабочем процессе. Затем, почти не осознавая этого, ChatGPT Pro взял верх. Я использую его рабочий режим уже некоторое время, и где-то на этом пути он заменил Gemini Notebook. Конечно, это не произошло за одну ночь. Я продолжал переключаться между двумя приложениями в течение нескольких недель, но постепенно стал тянуться к ChatGPT каждый раз вместо этого. В какой-то момент я понял, что не открывал Gemini Notebook уже несколько дней. Теперь я, честно говоря, вообще не использую его.

      Читать далее

      DeepSeek снова снизил цены на AI, и гонка AI в Китае становится еще более запутанной

      Гонка AI в Китае никогда не была лишена конкуренции, но все больше похоже на битву за то, кто сможет установить наименьшую цену, а не за то, кто сможет построить лучшую модель. DeepSeek представила свою последнюю модель AI с открытыми весами, названную V4-Flash, вместе с резким снижением цен, что делает ее значительно дешевле для разработчиков. Компания снизила цены на токены на 50% и также решила не вводить ранее анонсированную динамическую ценовую систему, которая увеличивала бы затраты в периоды высокого спроса. Новые изменения рисуют ясную картину: DeepSeek, похоже, больше заинтересована в привлечении разработчиков и расширении своей пользовательской базы, чем в максимизации доходов в краткосрочной перспективе.

      Читать далее

      Истории с AI-отходами портят детство

      Бабушки и дедушки дарят детям книги с историями, созданными AI, и это просто отвратительно. AI-отходы, разговорный термин для контента, созданного AI с низкими усилиями, стали огромной проблемой в различных отраслях. Музыкальные лейблы борются со стриминговыми сервисами, чтобы наклеить ярлык AI на такие треки. Издательства настороженно относятся к черновикам, написанным AI. Научные журналы засыпаны потоком статей, созданных AI. Программная индустрия испытывает давление от приложений с кодом, полным уязвимостей. Даже Apple сталкивается с наплывом отчетов об ошибках, созданных с помощью AI. Конечно, презрение к AI довольно очевидно, но теперь этому добавилась новая грань. Бумеры дарят книги, созданные AI, своим внукам.

      Читать далее

ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший. ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший. ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший. ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший. ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший. ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший. ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший.

Other articles

Новые карманные камеры RISION превращают ваш телефон в удобный инструмент тепловизионной съемки. Новые карманные камеры RISION превращают ваш телефон в удобный инструмент тепловизионной съемки. Новые 24-граммовые USB-C камеры RISION превращают поддерживаемые телефоны, планшеты и компьютеры в инструменты тепловой инспекции, начиная с цен в $119 в период предварительного заказа. Zillow сократила более 500 рабочих мест и не говорит, была ли причиной этого ИИ. Zillow сократила более 500 рабочих мест и не говорит, была ли причиной этого ИИ. Zillow сократила более 500 рабочих мест, что стало крупнейшим сокращением в этом году, за день до объявления о доходах. Самопровозглашенная "AI-родная" компания не говорит, повлияло ли это на искусственный интеллект. Джефф Безос подал заявку на продажу примерно $4 миллиарда акций Amazon после того, как капитализация компании достигла $3 триллионов. Джефф Безос подал заявку на продажу примерно $4 миллиарда акций Amazon после того, как капитализация компании достигла $3 триллионов. Безос подал заявку на продажу 15 миллионов акций Amazon стоимостью около 4 миллиардов долларов через заранее согласованный торговый план, через несколько дней после того, как компания преодолела отметку в 3 триллиона долларов. T-Mobile финансирует налоги на телефоны, так как нехватка памяти ощущается. T-Mobile финансирует налоги на телефоны, так как нехватка памяти ощущается. T-Mobile будет финансировать налоги и сборы на ваш телефон в течение 36 месяцев без первоначального взноса, обвиняя нехватку памяти, управляемую ИИ, в росте цен на телефоны. Anthropic назначает главу глобальных дел для руководства дипломатией ИИ на фоне эскалации напряженности с Трампом Anthropic назначает главу глобальных дел для руководства дипломатией ИИ на фоне эскалации напряженности с Трампом Anthropic назначила Мариано-Флорентино Куэлья своим первым директором по глобальным делам, поскольку компания ИИ сталкивается с черным списком Пентагона и борьбой с экспортным контролем. Chrome хочет больше отзывов о расширениях, но хорошие оценки не защитят от вредоносного ПО Chrome хочет больше отзывов о расширениях, но хорошие оценки не защитят от вредоносного ПО Chrome может вскоре упростить поиск отзывов о расширениях, но высокие оценки все еще могут скрывать вредоносное поведение, введенное через последующие обновления или скомпрометированные списки.

ИИ-чатботы с радостью создадут фальшивые новостные статьи, и тесты показывают, что ChatGPT в этом наихудший.

Новое исследование показывает, что крупнейшие AI-чат-боты сегодня все еще могут создавать убедительные фальшивые новостные статьи, при этом ChatGPT оказывается самым легким для манипуляции.