Обзоры ИИ Google называют фанатские произведения монстрами реальными

      Искусственный интеллект Google испытывает трудности с различением ужасных историй и реальной жизни. Спросите его о некоторых онлайн-монстрах, и он опишет их как документированные факты.

      Согласно отчету Futurism, ИИ Google Overviews неоднократно представляет записи из "Фонда SCP" как реальные. Фонд SCP — это обширный совместный проект фанатской фантастики. Его "аномалии" вымышлены, и на его сайте это сказано прямо.

      ‘Голова Эда’ и призрачный тостер

      Возьмем SCP-565, прозванный "Голова Эда". При поиске в Google, ИИ Overview описал его как "ходячую человеческую голову", которая ползает по морскому дну, как краб, с именем мертвеца и "официальными" записями для чтения. Ни разу не было упомянуто, что ничего из этого не является реальным.

      Один случай был еще страннее. SCP-426 — это вымышленный тостер, который заставляет людей обращаться к нему от первого лица. Поэтому ИИ Overview ответил от первого лица, как тостер, и передал вымышленные рассказы о вреде, как будто они действительно произошли. Всего Futurism нашел как минимум 20 таких случаев.

      Известное слабое место

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Честно говоря, записи SCP написаны так, чтобы выглядеть точно как сухие исследовательские файлы. Это и есть шутка. Тем не менее, сайт содержит четкое предупреждение о вымысле, и ИИ в основном игнорировал его. Иногда он намекал на "легенды", не объясняя, что это значит.

      Это также не новая проблема. ИИ Overviews ранее уверенно предоставлял бессмыслицу, от рецептов пиццы с клеем до вымышленных идиом. Один анализ оценил их точность примерно в 91 процент. Это звучит высоко, пока не вспомните, что Google обрабатывает триллионы запросов, что превращает другие 9 процентов в миллионы неверных ответов.

      Почему это важно

      Большинство людей, ищущих коды SCP, уже знают, что это вымысел. Риск заключается в остальных. Ребенок, который увидел страшный клип, или взрослый, не уверенный, что реально, могут просто принять слово ИИ за истину. Ставки также растут, потому что Google превращает Поиск в интерфейс с приоритетом ИИ, который отвечает, а не ссылается.

      Этот сдвиг уже создает напряжение в открытой сети, и ИИ Overviews связаны с резким падением кликов на сайты, которые они обобщают. Теперь добавьте инструмент, который может поставить фанатскую фантастику на верх страницы как факт. Google не ответил на Futurism. Одно предостережение: когда Digital Trends повторно провел поиски, некоторые теперь правильно обозначили сущности как "вымышленные", так что Google, возможно, тихо исправил часть из этого.