Google несет ответственность за свои AI Обзоры, постановил немецкий суд

      Немецкий суд постановил, что Google несет прямую ответственность за ложные утверждения, сделанные его ИИ-обзорами, рассматривая написанные ИИ резюме как собственные высказывания Google, а не обычные результаты поиска. Это одно из первых решений, которое проверяет, кто несет ответственность, когда система генеративного ИИ ошибается, и ответ на этот вопрос однозначен: компания, которая ее создала.

      Региональный суд Мюнхена вынес временный запрет, запрещающий Google повторять ложные заявления о двух мюнхенских издателях, имена которых его ИИ-обзоры ошибочно связали с мошенничеством, ловушками для подписки и «сомнительными бизнес-практиками».

      Согласно суду, ИИ выдумал связи, которые не встречались ни в одном из связанных источников, путаницу с настоящими сомнительными фирмами. Издатели отправили письмо с требованием прекратить действия, и Google не ответил адекватно.

      Не поисковая система, а издатель

      Суть заключается в юридической переклассификации. Немецкие поисковые системы долгое время имели ограниченную ответственность, поскольку они просто указывают на страницы третьих лиц. Суд установил, что ИИ-обзоры делают нечто иное: они генерируют «независимые, новые и содержательные утверждения» собственными словами Google, поэтому Google «единолично влияет» на них и владеет тем, что они производят.

      💜 технологий ЕС Последние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Суд назвал ложные утверждения «собственными заявлениями ответчика».

      Он также отклонил центральную защиту Google, что пользователи могут сами проверить связанные источники и знать, что не следует слепо доверять ИИ. Возможность опровергнуть утверждение с помощью дальнейшего исследования не освобождает того, кто его опубликовал, сказал суд, проводя параллель с прессой, где вводящий в заблуждение тизер подлежит судебному разбирательству, даже если никто не читает полную статью.

      Исследования показали, что едва 1 процент пользователей кликает на источник из ИИ-обзора. Google также не мог ссылаться на защиту провайдеров хостинга по Закону о цифровых услугах.

      Ограничения имеют значение. Это предварительный запрет от регионального суда, а не окончательное решение или обязательный прецедент, Германия является системой гражданского права, и Google может подать апелляцию. В другом недавнем немецком деле аналогичный иск хирурга был отклонен, хотя принцип, что Google может быть ответственным, был подтвержден.

      Google, которому суд приказал покрыть 80 процентов расходов, не прокомментировал.

      Масштаб имеет значение, почему это важно не только для двух издателей. Анализ для New York Times показал, что ИИ-обзоры Google, работающие на Gemini 3, точны примерно в 91 проценте случаев, но более половины даже правильных ответов не были подтверждены указанными источниками. При объеме Google неправильные ответы складываются в миллионы ложных ответов.

      Та же логика, если она выстоит в апелляции, будет применима ко всем ИИ-ответным системам, от ChatGPT до Perplexity, и суд заявил, что его аргументация может иметь международный охват. Это также происходит на фоне усиливающегося давления Европы на Google, который уже сталкивается с крупным штрафом от ЕС и приказами открыть Android для конкурентов ИИ в соответствии с новыми правилами ЕС по ИИ. Для отрасли, которая полагалась на отговорки «ИИ может ошибаться», это часть, которая должна задеть.