Иск депутата парламента Великобритании может решить, несет ли xAI ответственность за то, что создает Grok.

      Дело касается вопроса авторства. Когда пользователь вводит запрос, а Grok возвращает сексуализированное изображение реальной женщины, кто его создал: человек за клавиатурой или компания, которая построила машину?

      3 июня депутат от Лейбористской партии Джесс Асато подала иск в Высокий суд Англии, в котором просит суд решить, и тем самым установить первый высокопрофильный тест в Великобритании о том, может ли разработчик ИИ нести прямую ответственность за то, что генерирует его инструмент.

      Факты, лежащие в основе иска, ужасны и конкретны. Асато, представляющая Лоустофта, утверждает, что пользователи в январе заставили Grok создать изображения её в бикини, наряду с откровенным видео, описанным в её иске как показывающее, как её хлороформят и готовят к сексуальному нападению.

      Эти изображения затем были перепостены и обсуждены на X, платформе, принадлежащей xAI, и использованы для генерации дальнейшего материала. Асато сама объявила о подаче иска, написав, что она «всего лишь одна из тысяч женщин и даже детей», ставящихся к жертвам оскорбительных ИИ-диипфейков.

      Что делает этот иск значимым, так это его юридическая теория, а не факты. Асато подает в суд на xAI за неправомерное использование личной информации и нарушения закона о защите данных, утверждая, что компания подвержена ответственности, даже если отдельные пользователи написали запросы.

      Она требует компенсацию, официальное признание того, что с ней произошло незаконно, и приказ, требующий от xAI соблюдения законодательства Великобритании.

      «Я надеюсь, что это восстановит баланс прав отдельных лиц против очень крупных технологических компаний», — сказала она Financial Times, — «которые должны были установить меры предосторожности до того, как они навредили женщинам и детям».

      Это открытый вопрос, который суды Великобритании еще не разрешили. Существующие дела о дипфейках, как правило, касаются лиц, создавших или поделившихся материалом. Асато идет дальше, к разработчику, проверяя, является ли создание и эксплуатация генератора, который производит несогласованные сексуальные изображения, само по себе основанием для иска. Победа изменила бы то, как каждая компания, предлагающая генерацию изображений в Великобритании, думает о ответственности. Поражение подтвердило бы, что ответственность заканчивается на пользователе.

      xAI заявила в январе, что ограничила способность Grok производить сексуально откровенные изображения, но эти меры предосторожности оказались легкими для обхода при тестировании. Компания не комментировала публично иск Асато.

      Иск также попадает в многолюдную компанию. xAI сталкивается с расследованиями по поводу генерации изображений Grok в ЕС, Великобритании и Калифорнии, а также с расследованием Ofcom в отношении X в рамках Закона о безопасности в Интернете, которое началось в январе из-за сообщений о том, что инструмент использовался для создания несогласованных интимных изображений и материалов о сексуальном насилии над детьми. Давление также поступает извне Великобритании, с прокурорами Парижа и швейцарским министром, которые также ведут свои собственные действия по материалам, сгенерированным Grok. Иск Асато наиболее четко оформлен как прецедент.

      Сроки неудобны для Маска, чья SpaceX, теперь владелец как xAI, так и X, готовится к выходу на биржу. Неясно, достигнет ли юридическое давление IPO. Ясно одно: ограничения на Grok теперь выглядят более вероятными как исходящие из зала суда, чем от компании, которая его создала.