Депутат Великобритании просит Высокий суд заставить xAI остановить Grok от создания сексуализированных изображений её.

      Джесс Асато, депутат от Лейбористской партии в Лоустофте, обратилась в Высокий суд Лондона с просьбой заставить xAI Илона Маска остановить генерацию сексуализированных изображений её чат-ботом Grok, уточнив требование, которое, по словам её адвокатов, может помочь определить, насколько далеко компания ИИ отвечает за то, что производят её инструменты.

      Асато добивается судебного приказа, который обязывал бы xAI внедрить то, что её иск описывает как «эффективные и постоянные технические меры», чтобы предотвратить создание Grok манипулированных изображений её, согласно Reuters, который сообщил о данном шаге 28 июля.

      Запрос основывается на иске, который она подала в Высокий суд в июне, в котором утверждается о неправомерном использовании личной информации и нарушении закона о защите данных Великобритании, а также о возмещении ущерба и официальном признании того, что компания действовала незаконно.

      Дело возникло из-за изображений, которые пользователи попросили Grok создать ранее в этом году, после того как Асато публично раскритиковала Маска и чат-бота. Среди материалов, упомянутых в её иске, есть видео, в котором, по её словам, изображено, как её хлороформят и готовят к сексуальному насилию.

      Она говорила о желании восстановить баланс прав отдельных лиц против очень крупных технологических компаний, и её адвокаты утверждают, что именно способ, которым был построен и обучен Grok, позволил создать такой контент.

      Этот аргумент находится в центре спора. Её адвокат, Рави Найк, сказал, что решения компании по дизайну «должны иметь юридические последствия», и что средство, которое хочет его клиент, «включает судебный приказ о приведении систем в соответствие, если xAI откажется это сделать».

      Иск указывает на внутренние инструкции, которые, по словам Асато, говорили модели отказывать в помощи с преступной деятельностью, при этом заявляя, что у неё «нет ограничений на взрослый сексуальный контент или оскорбительный контент». xAI не подала защиту, и ни одно из обвинений не было проверено в суде.

      Компания не ответила на запросы о комментариях по иску, и Маск не затрагивал его публично. Молчание стало привычным.

      Apple в частном порядке угрожала удалить Grok из своего App Store ранее в этом году из-за несанкционированных дипфейков, а прокуроры в Париже открыли расследование по поводу сексуальных изображений детей, связанных с инструментом, хотя компания в значительной степени отказалась взаимодействовать с обеими сторонами.

      Британский контекст делает тайминг неудобным для Маска, который назвал Закон о безопасности в Интернете страны одним из самых строгих в мире и угрозой свободе слова.

      Этот закон, вступивший в силу в 2023 году и контролируемый Ofcom, требует от платформ борьбы с незаконным материалом, и Великобритания отдельно предприняла шаги к криминализации создания несанкционированных сексуальных дипфейков, а не только их распространения.

      Тем не менее, иск Асато является гражданским, и он меньше зависит от модерации контента, чем от того, может ли компания нести прямую ответственность за то, для чего была спроектирована её система.

      Злоупотребление на основе изображений стало одной из самых быстро развивающихся областей британского права, и большая часть его была написана до того, как генеративные инструменты смогли производить материал в больших масштабах.

      Grok уже подвергался подобному контролю ранее, и не только в Британии. Законодатели ЕС согласовали в марте включение явного запрета на несанкционированные интимные дипфейки в законопроект о ИИ блока, шаг, частично вызванный ранее скандалом вокруг инструмента.

      Шаблон, наблюдаемый в Париже, Брюсселе и теперь в Лондоне, заключается в том, что регуляторы и судьи ищут инструменты, которые предшествовали технологии, и проверяют, сохраняют ли они свою актуальность.

      То, что Асато запрашивает, более узкое и конкретное, чем политика. Это приказ, подлежащий исполнению судьей, который заставит xAI изменить работу Grok или ответить за то, что этого не сделала.

      Будет ли Высокий суд удовлетворять его и на каких условиях, скажет многое о том, кто несет риск, когда чат-бот производит что-то, на что его субъект никогда не соглашался. Дата слушания еще не назначена.