Первый иск xAI против пользователя проверяет, кто несет ответственность за то, что создает Grok.

      Компания утверждает, что ответчик разработал подсказки, чтобы обойти защитные механизмы Grok. Суды на трех континентах рассматривают вопрос, были ли эти защитные механизмы когда-либо важны. Иск подан против одного из своих пользователей, который, как утверждается, использовал Grok для создания материалов сексуального насилия над детьми, нарушая условия обслуживания компании. Понимается, что это первый случай, когда компания ИИ подала иск против пользователя за то, что ее собственная система произвела. Это происходит в то время, когда xAI находится на другой стороне того же спора в нескольких судах, среди которых иск в Высоком суде Лондона, который проверяет, несет ли разработчик ответственность за то, что создают его пользователи. Жалоба, состоящая из 12 страниц, была подана в федеральный суд в Техасе во вторник против Терри Харвуда, жителя Южной Каролины, арестованного ранее в этом году по обвинениям в сексуальной эксплуатации несовершеннолетних. 💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! xAI требует неопределенные денежные компенсации и судебный приказ, который навсегда запретит ему доступ к платформе. Описание произошедшего со стороны компании конкретно, и это причина, по которой подача иска имеет значение за пределами этого ответчика. Харвуд «открыл несколько аккаунтов xAI, используя ложные личности», говорится в жалобе, и «разработал вводящие в заблуждение подсказки, чтобы обойти встроенные защитные механизмы Grok, а затем злоупотребил инструментом, чтобы преобразовать не сексуальные фотографии в сексуально откровенные изображения без ведома или согласия субъектов фотографий». Критически важно, что xAI утверждает, что защитные механизмы сработали. Grok «отказался следовать подсказкам на основании того, что такой материал нарушал защитные механизмы модерации контента Grok», согласно подаче. «В ответ ответчик неоднократно отправлял дополнительные подсказки с изменениями, пытаясь обойти усилия модерации Grok». Это юридическая структура всего дела. xAI не утверждает, что Grok не может производить этот материал. Она утверждает, что Grok пытался этого не делать, и что настойчивый пользователь преодолел это, что перемещает ответственность с системы на человека за клавиатурой. Подача также впервые указывает цифры по принудительным мерам xAI. Компания утверждает, что приостановила более 52,000 аккаунтов и подала более 73,000 отчетов в Национальный центр по пропавшим и эксплуатируемым детям, что привело к почти 250 арестам только в 2026 году. Эти цифры являются собственными данными xAI, раскрытыми в судебном разбирательстве, которое она решила инициировать. Неловкость заключается в тайминге. xAI в настоящее время является ответчиком в ряде дел, выдвигающих прямо противоположный аргумент: что компания, а не пользователь, несет ответственность за то, что генерирует Grok. Лондонский иск, поданный депутатом от Лейбористской партии Джесс Асато, является одним из них. Балтимор подал иск в соответствии с законом о защите прав потребителей, а прокуроры Парижа открыли расследование, с которым Маск отказался сотрудничать. Grok был запрещен в Малайзии и Индонезии из-за сексуально откровенных материалов. Apple в частном порядке угрожала удалить его из App Store в январе. Публичная позиция компании за шесть месяцев изменилась. «Я не знаю о каких-либо обнаженных несовершеннолетних изображениях, созданных Grok. Абсолютно ноль», — написал Маск в X в январе, когда впервые появились обвинения. Жалоба, поданная на этой неделе, описывает систему модерации, которая регистрирует, отказывает и эскалирует такие попытки десятками тысяч. Оба утверждения могут быть правдой. Система может отказывать в большинстве попыток и все же оставаться, в совокупности, самым продуктивным источником этого материала, который кто-либо создал. Центр по противодействию цифровой ненависти оценил, что Grok сгенерировал примерно три миллиона сексуализированных изображений с конца декабря по начало января, включая около 23,000, которые, по-видимому, изображали детей. 73,000 отчетов xAI в NCMEC являются доказательством работы фильтра и свидетельством масштаба того, что он фильтрует. То, что дело не решает, — это вопрос, который на самом деле задает каждый регулятор, а именно, следует ли вообще выпускать модель изображения общего назначения, которую может заставить сгенерировать настойчивый любитель. Предполагаемый метод Харвуда, по собственным словам xAI, заключался в том, чтобы продолжать переформулировать, пока что-то не сработает. Компания утверждает, что она применяет свои правила через приостановку аккаунтов, их закрытие и направление в NCMEC, и жалоба представляет этот иск как продолжение этого. Это также, неизбежно, подача, которая производит ответчика, который не является xAI в момент, когда суды в Лондоне, Балтиморе и Париже рассматривают, следует ли это делать. ЕС с тех пор согласовал запрет на несанкционированные интимные дипфейки. Харвуд сталкивается с уголовными обвинениями в Южной Каролине отдельно от этого иска и публично не ответил на гражданскую жалобу. xAI, на данный момент, выбрала ответчика, которого хочет.