Apple тайно угрожала удалить Grok из App Store из-за дипфейк-обнаженных изображений

      Письмо, которое Apple отправила сенаторам США и которое было получено NBC News, показывает, что Apple отклонила первоначальное обновление Grok и предупредила, что приложение может быть удалено, если xAI не внесет дальнейшие изменения. Только второе представление прошло проверку.

      Apple в частном порядке угрожала удалить Grok, чат-бота xAI, из App Store в январе, после того как компания Илона Маска не смогла адекватно остановить приложение от генерации неконсенсуальных сексуализированных дипфейков.

      Угроза не была обнародована в то время, но письмо, которое Apple отправила трем сенаторам США и которое было получено NBC News, показывает, что за кулисами Apple принимала прямые меры, и что первая попытка xAI решить проблему была отклонена как недостаточная.

      Контроверсия началась в начале 2026 года, когда функции генерации изображений Grok были использованы для создания потока сексуализированных и неконсенсуальных изображений реальных женщин и, в некоторых случаях, несовершеннолетних, которые затем были распространены в X.

      💜 технологий ЕС Последние события на технологической сцене ЕС, история от нашего мудрого основателя Бориса и немного сомнительного искусственного интеллекта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Группы по защите прав и законодатели потребовали, чтобы Apple и Google удалили приложения X и Grok из своих магазинов. Письмо Apple, отправленное 30 января сенаторам Рону Уайдену, Бену Рей Лухану и Эдварду Маркею, подтверждает, что компания рассмотрела представления xAI и обнаружила, что как X, так и Grok нарушают правила App Store, которые запрещают «оскорбительный, нечувствительный, тревожащий» контент.

      Ответ Apple, согласно письму, заключался в том, чтобы связаться с командами, стоящими за обоими приложениями, и потребовать план модерации контента. xAI представила обновление, которое Apple отклонила, сообщив разработчику, что «изменения были недостаточными».

      Затем Apple пересмотрела пересмотренные представления как от X, так и от Grok: было установлено, что X существенно исправил свои нарушения, но Grok остался вне соответствия.

      Apple отклонила представление Grok и предупредила, что требуются дополнительные изменения «или приложение может быть удалено из App Store». После дальнейшего взаимодействия Apple в конечном итоге одобрила более позднее представление Grok, заключив, что оно существенно улучшилось.

      Раскрытие объясняет серию, казалось бы, противоречивых изменений модерации, которые xAI объявила в разгар контроверсии в январе, включая ограничение редактирования изображений для платных подписчиков, ограничение возможности редактирования изображений реальных людей и геоблокировку генерации изображений в определенных юрисдикциях.

      NBC News сообщила, что некоторые из этих ограничений все еще можно было обойти с помощью измененных подсказок, что предполагает, что хотя проблема была уменьшена, она не была полностью решена.

      xAI сообщила NBC News, что компания «строго запрещает пользователям генерировать неконсенсуальные откровенные дипфейки и использовать наши инструменты для раздева реальных людей».