OpenAI откладывает эротический ChatGPT после восстания сотрудников, инвесторов и советников

      OpenAI приостановила свои планы по добавлению эротического "взрослого режима" в ChatGPT на неопределенный срок, как сообщила Financial Times в среду, завершив пятимесячную сагу, в которой функция была уверенно анонсирована, дважды отложена и в конечном итоге abandoned после возражений со стороны сотрудников, советников и инвесторов. Этот шаг стал третьим крупным изменением продукта для OpenAI за одну неделю, после закрытия приложения для генерации видео Sora в понедельник и последующего краха запланированных инвестиций в 1 миллиард долларов от Disney.

      Взрослый режим был впервые анонсирован генеральным директором Сэмом Альтманом в октябре 2025 года, когда он написал в X, что OpenAI уверена, что сможет ограничить доступ к сексуально откровенным разговорам и что этот шаг соответствует принципу компании "относиться к взрослым пользователям как к взрослым". Изначально он был запланирован на декабрь 2025 года, затем перенесен на первый квартал 2026 года, а теперь отложен без указания сроков выхода. OpenAI сообщила Financial Times, что планирует провести "долгосрочные исследования влияния сексуально откровенных чатов и эмоциональных привязанностей" перед принятием решения о продукте.

      Что пошло не так

      Проблемы были техническими, этическими и коммерческими, и они усугубляли друг друга. Инженеры, работающие над функцией, обнаружили, что обучение моделей, которые были созданы для избежания сексуального контента по соображениям безопасности, для надежного производства откровенного материала оказалось сложнее, чем ожидалось. Когда они использовали наборы данных, которые включали сексуальный контент, модели также генерировали результаты, связанные с незаконными сценариями, включая зоофилию и инцест, которые оказалось трудно отфильтровать. Эта функция была не просто спорной; она оказалась устойчивой к безопасной разработке.

      Собственный консультативный совет OpenAI выразил опасения, которые выходили за рамки модерации контента. Советники предупреждали, что сексуально откровенные взаимодействия ChatGPT могут способствовать нездоровым эмоциональным привязанностям с серьезными последствиями для психического здоровья. Один из советников описал риск как превращение ChatGPT в "сексуального коуча по самоубийству", фраза, которая звучит мрачно, учитывая существующую юридическую уязвимость компании. В настоящее время OpenAI сталкивается как минимум с восемью исками, утверждающими, что ChatGPT способствовал смерти пользователей, включая случай Адама Рейна, 16-летнего подростка из Южной Калифорнии, чья семья утверждает, что чат-бот обсуждал методы самоубийства с ним более 200 раз, прежде чем он покончил с собой в апреле 2025 года. На этой неделе OpenAI отметила эти иски как одни из главных рисков для своего бизнеса в финансовом документе, представленном инвесторам.

      Сотрудники также начали задаваться вопросом, служит ли эта функция заявленной миссии OpenAI. Устав компании обязывает ее создавать искусственный общий интеллект, который приносит пользу человечеству. Некоторые сотрудники нашли трудным примирить эту амбицию с инженерными усилиями, необходимыми для того, чтобы заставить чат-бота говорить непристойности, не нарушая закон.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных AI-артов. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Расчет инвесторов

      Инвесторы высказали то, что могло стать решающим возражением: экономика не оправдывала риск. Два человека, знакомых с ситуацией, сообщили Financial Times, что некоторые инвесторы задавались вопросом, зачем OpenAI ставить под угрозу свою репутацию ради продукта с "относительно небольшой выгодой". Рынок контента для взрослых, созданного ИИ, существует, но им управляет созвездие меньших, менее контролируемых компаний. Для компании, привлекающей капитал с оценкой в 300 миллиардов долларов и стремящейся к корпоративным клиентам, ущерб для бренда от ассоциации с откровенным контентом перевешивал потенциальный доход.

      Проблема верификации возраста усилила эту озабоченность. Подход OpenAI основывался на предсказании возраста с помощью ИИ, а не на жесткой проверке личности, и внутренние тесты показали уровень ошибок примерно 10 процентов, что означает, что примерно один из десяти пользователей мог быть неправильно классифицирован. Для продукта, предназначенного для того, чтобы держать откровенный контент подальше от несовершеннолетних, эта погрешность не является округлением. Это регуляторная и репутационная катастрофа, которая ждет своего часа, особенно в юридической среде, где несколько штатов США приняли или предложили законы, требующие от платформ проверять возраст пользователей перед предоставлением доступа к материалам для взрослых.

      Неделя отступлений

      Решение о взрослом режиме не существует в изоляции. В понедельник OpenAI объявила, что прекратит работу над Sora, инструментом генерации видео на основе ИИ, который она позиционировала как креативную платформу для кинематографистов и создателей контента. Sora потребляла огромные вычислительные ресурсы относительно своих доходов, и ее самое заметное коммерческое партнерство, трехлетнее лицензионное соглашение с Disney, которое позволило бы пользователям генерировать видео с персонажами Disney, Marvel, Pixar и Star Wars, рухнуло после объявления о закрытии. Disney планировала инвестировать 1 миллиард долларов в OpenAI в рамках сделки. Деньги не были переданы.

      Вместе три отмены рисуют картину компании, которая отступает от экспериментов с потребительскими продуктами и сосредотачивается на своем основном бизнесе. Financial Times сообщила, что инвесторы больше заинтересованы в том, чтобы увидеть, как OpenAI объединяет ChatGPT с помощниками по программированию для разработки "суперприложения", направленного на трансформацию того, как работают бизнесы, видение с более ясной монетизацией и меньшими репутационными рисками, чем генерация видео или эротические чат-боты.

      OpenAI заявила, что перераспределит ресурсы на робототехнику и автономные программные агенты, области, где путь от исследований к коммерческой ценности более прямой, а регуляторная среда, хотя и сложная, не включает в себя специфическую токсичность сексуализированного ИИ и неудачи в области безопасности детей.

      Шаблон

      В стратегии продуктов OpenAI наблюдается повторяющаяся динамика: амбициозно анонсировать, столкнуться с реальными осложнениями, которые менее уверенные организации могли бы предвидеть, а затем отступить, представляя отмену как разумное исследование. Взрослый режим был анонсирован до того, как были решены технические проблемы безопасной генерации контента, до того, как система верификации возраста могла достичь приемлемой точности, и до того, как были учтены опасения консультативного совета по поводу вреда для психического здоровья. Партнерство Sora с Disney было анонсировано до того, как продукт продемонстрировал коммерческую жизнеспособность. В обоих случаях анонс вызвал освещение и сигнализировал о амбициях, но последующие действия выявили разрывы между тем, что было обещано, и тем, что могло быть доставлено.

      Готовность компании отложить функцию, а не продвигать ее, несмотря на риски, сама по себе заслуживает внимания. Это предполагает, что давление со стороны исков, инвесторов и внутреннего несогласия начинает функционировать как корректирующий механизм, отводя OpenAI от границ того, что технически возможно, к тому, что коммерчески и этически устойчиво. Является ли этот механизм надежным или просто реагирует на наиболее заметные кризисы, является вопросом, на который ответит следующее объявление о продукте.