Правила ИИ-компаньонов Китая заставляют закрыть Doubao и Qwen

      TL;DRByteDance’s Doubao и Alibaba’s Qwen отключают функции пользовательских AI-агентов перед вступлением в силу Временных мер Китая по взаимодействию с антропоморфным AI, которые начнут действовать 15 июля. Правила нацелены на ботов, предлагающих устойчивое эмоциональное взаимодействие, при этом освобождая агентов для работы и продуктивности. Tencent убрала аналогичную функцию Yuanbao в июне, и пользователи протестуют против потери истории чатов.

      Doubao сообщил пользователям в пятницу, что его функция агента будет отключена 15 июля, ссылаясь на корректировку функций продукта. Связанные данные перестанут быть доступными или восстанавливаемыми в приложении после 15 октября.

      Qwen последовал в субботу, заявив, что антропоморфные интерактивные агенты и созданные пользователями агенты будут отключены 10 июля, а более широкие функции агентов будут отключены к 15 июля. Пользователи потеряют доступ к настройкам агентов и своим предыдущим разговорам.

      💜 технологий ЕСПоследние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и немного сомнительного AI-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!Оба приложения позволяют пользователям создавать именованных помощников, репетиторов, персонажей ролевых игр или компаньонов с фиксированными личностями и стилями общения. Tencent убрала аналогичную функцию из своего помощника Yuanbao в июне, и китайские государственные СМИ подтверждают, что закрытия связаны с соблюдением нормативных требований.

      Новые правила

      Временные меры по услугам антропоморфного взаимодействия с AI были выпущены в апреле Управлением киберпространства Китая и четырьмя другими агентствами. Они охватывают услуги, которые имитируют человеческие черты личности, модели мышления и стили общения для обеспечения устойчивого эмоционального взаимодействия.

      Боты для обслуживания клиентов, вопросы и ответы, рабочие помощники и инструменты для образования и исследований исключены, при условии, что они избегают устойчивого эмоционального взаимодействия. Меры указывают на риски, охватывающие экстремистский контент, утечки конфиденциальной информации, вред психическому здоровью и зависимость, и требуют систем противодействия зависимости и проверки личности для несовершеннолетних.

      «Текущие агенты еще не зрелые», - сказал Пан Хэлин, член экспертного комитета Министерства промышленности и информационных технологий Китая, в интервью SCMP. Он отметил, что политика приоритизирует безопасность, практическое использование и стандартизацию.

      Компаньоны уходят, работники остаются

      Пекин не против агентов как таковых. Регуляторы выпустили рекомендации в мае по управляемому развитию AI-агентов, а Китай выпустил национальные стандарты в июне, охватывающие идентичность агентов, их обнаружение, взаимодействие и использование инструментов.

      Шаблон предполагает, что Китай хочет, чтобы агенты стали инфраструктурой для повышения производительности, одновременно сжимая компаньонов-ботов, которые формируют квази-социальные связи с пользователями. Исследователи давно документируют риски таких связей, от жажды AI-девушек к личным данным до того, что академики Уортон называют когнитивной капитуляцией.

      Платформы за пределами Китая также испытывают растущее давление из-за эмоционально вовлекающих ботов, при этом Meta притворяется подростками, чтобы протестировать конкурирующие чат-боты на чувствительные темы. Пекин просто выбрал сначала регулировать, а затем позволить продуктам догнать.

      Ситуация болезненна для обеих компаний, которые вкладывают ресурсы в AI, от домашних ускорителей Alibaba до стремления Doubao стать стандартным помощником Китая. Это также происходит в то время, когда Пекин ужесточает контроль над сектором другими способами, включая планы по проверке инвестиций США в свои ведущие AI-компании.

      Пользователи открыто скорбели по поводу закрытия, один из постов на Weibo назвал агентов давней эмоциональной поддержкой и lamented отсутствие легкого способа экспортировать истории чатов. В экономике агентов Китая компаньоны уходят первыми, а работники остаются.