Китай уже готовит правила для противодействия рискам, связанным с цифровыми людьми, созданными с помощью ИИ.
Китай усиливает усилия по регулированию своей быстрорастущей индустрии «цифровых людей», поскольку эмоционально погружающие AI-аватары – некоторые из которых смоделированы по образу умерших близких – получают широкое распространение по всей стране. Этот шаг происходит на фоне того, что коммерческий потенциал технологии и этические риски становятся все более очевидными.
Горе, технологии и растущая индустрия
Чжан Синью, 47-летняя женщина из провинции Ляонин, обратилась к искусственному интеллекту после того, как потеряла отца от рака. Работая с компанией Super Brain, она создала цифровой аватар, который выглядит и звучит как ее отец, что позволяет ей продолжать общение в интернете. Этот опыт, как она рассказала AFP, помог ей справиться с горем и восстановить эмоциональную силу.
AI-чат-боты Unsplash
Ее история отражает более широкую тенденцию в Китае, где AI-сгенерированные «цифровые люди» быстро набирают популярность. Эти аватары – часто реалистичные по внешнему виду и поведению – широко используются в социальных сетях, особенно в электронной коммерции и создании контента. Согласно данным агентства Синьхуа, сектор оценивался примерно в 4,1 миллиарда юаней (600 миллионов долларов) в 2024 году, увеличившись на 85% по сравнению с предыдущим годом.
Однако не все воспринимают эту технологию положительно. Некоторые критики предупреждают, что такие аватары могут создать эмоциональную зависимость или предложить то, что сама Чжан описала как «ложное утешение», даже если подлинные чувства искренни.
Регулирование догоняет
В ответ на эти опасения Управление киберпространства Китая выпустило проект правил, направленных на ужесточение контроля. Предложенные правила требуют четкой маркировки AI-сгенерированного контента и запрещают создание цифровых реплик без согласия человека.
Правила также стремятся предотвратить злоупотребления, включая мошенничество, дезинформацию и контент, который может угрожать социальной стабильности или национальной безопасности. Компании, нарушающие эти рекомендации, могут столкнуться с штрафами от 10 000 юаней (1 460 долларов) до 200 000 юаней (29 300 долларов).
Срочность регулирования была подчеркнута вирусным инцидентом с пожилой женщиной, которая неосознанно взаимодействовала с высокореалистичным аватаром своего умершего сына. Клип, широко распространенный в китайских социальных сетях, вызвал дебаты о том, представляют ли такие использования AI утешение или обман.
Балансировка инноваций и рисков
Эксперты говорят, что подход Китая отражает знакомую схему: быстрое технологическое развитие, за которым следует быстрое регулирование. Власти особенно обеспокоены защитой несовершеннолетних, с предложенными правилами, запрещающими AI-системы, которые способствуют эмоциональной зависимости или имитируют интимные отношения для детей.
AI-чат-боты Unsplash
В то же время участники отрасли признают, что регулирование неизбежно. Основатель Super Brain описал проект правил как необходимый шаг к балансировке инноваций и ответственности.
Что ждет впереди
Проект регулирования Китая открыт для общественного обсуждения до начала мая, после чего ожидается более строгое применение. Более широкая цель правительства – ускорить внедрение AI, сохраняя при этом строгий контроль над его социальным воздействием.
Поскольку «цифровые люди» эволюционируют от новшества к основному инструменту, регулирующая модель Китая может стать образцом для других стран, сталкивающихся с аналогичными этическими вопросами – особенно в отношении идентичности, согласия и эмоциональной силы AI.
Otros artículos
Una de las agencias más controvertidas de EE. UU. está supuestamente probando el sabor de la poderosa IA Mythos de Anthropic.
El uso reportado por la NSA de Mythos de Anthropic expone una creciente división dentro de Washington, donde la resistencia del Pentágono a la empresa choca con la demanda de herramientas de IA potentes diseñadas para un trabajo serio en ciberseguridad.
El próximo dispositivo portátil de Google podría ser el Fitbit Air sin pantalla y viene por la corona de Whoop.
La próxima banda sin pantalla de Google se llamará Fitbit Air. La compañía planea renombrar Fitbit Premium a Google Health, trasladando las características de bienestar firmemente bajo la marca Google.
El streaming de IA se está volviendo común en China, quieran o no los espectadores.
IQiyi, el Netflix de China, está reformando todo su negocio en torno al contenido generado por IA y lanzando una nueva herramienta que puede manejar casi todos los aspectos de la producción cinematográfica.
Robots para la limpieza de piscinas, ventanas, corte de césped y limpieza del hogar
A los robots que aspiran y lavan el suelo de la casa ya nos hemos acostumbrado, pero en la presentación de la empresa Dreame se mostraron robots que lavan ventanas e incluso piscinas.
El próximo dispositivo portátil de Google podría ser el Fitbit Air sin pantalla y está viniendo por la corona de Whoop.
La próxima banda sin pantalla de Google se llamará Fitbit Air. La empresa planea renombrar Fitbit Premium a Google Health, trasladando las funciones de bienestar firmemente bajo la marca Google.
Robots para limpiar piscinas, ventanas, cortar césped y limpiar la casa
Ya estamos acostumbrados a los robots que aspiran y lavan el suelo de casa, pero en la presentación de la empresa Dreame se mostraron robots que lavan ventanas e incluso piscinas.
Китай уже готовит правила для противодействия рискам, связанным с цифровыми людьми, созданными с помощью ИИ.
Китай планирует ужесточить правила для ИИ "цифровых людей", балансируя эмоциональные случаи использования, такие как поддержка в горе, с опасениями по поводу согласия, обмана и злоупотреблений.