China elabora reglas contra el ciberacoso que abarcan el abuso generado por IA

      El regulador de internet de China ha publicado un borrador de reglas para combatir el ciberacoso y, según Reuters, las medidas están redactadas para abordar el abuso generado con inteligencia artificial. La Administración del Ciberespacio de China lanzó el borrador para comentarios públicos el 29 de julio, como parte de un esfuerzo creciente para controlar lo que sucede en las plataformas del país. El borrador se dirige a lo que los reguladores chinos llaman "ciberviolencia". Esto abarca la difusión en línea de información hostigadora, difamatoria o falsa que perjudica a una persona, una categoría que el regulador define de manera lo suficientemente amplia como para incluir el mal uso de la IA junto con el trolling ordinario y los ataques en grupo. La mayor parte del peso recae en las plataformas. Según el borrador, los servicios tendrían que construir clasificadores que detecten la ciberviolencia, ofrecer a los usuarios una "protección con un clic" que bloquee mensajes y comentarios entrantes, y actuar sobre esas señales restringiendo el contenido abusivo e investigando las cuentas detrás de él. La maquinaria de aplicación está detallada. Las plataformas tendrían que mantener listas negras de reincidentes, presentar informes regulares sobre sus intervenciones y ejecutar sistemas de alerta temprana para atrapar ataques en grupo antes de que escalen, con sanciones que pueden llegar hasta el cierre de la cuenta de un abusador. El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Suscríbete ahora! Algunas plataformas ya están avanzando más allá del texto. El sitio de preguntas y respuestas Zhihu, anticipándose a las reglas, ha comenzado a restringir cuentas anónimas, una señal de cuán rápido se ajustan las empresas chinas una vez que se aclara una dirección regulatoria. La dimensión de la IA es lo que lo hace oportuno. Reuters informa que las reglas están destinadas a cubrir el abuso habilitado por IA, las imágenes deepfake y el texto sintético que pueden producirse en volumen y dirigirse a un solo objetivo, una forma de acoso que los sistemas de moderación más antiguos nunca fueron diseñados para detectar. Se ajusta a un patrón de creación de reglas de IA en China. Pekín ya exige que el contenido generado por IA sea etiquetado y ha comenzado a regular los servicios de IA similares a humanos y una industria digital-humana en la que las personas incluso alquilan sus rostros a la IA, construyendo una red de reglas que trata los medios sintéticos como algo que debe ser rastreado en lugar de dejarse en paz. El interés del estado no es solo protector. Las mismas herramientas que detectan el abuso también identifican a los hablantes, y un régimen que exige a las plataformas registrar, rastrear y poner en lista negra a los usuarios entrega a las autoridades un mapa más completo de quién dice qué, un punto que los críticos de la gobernanza de internet en China repiten constantemente. Esa tensión atraviesa el borrador. Enmarcado como un escudo para las víctimas de acoso, también profundiza las obligaciones que hacen que las plataformas chinas sean responsables ante el estado, y la línea entre proteger a los usuarios y vigilarlos es, como siempre, trazada por el gobierno. Las víctimas que menciona son lo suficientemente reales. Las campañas de ciberacoso en China han llevado a las personas a desconectarse y, en algunos casos, a situaciones peores, y la ira pública tras varios casos de alto perfil ha dado a las autoridades un mandato popular para actuar. La anonimidad se sitúa en el centro de la lucha. Gran parte del abuso en línea en China se publica desde cuentas anónimas o seudónimas, y los requisitos de registro y lista negra del borrador presionan a las plataformas para que sepan quién está detrás de ellas, lo que es exactamente lo que hace que las reglas sean efectivas y lo que las hace preocupantes. Otros gobiernos están rodeando el mismo problema. Desde el abuso de deepfake hasta el acoso sintético, los reguladores de Europa a Estados Unidos están tratando de redactar reglas para la crueldad generada por IA, y el borrador de China se encuentra entre los intentos más prescriptivos hasta ahora. Lo que sucede a continuación es procedural. El borrador está abierto a comentarios públicos antes de que pueda ser finalizado, y los detalles que importan, cuán agresivamente las plataformas deben escanear y cuán precisamente están redactadas las disposiciones de IA, pueden cambiar antes de que las reglas entren en vigor. Sin embargo, la dirección está establecida. China está construyendo la infraestructura para detectar y actuar sobre el abuso generado por IA a gran escala, y sea lo que sea que diga el texto final, la expectativa que establece para las plataformas es que verán todo y responderán por ello.