Brasil está definiendo qué es un deepfake, cinco semanas antes de votar.

      Brasil vota el 4 de octubre, y su tribunal electoral pasó el martes trabajando en una pregunta que muchos reguladores aún están luchando por responder: ¿qué cuenta exactamente como un deepfake?

      Se esperaba que el Tribunal Superior Electoral dictara una resolución sobre restricciones más amplias para el material de campaña generado por IA, informó Reuters.

      Las reglas propuestas van más allá de simplemente prohibir deepfakes engañosos. Requerirían que el material de campaña generado por IA esté etiquetado, prohibirían sistemas que recomienden candidatos e introducirían un período de apagón durante el cual no se podría publicar ni promover nuevo contenido político sintético inmediatamente antes y después de la votación.

      La definición es importante porque Brasil ya ha encontrado un caso que se sitúa incómodamente entre la divulgación y el engaño.

      En julio, Jair Bolsonaro, quien está bajo arresto domiciliario y prohibido de comunicación pública, apareció en el lanzamiento de campaña de su hijo como un avatar generado por IA que se identificó explícitamente como una simulación.

      Esa divulgación es central para el argumento legal. Las reglas electorales existentes en Brasil apuntan al contenido fabricado que puede engañar a los votantes, pero un avatar de IA que le dice abiertamente a los espectadores que es una representación de IA no encaja perfectamente en esa definición.

      La coalición de Lula solicitó al TSE, argumentando que el video aún violaba las reglas que rigen el contenido sintético utilizado para influir en los votantes.

      La campaña de Flávio Bolsonaro respondió que una simulación claramente etiquetada no debería ser tratada como un deepfake, un argumento que es difícil de desestimar si la definición se basa principalmente en si los espectadores están siendo engañados.

      El propio tribunal ha mostrado cierto desacuerdo sobre dónde debería estar esa línea. El presidente del TSE, Kássio Nunes Marques, ha sugerido que el material de campaña generado por IA puede ser permisible cuando no causa daño, mientras que el juez del Tribunal Supremo, Alexandre de Moraes, ha advertido que la misma tecnología podría violar las restricciones de arresto domiciliario de Bolsonaro y contribuir a la desinformación electoral.

      Brasil ya tenía reglas que cubrían la IA antes de esta elección. El TSE introdujo requisitos antes de las elecciones municipales de 2024, incluyendo la divulgación de contenido sintético, lo que ayuda a explicar por qué el avatar de Bolsonaro se presentó como una simulación en lugar de como un intento de hacerse pasar por él sin divulgación.

      Se espera que la decisión del martes proporcione una definición más clara de lo que está y no está permitido, aunque el momento es difícil.

      Con cinco semanas restantes antes de una elección nacional, las campañas, plataformas y reguladores tendrán muy poco tiempo para ajustarse a cualquier marco que establezca el tribunal.

      El problema que Brasil está tratando de abordar existe mucho más allá de sus fronteras. Las reglas basadas en la divulgación, incluidas las que se están desarrollando bajo la Ley de IA de la UE, se construyen sobre la suposición de que informar a las personas cuando el contenido ha sido generado o manipulado por IA puede reducir su capacidad para engañarlas.

      El caso de Bolsonaro pone esa suposición bajo presión porque el contenido puede ser completamente transparente sobre su naturaleza sintética y aún así ser políticamente persuasivo.

      También hay una pregunta que las reglas existentes no estaban realmente diseñadas para responder. Un político que está legalmente prohibido de hablar públicamente pero aparece a través de una representación generada por IA no ha dirigido físicamente a la multitud, sin embargo, el mensaje político puede llegar a los votantes casi tan efectivamente como si el político hubiera estado allí en persona.

      Las restricciones propuestas sobre los sistemas de recomendación introducen un problema separado porque van más allá del contenido en sí y hacia la forma en que las plataformas distribuyen material político.

      Prohibir que los algoritmos recomienden candidatos particulares requeriría que los reguladores examinen la mecánica ordinaria de las plataformas, lo cual es considerablemente más difícil de monitorear que si un video individual lleva una divulgación de IA.

      Brasil tiene más experiencia con este tipo de intervención que muchos países. Sus tribunales han estado dispuestos a asumir un papel más activo en la regulación de plataformas en línea y el discurso político, y el TSE ya había establecido reglas electorales específicas para la IA antes de que comenzara la campaña actual.

      La aplicación de las reglas probablemente será más difícil que definirlas. Un apagón sobre contenido político sintético alrededor del día de las elecciones es útil solo si alguien puede identificar material sintético lo suficientemente rápido como para detener su difusión, lo que se vuelve particularmente difícil cuando el contenido se mueve a través de grupos de mensajería privada en lugar de redes sociales públicas.

      La disposición de apagón también es la parte menos probada de la propuesta. Tratar el contenido político generado por IA como una categoría separada que requiere un período de calma alrededor de una elección es un paso significativo más allá de las reglas europeas existentes, que generalmente se centran en la transparencia y las circunstancias en las que el contenido sintético puede ser engañoso.

      Por lo tanto, los reguladores europeos tienen una razón práctica para observar lo que sucede en Brasil.

      Los propios requisitos de transparencia de la UE se basan en algunas de las mismas suposiciones sobre la divulgación, mientras que las elecciones europeas aún no han producido un caso comparable que involucre a un político que está prohibido de comunicarse pero que aún puede llegar a los votantes a través de una representación generada por IA.

      La escala del electorado de Brasil hace que la aplicación sea aún más difícil. Más de 150 millones de personas son elegibles para votar, y las aplicaciones de mensajería están profundamente integradas en la comunicación política, gran parte de la cual tiene lugar en conversaciones y grupos privados que los reguladores no pueden monitorear de manera realista de la misma manera que las publicaciones públicas.

      Brasil está tratando de establecer los límites mientras la campaña ya está en marcha, y los actores políticos afectados por esos límites tienen un interés directo en cómo se trazan.

      Dejar las reglas indefinidas crearía sus propios problemas, pero establecerlas solo semanas antes de que los votantes acudan a las urnas deja muy poco margen para que los reguladores, campañas y plataformas aprendan cómo funcionan.

      La elección se lleva a cabo el 4 de octubre, dejando al TSE con aproximadamente cinco semanas para que las reglas que aprobó el martes sean probadas en la práctica.