La prohibición de las redes sociales en Canadá también apunta a los chatbots de IA.

      Canadá ha introducido un proyecto de ley que prohibiría a los menores de 16 años el acceso a las redes sociales y, en un giro que lo distingue de otros países, regularía los chatbots de IA en la misma medida.

      La Ley de Seguridad Digital, presentada el miércoles, es el último movimiento en una ola global de gobiernos que están tomando medidas enérgicas contra las plataformas por el daño a los niños. La versión de Canadá es más amplia que la mayoría.

      No es una prohibición general. Las plataformas pueden solicitar una exención si demuestran que cumplen con estándares de seguridad sólidos, un enfoque diseñado para impulsar a las empresas a rediseñar sus servicios en lugar de simplemente excluir a los niños.

      "La seguridad de los niños no puede ser una idea secundaria", dijo Marc Miller, el ministro de identidad y cultura canadiense, quien está dirigiendo el proyecto de ley para el gobierno de Mark Carney.

      Chatbots en la mira

      La característica más novedosa del proyecto de ley es que trata a los chatbots de IA como un problema de seguridad infantil por derecho propio. Crearía un regulador digital para establecer estándares de seguridad tanto para las redes sociales como para los servicios de chatbots.

      Las plataformas tendrían que identificar riesgos, incorporar un diseño apropiado para la edad y ofrecer herramientas de bloqueo y señalización, algunas de las cuales han comenzado a agregar por su cuenta, como la configuración de cuentas globales para adolescentes de Meta. El proyecto de ley apunta específicamente a la maquinaria de compromiso, los feeds algorítmicos, la reproducción automática y el desplazamiento infinito, que el gobierno dice amplifican el daño.

      El enfoque en los chatbots no es abstracto en Canadá. El proyecto de ley llega semanas después de que familias afectadas por uno de los peores tiroteos masivos del país demandaran a OpenAI, alegando que la empresa sabía a partir de las conversaciones de ChatGPT del atacante que estaba planeando violencia y no alertó a la policía. OpenAI no ha sido considerada responsable, y las afirmaciones no han sido probadas.

      El incumplimiento sería costoso: hasta el 3 por ciento de los ingresos globales o 10 millones de dólares canadienses, lo que sea mayor. Las plataformas también tendrían que eliminar imágenes íntimas no consensuadas dentro de las 24 horas posteriores a un informe.

      Siguiendo a Australia, pero más allá

      Australia se convirtió en el primer país en prohibir a los menores de 16 años el acceso a las redes sociales en diciembre, desactivando alrededor de 5 millones de cuentas de adolescentes. Canadá está tratando explícitamente de ir más allá, regulando el diseño y los chatbots, no solo el acceso.

      El problema es la aplicación. El propio regulador de Australia encontró que, a pesar de las desactivaciones masivas, aproximadamente siete de cada diez niños mantenían una cuenta de todos modos, un recordatorio de que redactar la ley es la parte fácil.

      El proyecto de ley de Canadá, C-34, tiene un largo camino por delante. Los funcionarios dicen que podría tardar un año en aprobarse y otros 18 meses en establecer el regulador. Francia, Dinamarca, Polonia y Grecia están considerando límites similares, por lo que el resultado será observado más allá de Ottawa.