420 niños del Reino Unido informaron sobre deepfakes explícitos de sí mismos en seis meses. El problema está empeorando.

      Los informes de deepfakes sexuales generados por IA que involucran a niños del Reino Unido están aumentando

      Los niños en el Reino Unido están reportando un aumento drástico en imágenes explícitas generadas por IA que los representan, según cifras de Report Remove, un servicio en línea que permite a los jóvenes informar de manera anónima sobre imágenes íntimas compartidas sin consentimiento.

      El servicio recibió 420 informes en los primeros seis meses de 2026 de niños que creían que imágenes de sí mismos habían sido manipuladas o fabricadas. Eso ya es más alto que los 397 informes registrados durante todo 2025, según The Guardian.

      Las cifras destacan un problema creciente con la IA generativa: crear imágenes falsas convincentes de una persona real requiere cada vez menos habilidad técnica, mientras que detener la propagación de esas imágenes puede ser considerablemente más difícil.

      La IA está facilitando la creación de imágenes falsas

      Report Remove, operado por la Internet Watch Foundation junto con el NSPCC, ha visto suficiente material manipulado que involucra a menores de 18 años como para agregar una opción específica para que los niños marquen material generado por IA. El servicio dijo que la mayoría de los informes de imágenes manipuladas que recibió en 2025 y 2026 eran lo suficientemente graves como para cruzar su umbral para material de abuso sexual infantil.

      Dan Sexton, director de tecnología de la Internet Watch Foundation, dijo que las cifras demuestran lo difícil que es prevenir que fotografías ordinarias sean manipuladas una vez que están disponibles en línea.

      Eso es particularmente preocupante porque la fotografía original no necesita ser explícita. Una imagen inofensiva tomada de una cuenta pública de redes sociales puede potencialmente ser alterada y convertida en algo abusivo.

      El problema también se extiende más allá de la vergüenza o el daño reputacional. Según el informe, algunas víctimas han sido blanco de sextorsión, con perpetradores exigiendo dinero o amenazando con distribuir imágenes manipuladas más ampliamente. También ha habido casos que involucran intentos de atacar escuelas recolectando fotografías de alumnos y utilizando IA para manipularlas.

      Los padres y las plataformas se ven obligados a repensar la seguridad

      Los expertos en seguridad en línea dicen que las empresas tecnológicas necesitan salvaguardias más fuertes en torno a las herramientas de generación de imágenes por IA. Rani Zachariah, experta en seguridad en línea del NSPCC, dijo que el aumento en los niños que reportan imágenes sexuales falsas o generadas por IA es alarmante pero predecible, argumentando que se necesitan construir protecciones más fuertes en los productos de IA.

      La Agencia Nacional del Crimen y la Internet Watch Foundation también han instado a los padres y tutores a ser cautelosos al publicar imágenes identificables de niños públicamente. El consejo no es necesariamente eliminar cada fotografía de Internet, sino reducir cuán fácilmente los extraños pueden acceder y reutilizar imágenes identificables.

      Para los niños ya afectados, Report Remove proporciona una forma de marcar imágenes de manera anónima y buscar ayuda para que sean eliminadas.

      Sin embargo, el problema más grande se mueve más rápido que las salvaguardias. Las herramientas de IA pueden generar imágenes cada vez más convincentes en segundos, mientras que eliminar copias de sitios web y plataformas sociales es un proceso más lento. Como advirtió Sexton, todos están potencialmente en riesgo.