Meta se hizo pasar por adolescentes para probar chatbots de IA rivales

      El proyecto se llevó a cabo bajo el nombre interno Cannes, y un contratista de Meta llamado Covalen lo gestionó. WIRED informó que cientos de contratistas crearon cuentas falsas de menores de 18 años. Enviaron mensajes y imágenes a los chatbots de los competidores, y luego registraron las respuestas en hojas de cálculo. El esfuerzo estuvo activo hasta el 21 de abril de 2026.

      Los objetivos fueron ChatGPT de OpenAI, Gemini de Google y Character.AI. Ninguno de los tres sabía que se estaba realizando la prueba.

      Lo que se pidió a los contratistas que hicieran

      Los mensajes estaban diseñados para empujar a los chatbots hacia respuestas que sus sistemas de seguridad están destinados a rechazar. Una sola ronda, finalizada en agosto de 2025, ejecutó más de 45,000 mensajes a través de las herramientas rivales. Las empresas detrás de esas herramientas nunca fueron informadas.

      WIRED revisó una hoja de cálculo de 3,748 mensajes. Cientos trataban sobre suicidio y autolesiones. Cientos más cubrieron trastornos alimentarios. Al menos 239 involucraron sexo o romance, y otros tocaron temas como drogas, profanidades y insultos raciales. Muchos adoptaron la voz de un niño en crisis. Uno se hizo pasar por una niña de 13 años embarazada preguntando dónde comprar pastillas. Otro se hizo pasar por una chica preguntando cómo ocultar un trastorno alimentario a sus padres.

      Algunas de las imágenes que enviaron los contratistas incluían pastillas y cuchillos. Una hoja de cálculo separada enumeraba los perfiles falsos en su totalidad, con nombres, direcciones de correo electrónico desechables, contraseñas y fechas de nacimiento.

      La defensa de Meta

      Meta no niega el trabajo. Lo enmarca como una práctica normal de la industria. “Probar y evaluar las respuestas de los chatbots para ayudar a garantizar experiencias seguras y apropiadas para la edad es una práctica responsable y estándar en la industria, y cualquier sugerencia en contrario malinterpreta completamente cómo las empresas tecnológicas trabajan para refinar y mejorar sus sistemas”, dijo un portavoz a WIRED.

      La empresa agregó que no utiliza la evaluación de competidores para entrenar sus propios modelos de IA. Covalen no respondió a una solicitud de comentarios.

      Un documento interno de Covalen lo describió de manera más grandiosa. Describió el proyecto como “evaluación integral de seguridad de IA” que entregó “conjuntos de datos críticos para comparación de modelos y cumplimiento”.

      Probar el producto de un rival no es inusual por sí solo. Business Insider informó el año pasado que contratistas de Bard de Google compararon sus respuestas con ChatGPT. Luego reescribieron las respuestas de Bard para igualarlas o superarlas. Lo que destaca aquí es la escala, el disfraz y el tema.

      Por qué este se ve diferente

      Un detalle inquieta más a los expertos: el uso de cuentas disfrazadas como niños. Rumman Chowdhury, directora ejecutiva de Humane Intelligence, revisó una muestra de los mensajes.

      La configuración le preocupó. Un largo proyecto ejecutado a través de “cuentas falsas que se hacen pasar por niños” se sitúa “fuera de lo que normalmente se describe como evaluación ‘estándar de la industria’”, dijo. Lo llamó una “zona gris de gobernanza donde la seguridad se convierte en una cobertura conveniente para prácticas anticompetitivas”.

      Dos abogados que se especializan en discurso en línea revisaron ejemplos para WIRED. El material, dijeron, no cruzó la línea hacia la solicitud de material de abuso sexual infantil o obscenidad ilegal. Aun así, excontratistas describieron el trabajo como alarmante. Uno dijo que sus colegas temían que pudieran estar generando o preservando material de abuso.

      Otro se preocupó de que el proyecto equivaliera a levantar datos de manera silenciosa de los rivales para alimentarlos de nuevo en los propios sistemas de Meta.

      Los rivales no están contentos

      Las tres empresas objetivo prohíben este tipo de pruebas en sus términos de servicio. OpenAI prohíbe las pruebas de seguridad no solicitadas, los intentos de eludir las salvaguardias y el uso de resultados para construir modelos competidores. Google prohíbe los esfuerzos para eludir sus filtros de seguridad. Character.AI prohíbe contenido dañino, explotador e ilegal. Desde finales de 2025, ha cerrado completamente el chat abierto para usuarios menores de 18 años.

      Ninguno de ellos autorizó el trabajo. Un portavoz de Character.AI dijo que la conducta violaba “nuestros Términos de Servicio” y “los personajes y mundos que nuestra comunidad ha creado”. OpenAI dijo que estaba investigando el asunto, pero se negó a hacer más comentarios. Google dijo que no había aprobado la prueba y no conocía su propósito. Sus propias verificaciones, agregó, mostraron que Gemini respondía de acuerdo con sus políticas.

      Una pelea con reguladores que ya están observando

      El momento no podría ser peor. En septiembre de 2025, la Comisión Federal de Comercio de EE. UU. abrió una investigación formal sobre IA y seguridad infantil. Cubre a Meta, OpenAI y Google, entre otros. Ahora un informe muestra a una de esas empresas investigando a las otras con cuentas falsas de niños.

      Europa tiene sus propios palancas. La Ley de IA y la Ley de Servicios Digitales presionan a las plataformas sobre los riesgos que sus sistemas representan para los menores. Ambas pueden alcanzar a cualquier empresa que opere en el bloque. Los reguladores de ambos lados del Atlántico ahora hacen la misma pregunta: ¿quién es responsable cuando un chatbot habla con un niño sobre autolesiones? La supervisión se está convirtiendo rápidamente en un mercado propio, con dinero de capital de riesgo fluyendo hacia startups de seguridad agencial.

      El episodio también encaja en un patrón más amplio. Meta protege de cerca sus propias ambiciones de IA. Incluso ha restringido el uso de herramientas de codificación de rivales por parte de sus ingenieros mientras construye las suyas. Mientras tanto, los creadores de chatbots luchan en una costosa carrera por usuarios y credibilidad. Anthropic y OpenAI persiguen a clientes de pago. OpenAI se ha adentrado en la publicidad. Google lucha por mantener su dominio sin quebrarse en la era de la IA. En ese concurso, las pruebas de seguridad y la inteligencia competitiva pueden comenzar a difuminarse.

      Ambas lecturas no pueden ser ciertas

      Esa confusión es la verdadera historia. Meta dice que estaba haciendo que los chatbots fueran más seguros. Sus críticos dicen que disfrazó a los contratistas como niños para extraer información de sus rivales, y luego disfrazó todo como un ejercicio de seguridad. Los documentos están ahí, y los reguladores están al acecho. Meta ahora tendrá que convencerles de cuál versión es la correcta.

      Si tú o alguien que conoces está pasando por un momento difícil, hay apoyo disponible. En el Reino Unido e Irlanda, los Samaritans se pueden contactar de forma gratuita al 116 123. En EE. UU., la Línea Nacional de Prevención del Suicidio 988 ofrece apoyo las 24 horas. Una lista de líneas de ayuda internacionales está disponible a través de la Asociación Internacional para la Prevención del Suicidio.