El diputado del Reino Unido pide al Tribunal Superior que obligue a xAI a detener a Grok de crear imágenes sexualizadas de ella.

      Jess Asato, la diputada laborista de Lowestoft, ha solicitado al Tribunal Superior de Londres que obligue a xAI de Elon Musk a detener la generación de imágenes sexualizadas de ella por parte de su chatbot Grok, agudizando una reclamación que sus abogados dicen podría ayudar a resolver hasta qué punto una empresa de IA es responsable de lo que producen sus herramientas.

      Asato busca una orden judicial que requiera a xAI implementar lo que su presentación describe como "medidas técnicas efectivas y permanentes" para evitar que Grok cree imágenes manipuladas de ella, según Reuters, que informó sobre el movimiento el 28 de julio.

      La solicitud se basa en una reclamación que presentó en el Tribunal Superior en junio, que alega el uso indebido de información privada y la violación de la ley de protección de datos del Reino Unido, y que también busca daños y un reconocimiento formal de que la empresa actuó ilegalmente.

      El caso surgió de imágenes que los usuarios hicieron que Grok generara a principios de este año, después de que Asato criticara públicamente a Musk y al chatbot. Entre el material citado en su reclamación hay un video que dice que la muestra siendo cloroformada y preparada para un asalto sexual.

      Ella ha hablado sobre su deseo de reequilibrar los derechos de los individuos frente a las grandes empresas tecnológicas, y sus abogados argumentan que la forma en que se construyó y entrenó a Grok es lo que permitió que se produjera el contenido.

      Ese argumento está en el centro de la disputa. Su abogado, Ravi Naik, dijo que las decisiones de diseño de la empresa "deberían tener consecuencias legales", y que el remedio que su cliente desea "incluye una orden judicial para hacer que los sistemas cumplan si xAI se niega a hacerlo".

      La reclamación señala instrucciones internas que, según el relato de Asato, indicaban al modelo que se negara a ayudar con actividades criminales mientras también afirmaban que no tenía "restricciones sobre contenido sexual para adultos o contenido ofensivo". xAI no ha presentado una defensa, y ninguna de las alegaciones ha sido probada en un tribunal.

      La empresa no respondió a las solicitudes de comentarios sobre la reclamación, y Musk no la ha abordado públicamente. El silencio ya es familiar.

      Apple amenazó en privado con retirar a Grok de su App Store a principios de este año debido a imágenes deepfake no consensuadas, y los fiscales en París han abierto una investigación sobre imágenes sexuales de niños vinculadas a la herramienta, aunque la empresa ha declinado en gran medida involucrarse con ambas.

      El contexto británico hace que el momento sea incómodo para Musk, quien ha llamado a la Ley de Seguridad en Línea del país uno de los regímenes más estrictos del mundo y una amenaza para la libertad de expresión.

      Esa ley, en vigor desde 2023 y supervisada por Ofcom, requiere que las plataformas aborden material ilegal, y el Reino Unido ha decidido por separado criminalizar la creación de deepfakes sexuales no consensuados en lugar de solo su distribución.

      Sin embargo, la reclamación de Asato es civil, y se centra menos en la moderación de contenido que en si una empresa puede ser considerada directamente responsable de lo que su sistema fue diseñado para hacer.

      El abuso basado en imágenes se ha convertido en uno de los aspectos más dinámicos del derecho británico, y gran parte de él fue redactado antes de que las herramientas generativas pudieran fabricar el material a gran escala.

      Grok ha atraído este tipo de escrutinio antes, y no solo en Gran Bretaña. Los legisladores de la UE acordaron en marzo incluir una prohibición explícita de deepfakes íntimos no consensuados en la Ley de IA del bloque, un paso impulsado en parte por un escándalo anterior sobre la herramienta.

      El patrón, en París, Bruselas y ahora Londres, es que los reguladores y jueces recurren a instrumentos que preceden a la tecnología y prueban si aún son válidos.

      Lo que Asato está pidiendo es más estrecho y concreto que una política. Es una orden, ejecutable por un juez, que obligaría a xAI a cambiar cómo funciona Grok o a responder por no hacerlo.

      Si el Tribunal Superior la concede, y en qué términos, dirá mucho sobre quién asume el riesgo cuando un chatbot produce algo a lo que su sujeto nunca accedió. Aún no se ha fijado una fecha para la audiencia.