Una demanda de un diputado del Reino Unido podría decidir si xAI es responsable de lo que produce Grok.

      El caso gira en torno a una cuestión de autoría. Cuando un usuario escribe un aviso y Grok devuelve una imagen sexualizada de una mujer real, ¿quién la creó, la persona en el teclado o la empresa que construyó la máquina? El 3 de junio, la diputada laborista Jess Asato presentó una demanda en el Tribunal Superior de Inglaterra que pide a un tribunal que decida, y al hacerlo establezca la primera prueba de alto perfil en el Reino Unido sobre si un desarrollador de IA puede ser considerado directamente responsable por lo que su herramienta genera. Los hechos detrás de la demanda son feos y específicos. Asato, que representa a Lowestoft, dice que los usuarios le pidieron a Grok en enero que produjera imágenes de ella en bikini, junto a un video explícito descrito en su presentación como mostrando cómo la estaban cloroformando y preparándola para un asalto sexual. Esas imágenes fueron luego compartidas y discutidas en X, la plataforma que posee xAI, y utilizadas para generar más material. Asato anunció la demanda ella misma, escribiendo que era “solo una de miles de mujeres e incluso niños” objetivo de abusos por parte de IA deepfakes. Lo que hace que la demanda sea significativa es su teoría legal más que sus hechos. Asato está demandando a xAI por uso indebido de información privada y violaciones de la ley de protección de datos, el argumento es que la empresa está expuesta a pesar de que los usuarios individuales escribieron los avisos. Ella busca daños, un reconocimiento formal de que lo que le sucedió fue ilegal, y una orden que requiera a xAI cumplir con la ley del Reino Unido. “Mi esperanza es que esto reequilibre los derechos de los individuos frente a las grandes empresas tecnológicas”, dijo al Financial Times, “que deberían haber puesto salvaguardias antes de dañar a mujeres y niños”. Esa es la pregunta abierta que los tribunales del Reino Unido aún no han resuelto. Los casos existentes de deepfake tienden a perseguir a los individuos que crearon o compartieron el material. Asato está yendo más allá de ellos hacia el desarrollador, probando si construir y operar un generador que produce imágenes sexuales no consensuadas es en sí mismo demandable. Una victoria redefiniría cómo cada empresa que ofrece generación de imágenes en el Reino Unido piensa sobre la responsabilidad. Una derrota confirmaría que la responsabilidad se detiene en el usuario. xAI dijo en enero que había limitado la capacidad de Grok para producir imágenes sexualmente explícitas, pero esas salvaguardias resultaron fáciles de eludir cuando se probaron. La empresa no ha comentado públicamente sobre la demanda de Asato. La demanda también se presenta en una compañía abarrotada. xAI enfrenta investigaciones sobre la generación de imágenes de Grok en la UE, el Reino Unido y California, y la investigación de Ofcom sobre X bajo la Ley de Seguridad en Línea se abrió en enero debido a informes de que la herramienta se había utilizado para crear imágenes íntimas no consensuadas y material de abuso sexual infantil. La presión también ha venido de fuera de Gran Bretaña, con fiscales de París y un ministro suizo persiguiendo sus propias acciones sobre el material generado por Grok. La de Asato es la que se enmarca más claramente como un precedente. El momento es incómodo para Musk, cuya SpaceX, ahora propietaria tanto de xAI como de X, se está preparando para salir a bolsa. No está claro si la presión legal alcanzará la OPI. Lo que está claro es que las restricciones sobre Grok ahora parecen más propensas a venir de una sala de tribunal que de la empresa que lo construyó.