Apple amenazó en secreto con retirar Grok de la App Store debido a desnudos deepfake.

      Una carta que Apple envió a senadores estadounidenses, obtenida por NBC News, revela que Apple rechazó una actualización inicial de Grok y advirtió que la aplicación podría ser eliminada a menos que xAI hiciera más cambios. Solo una segunda presentación fue aprobada.

      Apple amenazó en privado con eliminar Grok, el chatbot de IA de xAI, de la App Store en enero después de que la empresa de Elon Musk no lograra detener adecuadamente a la aplicación de generar deepfakes sexualizados no consensuales.

      La amenaza no se hizo pública en ese momento, pero una carta que Apple envió a tres senadores estadounidenses, obtenida por NBC News, revela que tras bambalinas Apple estaba tomando medidas directas, y que el primer intento de xAI para solucionar el problema fue rechazado por ser insuficiente.

      La controversia comenzó a principios de 2026 cuando las funciones de generación de imágenes de Grok se utilizaron para producir una inundación de representaciones sexualizadas y no consensuales de mujeres reales y, en algunos casos, menores, que luego fueron compartidas en X.

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! Grupos de defensa y legisladores exigieron a Apple y Google que eliminaran tanto las aplicaciones X como Grok de sus tiendas. La carta de Apple, enviada el 30 de enero a los senadores Ron Wyden, Ben Ray Luján y Edward Markey, confirma que la compañía revisó las presentaciones de xAI y encontró que tanto X como Grok violaban sus directrices de la App Store, que prohíben contenido “ofensivo, insensible, perturbador”.

      La respuesta de Apple, según la carta, fue contactar a los equipos detrás de ambas aplicaciones y exigir un plan de moderación de contenido. xAI presentó una actualización, que Apple rechazó, diciendo al desarrollador que los “cambios no eran suficientes”.

      Apple luego revisó las presentaciones revisadas de X y Grok: determinó que X había resuelto sustancialmente sus violaciones, pero Grok seguía fuera de cumplimiento.

      Apple rechazó la presentación de Grok y advirtió que se requerían cambios adicionales “o la aplicación podría ser eliminada de la App Store”. Tras un mayor compromiso, Apple finalmente aprobó una presentación posterior de Grok, concluyendo que había mejorado sustancialmente.

      La divulgación explica una serie de cambios de moderación aparentemente inconsistentes que xAI anunció en el apogeo de la controversia en enero, incluyendo la restricción de la edición de imágenes a suscriptores de pago, limitando la capacidad de editar imágenes de personas reales y geobloqueando la generación de imágenes en ciertas jurisdicciones.

      NBC News informó que algunas de estas restricciones aún podrían ser eludidas a través de indicaciones modificadas, lo que sugiere que, aunque el problema se redujo, no se resolvió por completo.

      xAI dijo a NBC News que la empresa “prohíbe estrictamente a los usuarios generar deepfakes explícitos no consensuales y usar nuestras herramientas para desvestir a personas reales”.