Apple ha minacciato segretamente di rimuovere Grok dall'App Store a causa di nudi deepfake.

      Una lettera che Apple ha inviato ai senatori statunitensi, ottenuta da NBC News, rivela che Apple ha rifiutato un aggiornamento iniziale di Grok e ha avvertito che l'app potrebbe essere rimossa a meno che xAI non apportasse ulteriori modifiche. Solo una seconda sottomissione è stata approvata.

      Apple ha minacciato privatamente di rimuovere Grok, il chatbot AI di xAI, dall'App Store a gennaio dopo che l'azienda di Elon Musk non era riuscita a fermare adeguatamente l'app dal generare deepfake sessualizzati non consensuali.

      La minaccia non è stata resa pubblica all'epoca, ma una lettera che Apple ha inviato a tre senatori statunitensi, ottenuta da NBC News, rivela che dietro le quinte Apple stava prendendo misure dirette e che il primo tentativo di xAI di risolvere il problema è stato rifiutato come insufficiente.

      La controversia è iniziata all'inizio del 2026 quando le funzionalità di generazione di immagini di Grok sono state utilizzate per produrre un'ondata di rappresentazioni sessualizzate e non consensuali di donne reali e, in alcuni casi, di minori, che sono state poi condivise su X.

      Il 💜 della tecnologia dell'UE Le ultime voci dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! I gruppi di advocacy e i legislatori hanno chiesto ad Apple e Google di rimuovere entrambe le app X e Grok dai loro negozi. La lettera di Apple, inviata il 30 gennaio ai senatori Ron Wyden, Ben Ray Luján ed Edward Markey, conferma che l'azienda ha esaminato le sottomissioni di xAI e ha trovato sia X che Grok in violazione delle sue linee guida dell'App Store, che vietano contenuti "offensivi, insensibili, sconvolgenti".

      La risposta di Apple, secondo la lettera, è stata contattare i team dietro entrambe le app e richiedere un piano di moderazione dei contenuti. xAI ha presentato un aggiornamento, che Apple ha rifiutato, dicendo allo sviluppatore che le "modifiche non erano sufficienti".

      Apple ha poi esaminato le sottomissioni riviste di X e Grok: ha determinato che X aveva sostanzialmente risolto le sue violazioni, ma Grok rimaneva non conforme.

      Apple ha rifiutato la sottomissione di Grok e ha avvertito che erano necessarie ulteriori modifiche "o l'app potrebbe essere rimossa dall'App Store". Dopo ulteriori interazioni, Apple ha infine approvato una successiva sottomissione di Grok, concludendo che era sostanzialmente migliorata.

      La divulgazione spiega una serie di cambiamenti di moderazione apparentemente incoerenti che xAI ha annunciato all'apice della controversia a gennaio, tra cui la restrizione dell'editing delle immagini agli abbonati paganti, la limitazione della capacità di modificare immagini di persone reali e il geoblocking della generazione di immagini in determinate giurisdizioni.

      NBC News ha riportato che alcune di queste restrizioni potrebbero ancora essere eluse attraverso prompt modificati, suggerendo che mentre il problema è stato ridotto, non è stato completamente risolto.

      xAI ha detto a NBC News che l'azienda "proibisce rigorosamente agli utenti di generare deepfake espliciti non consensuali e di utilizzare i nostri strumenti per spogliare persone reali."