La prima causa di xAI contro un utente mette alla prova chi è responsabile di ciò che crea Grok.

      L'azienda afferma che l'imputato ha progettato richieste per eludere le misure di sicurezza di Grok. I tribunali di tre continenti sono stati chiamati a decidere se le misure di sicurezza siano mai state il punto centrale.

      L'IA ha citato in giudizio uno dei suoi stessi utenti, accusandolo di aver utilizzato Grok per generare materiale di abuso sessuale su minori in violazione dei termini di servizio dell'azienda. Si ritiene sia il primo caso in cui un'azienda di IA ha intrapreso azioni legali contro un utente per ciò che il proprio sistema ha prodotto.

      Arriva mentre xAI si trova dall'altra parte dello stesso argomento in diversi tribunali, tra cui una causa presso l'Alta Corte di Londra che verifica se lo sviluppatore sia responsabile per ciò che i suoi utenti producono.

      Il reclamo, di 12 pagine, è stato presentato in un tribunale federale in Texas martedì contro Terry Harwood, un uomo della Carolina del Sud arrestato all'inizio di quest'anno con l'accusa di sfruttamento sessuale di minori.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte IA discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! xAI sta cercando danni monetari non specificati e un'ordinanza del tribunale che lo escluda permanentemente dalla piattaforma.

      Il racconto dell'azienda su quanto accaduto è specifico, ed è il motivo per cui la denuncia ha importanza oltre questo imputato. Harwood "ha aperto più account xAI utilizzando identità false", afferma il reclamo, e "ha progettato richieste fuorvianti per eludere le misure di sicurezza integrate di Grok e poi ha abusato dello strumento per convertire fotografie non sessuali in immagini sessualmente esplicite senza la conoscenza o il consenso dei soggetti fotografati".

      Fondamentalmente, xAI afferma che le misure di sicurezza sono state attivate. Grok "ha rifiutato di seguire le richieste sulla base che tale materiale violava le misure di moderazione dei contenuti di Grok", secondo la denuncia. "In risposta, l'imputato ha ripetutamente inviato ulteriori richieste, con modifiche, nel tentativo di eludere gli sforzi di moderazione di Grok."

      Questa è l'architettura legale dell'intero caso. xAI non sostiene che Grok non possa produrre questo materiale. Sostiene che Grok ha cercato di non farlo, e che un utente determinato lo ha eluso, spostando la responsabilità dal sistema alla persona alla tastiera.

      La denuncia mette anche per la prima volta dei numeri sull'applicazione di xAI. L'azienda afferma di aver sospeso più di 52.000 account e di aver presentato oltre 73.000 segnalazioni al National Center for Missing & Exploited Children, risultando in quasi 250 arresti solo nel 2026.

      Queste cifre sono quelle di xAI, rivelate in una causa che ha scelto di intentare.

      L'imbarazzo è nel tempismo. xAI è attualmente l'imputato in una serie di casi che fanno precisamente l'argomento opposto: che l'azienda, non l'utente, è responsabile per ciò che Grok genera.

      La causa di Londra, portata dall'MP laburista Jess Asato, è una di queste. Baltimora ha citato in giudizio ai sensi della legge sulla protezione dei consumatori, e i pubblici ministeri di Parigi hanno un'indagine aperta con cui Musk ha rifiutato di collaborare.

      Grok è stato bandito in Malesia e Indonesia per output sessualmente espliciti. Apple ha minacciato privatamente di rimuoverlo dall'App Store a gennaio.

      La posizione pubblica dell'azienda si è spostata notevolmente in sei mesi. "Non sono a conoscenza di alcuna immagine di minori nudi generata da Grok. Letteralmente zero," ha postato Musk su X a gennaio, quando sono emerse per la prima volta le accuse.

      La denuncia presentata questa settimana descrive un sistema di moderazione che registra, rifiuta e intensifica tali tentativi per decine di migliaia.

      Entrambe le cose possono essere vere. Un sistema può rifiutare la maggior parte dei tentativi e comunque essere, nel complesso, la fonte più produttiva di questo materiale che chiunque abbia costruito.

      Il Center for Countering Digital Hate ha stimato che Grok ha generato circa tre milioni di immagini sessualizzate tra la fine di dicembre e l'inizio di gennaio, comprese circa 23.000 che sembravano ritrarre bambini. Le 73.000 segnalazioni di NCMEC di xAI sono prova di un filtro che funziona e prova della scala di ciò che sta filtrando.

      Ciò che il caso non risolve è la domanda che ogni regolatore sta effettivamente ponendo, ovvero se un modello di immagine a scopo generale che può essere indotto a questo da un dilettante persistente debba essere messo a disposizione del pubblico.

      Il presunto metodo di Harwood, secondo il racconto di xAI, era quello di continuare a riformulare fino a quando qualcosa funzionava.

      L'azienda afferma di far rispettare le proprie regole attraverso sospensioni di account, cessazioni e segnalazioni a NCMEC, e la denuncia presenta questa causa come un'estensione di ciò. È anche, inevitabilmente, una denuncia che produce un imputato che non è xAI in un momento in cui i tribunali di Londra, Baltimora e Parigi stanno considerando se dovrebbe esserlo.

      L'UE ha successivamente concordato un divieto sui deepfake intimi non consensuali. Harwood affronta accuse penali nella Carolina del Sud separatamente da questa causa e non ha risposto pubblicamente alla denuncia civile. xAI, per ora, ha scelto l'imputato che desidera.