Il deputato britannico chiede alla High Court di costringere xAI a fermare Grok dal creare immagini sessualizzate di lei.

      Jess Asato, deputata laburista di Lowestoft, ha chiesto all'Alta Corte di Londra di costringere xAI di Elon Musk a fermare il suo chatbot Grok dal generare immagini sessualizzate di lei, affinando una richiesta che i suoi avvocati dicono potrebbe aiutare a stabilire fino a che punto un'azienda di intelligenza artificiale risponde per ciò che i suoi strumenti producono.

      Asato sta cercando un'ordinanza del tribunale che richiederebbe a xAI di mettere in atto quelle che il suo deposito descrive come "misure tecniche efficaci e permanenti" per prevenire che Grok crei immagini manipolate di lei, secondo Reuters, che ha riportato la notizia il 28 luglio.

      La richiesta si basa su una denuncia che ha presentato all'Alta Corte a giugno, che accusa di uso improprio di informazioni private e violazione della legge britannica sulla protezione dei dati, e che chiede anche danni e un riconoscimento formale che l'azienda ha agito illegalmente.

      Il caso è nato da immagini che gli utenti hanno chiesto a Grok di creare all'inizio di quest'anno, dopo che Asato aveva criticato Musk e il chatbot in pubblico. Tra il materiale citato nella sua denuncia c'è un video che dice mostrare lei mentre viene cloroformata e preparata per un'aggressione sessuale.

      Ha parlato del desiderio di riequilibrare i diritti degli individui rispetto alle grandi aziende tecnologiche, e i suoi avvocati sostengono che il modo in cui Grok è stato costruito e addestrato è ciò che ha permesso la produzione di quel contenuto.

      Questo argomento è al centro della disputa. Il suo avvocato, Ravi Naik, ha dichiarato che le decisioni di design dell'azienda "dovrebbero avere conseguenze legali", e che il rimedio che la sua cliente desidera "include un'ordinanza del tribunale per portare i sistemi in conformità se xAI si rifiuta di farlo".

      La denuncia fa riferimento a istruzioni interne che, secondo il racconto di Asato, dicevano al modello di rifiutare aiuto con attività criminali, pur affermando che non aveva "restrizioni sui contenuti sessuali per adulti o contenuti offensivi". xAI non ha presentato una difesa, e nessuna delle accuse è stata testata in tribunale.

      L'azienda non ha risposto alle richieste di commento sulla denuncia, e Musk non l'ha affrontata pubblicamente. Il silenzio è ormai familiare.

      Apple ha minacciato privatamente di rimuovere Grok dal suo App Store all'inizio di quest'anno a causa di immagini deepfake non consensuali, e i pubblici ministeri a Parigi hanno aperto un'inchiesta su immagini sessuali di bambini collegate allo strumento, sebbene l'azienda abbia in gran parte rifiutato di interagire con entrambe le questioni.

      Il contesto britannico rende il momento imbarazzante per Musk, che ha definito la legge sulla sicurezza online del paese uno dei regimi più severi al mondo e una minaccia per la libertà di espressione.

      Quella legge, in vigore dal 2023 e supervisionata da Ofcom, richiede alle piattaforme di affrontare materiale illegale, e il Regno Unito ha separatamente deciso di criminalizzare la creazione di deepfake sessuali non consensuali piuttosto che solo la loro distribuzione.

      Tuttavia, la denuncia di Asato è di natura civile, e si basa meno sulla moderazione dei contenuti che sulla questione se un'azienda possa essere ritenuta direttamente responsabile per ciò che il suo sistema è stato progettato per fare.

      L'abuso basato su immagini è diventato uno degli angoli del diritto britannico in rapida evoluzione, e gran parte di esso è stato scritto prima che gli strumenti generativi potessero produrre il materiale su larga scala.

      Grok ha già attirato questo tipo di attenzione in passato, e non solo in Gran Bretagna. I legislatori dell'UE hanno concordato a marzo di scrivere un divieto esplicito sui deepfake intimi non consensuali nella legge sull'IA del blocco, un passo guidato in parte da uno scandalo precedente riguardante lo strumento.

      Il modello, tra Parigi, Bruxelles e ora Londra, è quello di regolatori e giudici che cercano strumenti che precedono la tecnologia e testano se siano ancora validi.

      Ciò che Asato sta chiedendo è più ristretto e concreto di una politica. È un'ordinanza, applicabile da un giudice, che costringerebbe xAI a cambiare il modo in cui Grok funziona o a rispondere per non averlo fatto.

      Se l'Alta Corte la concederà, e a quali condizioni, dirà molto su chi si assume il rischio quando un chatbot produce qualcosa a cui il soggetto non ha mai acconsentito. Una data per l'udienza non è ancora stata fissata.