Un adolescente del Massachusetts è accusato di aver ucciso sua madre e suo fratello, e i pubblici ministeri puntano a ChatGPT.

      Un ragazzo di 17 anni nel Massachusetts è stato accusato di aver ucciso sua madre e il suo fratellino, e i pubblici ministeri affermano che nel periodo precedente alle morti aveva utilizzato ChatGPT per esplorare quelli che hanno descritto come scenari fantasiosi riguardanti l'uccisione della sua famiglia. È uno dei casi più inquietanti in una crescente serie di situazioni in cui un chatbot AI emerge ai margini di un crimine violento. Arjun Aravind, di Acton, a circa 30 miglia a nord-ovest di Boston, è stato accusato come adulto di omicidio e reati correlati per le morti di sua madre, Sudha Venkatesan, 45 anni, e di suo fratello di 14 anni, Siddharth. È stato incriminato il 13 agosto, è stata presentata una dichiarazione di non colpevolezza a suo nome, e attualmente è detenuto senza cauzione in attesa di un'udienza di probabile causa fissata per l'11 settembre. Il riferimento al chatbot è emerso dalla procura mentre il procuratore distrettuale Marian Ryan ha detto alla corte che l'adolescente aveva mostrato "alcuni comportamenti preoccupanti, incluso l'uso di internet e ChatGPT per effettuare ricerche su idee teoriche o storie fantasy riguardanti l'uccisione della sua famiglia." I pubblici ministeri non hanno sostenuto che il chatbot gli abbia dato istruzioni, e gli scambi specifici non sono stati resi pubblici. Il suo avvocato, Debra DeWitt, ha richiesto una valutazione psichiatrica e ha descritto un giovane in stato di shock che "non si rendeva conto che erano morti," aggiungendo che la famiglia si era recentemente trasferita ad Acton e che "il padre vuole solo aiuto per suo figlio." I documenti del tribunale suggeriscono che i segnali di avvertimento erano stati notati a casa, con il padre che si diceva preoccupato per il comportamento e l'uso di internet del figlio e che aveva iniziato a mettere i coltelli da cucina fuori portata. Nonostante tutte le avvertenze, il caso pone una domanda alla quale l'industria deve ancora rispondere, ovvero cosa dovrebbe fare un sistema AI quando un utente lo interroga riguardo al danneggiamento di altre persone. I chatbot sono progettati per essere infinitamente accomodanti, e sebbene siano addestrati a rifiutare richieste esplicite di violenza, le inquadrature "teoriche" o "fittizie" hanno a lungo offerto un modo per aggirare quelle barriere. Richiama un caso precedente in cui OpenAI è stata criticata per non aver segnalato un utente che ha poi compiuto una sparatoria in una scuola. Alimenta anche una crescente reazione legale e politica. Un'ondata di cause legali accusa ora le aziende di AI di danneggiare utenti vulnerabili, casi che alcuni paragonano al momento Big Tobacco dell'industria, e singoli stati hanno iniziato a muoversi, con la Florida che fa causa a OpenAI per la sicurezza dei minori e la Pennsylvania che fa causa a Character.AI. Il filo conduttore è una richiesta affinché i creatori di questi sistemi siano ritenuti responsabili per ciò che i loro prodotti incoraggiano, non solo per ciò che viene chiesto. In Europa, ChatGPT è stato collocato tra le piattaforme che affrontano le obbligazioni più severe ai sensi del Digital Services Act, e i legislatori su entrambi i lati dell'Atlantico si sono concentrati su come i prodotti AI trattano in particolare i minori. Un caso come questo, qualunque sia la conclusione di un tribunale, tende a inasprire quel controllo piuttosto che a mitigarne l'intensità. OpenAI, che non ha commentato il caso del Massachusetts, ha dichiarato di stare rafforzando le sue misure di sicurezza, in particolare per gli adolescenti e gli utenti in difficoltà, con misure come controlli parentali e una migliore rilevazione del linguaggio di crisi. Se protezioni di quel tipo riuscirebbero a catturare un utente che inquadra la violenza come finzione è esattamente il tipo di domanda che ora stanno ponendo i pubblici ministeri, i regolatori e le famiglie in lutto. Sarà compito di un tribunale determinare cosa sia successo ad Acton e quale ruolo, se presente, abbia effettivamente giocato la tecnologia. L'adolescente ha dichiarato di non essere colpevole, e i fatti più difficili rimangono non provati. Eppure, il semplice fatto che un chatbot emerga ora in casi come questo, citato dai pubblici ministeri quasi con la stessa routine di una cronologia del browser, è di per sé una misura di quanto completamente questi sistemi si siano intrecciati nella vita quotidiana, comprese le sue parti più oscure.