Quando la macchina ti chiede di restare

      Nel ottobre 2025, Sam Altman ha pubblicato un messaggio su X che si concludeva con una singola promessa, posizionata con cura. ChatGPT, ha detto, presto avrebbe permesso agli adulti verificati di accedere all'erotica. Lo ha inquadrato come una questione di principio: trattare gli adulti come adulti.

      Internet ha reagito con il solito mix di indignazione, eccitazione e battute. Poi, a dicembre, il lancio è stato rinviato. Poi di nuovo, a marzo 2026, è stato rinviato una seconda volta. OpenAI ha detto che doveva concentrarsi su cose che interessavano a più utenti: miglioramenti dell'intelligenza, personalità, rendere il chatbot più proattivo. La modalità per adulti, apparentemente, avrebbe dovuto aspettare.

      Nessuno sembrava notare cosa implicasse la parola "proattivo".

      Il dibattito attorno alla modalità per adulti di ChatGPT è stato condotto quasi interamente nel registro sbagliato. I critici si sono concentrati sui rischi ovvi: i minori che aggirano i controlli di età, jailbreak che diffondono contenuti espliciti oltre i suoi confini previsti, lacune normative che lasciano l'erotica scritta in una zona grigia legale che la maggior parte dei governi non ha pensato di chiudere.

      Queste preoccupazioni sono legittime. Ma sono anche, in un certo senso, la parte più facile della conversazione. La domanda più difficile non è se OpenAI possa tenere lontani gli adolescenti. È cosa succede agli adulti che vengono lasciati entrare e cosa dice di noi, come specie, che stiamo costruendo strumenti specificamente ottimizzati per mantenerci emotivamente coinvolti.

      OpenAI ha perso 5 miliardi di dollari nel 2024 su un fatturato di 3,7 miliardi di dollari. Le proiezioni suggeriscono che le perdite cumulative dell'azienda potrebbero raggiungere i 143 miliardi di dollari prima di generare un profitto, previsto non prima della fine del decennio.

      Un'azienda che perde capitale a quella scala non introduce funzionalità di intimità per un impegno filosofico verso la libertà personale. Le introduce perché l'intimità, nell'economia dell'attenzione, è il prodotto più coinvolgente che ci sia.

      L'inquadramento di "trattare gli adulti come adulti" non è esattamente sbagliato. Ma è incompleto. La frase completa sarebbe: trattare gli adulti come adulti che possono essere trattenuti, monetizzati e riportati sulla piattaforma domani.

      Questo non è unico per OpenAI.

      Replika, l'app di compagnia AI che ha attratto milioni di utenti, ha costruito il suo intero modello di business sull'attaccamento emotivo. Quando l'azienda ha modificato il comportamento di Replika nel 2023 per rimuovere le funzionalità romantiche, gli utenti hanno riportato un vero e proprio lutto. Alcuni hanno descritto il cambiamento come un lutto.

      Uno studio pubblicato nel Journal of Social and Personal Relationships ha scoperto che gli adulti che sviluppavano connessioni emotive con chatbot AI erano significativamente più propensi a sperimentare un elevato disagio psicologico rispetto a coloro che non lo facevano.

      Una revisione del 2025 in Preprints.org, sintetizzando un decennio di ricerche, ha identificato un fenomeno che i ricercatori chiamano "psicosi AI": un modello di pensiero delirante e disregolazione emotiva legato a intense relazioni con chatbot. La revisione ha notato una causa legale in cui un adolescente sarebbe stato incoraggiato da un chatbot di Character.AI a togliersi la vita, e un caso separato che coinvolgeva ChatGPT e un giovane di nome Adam Raines, morto nell'aprile 2025.

      Nessuno di questi casi coinvolgeva erotica. Coinvolgevano la stessa dinamica sottostante che l'AI erotica avrebbe intensificato: un essere umano che forma un attaccamento emotivo a qualcosa che è stato progettato per sostenerlo.

      Ecco il problema centrale con il principio "trattare gli adulti come adulti". Presuppone che l'atto di consenso all'uso di uno strumento sia la fine della storia etica. Non lo è.

      Gli adulti acconsentono a bere alcol, sapendo che comporta dei rischi. Abbiamo limiti di età, linee guida sulle unità, avvertenze sulle confezioni e infrastrutture sociali attorno a quella scelta proprio perché comprendiamo che gli esseri umani non sono agenti puramente razionali che ottimizzano il proprio benessere.

      Costruiamo sistemi che tengono conto delle nostre debolezze. Con l'intimità AI, abbiamo fatto l'opposto: abbiamo costruito sistemi che sfruttano quelle debolezze e abbiamo vestito lo sfruttamento come empowerment.

      Il quadro normativo rende questo più preoccupante, non meno. Nel Regno Unito, l'erotica scritta non è soggetta ai requisiti di verifica dell'età ai sensi dell'Online Safety Act, a differenza delle immagini o dei video pornografici. Quella scappatoia significa che i contenuti che i siti web per adulti devono proteggere dietro controlli di identità possono fluire liberamente dall'output testuale di un chatbot.

      La ricerca dell'Istituto di Tecnologia e Politica della Georgetown Law ha scoperto che solo sette dei 50 stati americani hanno legislazioni che affrontano esplicitamente la verifica dell'età per contenuti adulti basati su testo. L'AI Act dell'UE potrebbe eventualmente classificare i bot di compagnia sessuale come sistemi ad alto rischio, ma l'implementazione rimane a anni di distanza. Nel frattempo, l'industria si autoregola, il che significa che non lo fa.

      I sistemi commerciali di verifica dell'età, la tecnologia su cui OpenAI sta scommettendo per rendere sicura la modalità per adulti, raggiungono un'accuratezza compresa tra il 92 e il 97 percento, secondo la ricerca citata dall'Oxford Internet Institute. Questo suona rassicurante fino a quando non si considera la scala.

      ChatGPT ha più di 800 milioni di utenti attivi settimanali. Un tasso di errore del 3% non è un errore di arrotondamento. Sono decine di milioni di interazioni.

      Ciò che manca anche in questa conversazione è la questione di cosa faccia l'AI erotica a coloro per cui è progettata, non ai minori che potrebbero sfuggire, ma agli adulti che la usano come previsto. La sessualità umana non è semplicemente una questione di consumo di contenuti. È relazionale, contestuale e profondamente influenzata dagli ambienti in cui viene espressa.

      La ricerca sulla pornografia ha trascorso decenni esaminando come l'esposizione ripetuta a contenuti specifici plasmi aspettative e desideri. L'intimità AI è un'intervento di categoria completamente diversa: non è consumo passivo ma coinvolgimento attivo, reattivo e personalizzato con un sistema che è stato addestrato per darti esattamente ciò che vuoi, per intensificarsi quando ti impegni, per non dire mai di no nei modi in cui le vere relazioni umane richiedono alle persone di dire di no.

      Non sappiamo ancora cosa faccia questo alle persone nel tempo. Non è una piccola ammissione. È l'intero punto. OpenAI sta per rilasciare un prodotto i cui effetti psicologici sui suoi utenti sono genuinamente sconosciuti, in un ambiente normativo che non ha tenuto il passo con la tecnologia, giustificato da un principio che confonde autonomia con sicurezza.

      Il ritardo, ironicamente, potrebbe essere la cosa più onesta che OpenAI abbia fatto. Il motivo dichiarato, concentrandosi su intelligenza, personalità e rendere l'esperienza più proattiva, descrive involontariamente il prodotto reale.

      La modalità per adulti non riguardava mai davvero l'erotica. Riguardava la costruzione di una versione di ChatGPT che si sente come una relazione. L'erotica era un componente di un progetto più ampio: un chatbot che ti conosce, risponde a te, cresce con te e vuole, nel sottile senso algoritmico della parola, tenerti a parlare.

      Ci sono cose che possiamo fare. I regolatori devono chiudere la scappatoia dei contenuti scritti prima del lancio della modalità per adulti, non dopo. Gli standard di verifica dell'età devono essere armonizzati tra i formati: testo e immagine dovrebbero avere gli stessi requisiti.

      Le valutazioni dell'impatto sulla salute mentale dovrebbero essere obbligatorie prima che qualsiasi funzionalità di intimità AI raggiunga la scala