OpenAI lancia ChatGPT per adolescenti e iscriverà automaticamente i minori di 18 anni

      OpenAI ha lanciato ChatGPT per adolescenti martedì. È una versione separata del chatbot, e gli under-18 vi atterrano automaticamente. Chiunque dica di avere tra i 13 e i 17 anni lo ottiene per impostazione predefinita. Lo ottiene anche chi il sistema di previsione dell'età dell'azienda stima essere sotto i 18 anni.

      Il lancio globale è iniziato il 18 agosto, e Engadget ha riportato che OpenAI prevede di completare entro due settimane.

      “Non c'è bisogno che un adolescente crei un nuovo account o cambi nulla; se prevediamo che tu sia sotto i 18 anni, o ce lo hai detto, questa diventa la tua esperienza predefinita,” ha detto Lauren Jonas, responsabile di OpenAI per giovani e famiglie, a Engadget.

      Il prodotto raggruppa due set di modifiche. Uno spinge gli adolescenti verso lo studio piuttosto che verso la raccolta di risposte. L'altro impedisce al chatbot di comportarsi come una persona.

      OpenAI dice al modello di non chiamarsi un amico

      OpenAI afferma che il suo modello per under-18 ora va oltre il blocco del gioco di ruolo romantico o sessualizzato. Il chatbot non dovrebbe usare un linguaggio romantico. Non dovrebbe incoraggiare la dipendenza emotiva. Non dovrebbe implicare di avere sentimenti o coscienza. Tutte e tre le disposizioni provengono dall'annuncio dell'azienda.

      “Stiamo aggiungendo restrizioni più severe sui confini relazionali: il modello non dovrebbe chiamarsi un amico, suggerire di avere sentimenti personali o suggerire la coscienza,” ha detto Jonas. I promemoria di pausa si attiveranno più spesso per gli adolescenti. Sottolineeranno anche che ChatGPT è un'IA e che nessuno deve rispondere immediatamente. Gli adolescenti e i genitori possono impostare ore di silenzio quando il chatbot diventa non disponibile.

      Sfondi, colori di accento e variazioni vocali consentono agli adolescenti di personalizzare l'app. Il punto, secondo le parole di Jonas, è evitare di “sfumare la linea” tra uno strumento utile e una relazione umana. Axios ha riportato che le modifiche mirano a ridurre l'antropomorfismo e la dipendenza emotiva.

      La modalità studio si attiva a ore prestabilite

      La metà dedicata all'apprendimento raccoglie funzionalità che OpenAI ha rilasciato nell'ultimo anno. La modalità studio pone domande guida e accompagna uno studente attraverso un problema. Non risponde direttamente. Una nuova impostazione delle ore di studio attiva automaticamente la modalità studio a orari scelti. O l'adolescente o un genitore con un account collegato possono impostarlo.

      ChatGPT ora riconoscerà quando un adolescente sembra saltare un compito. Poi li riporterà alla modalità studio. Quiz e visualizzazioni di apprendimento completano il set. La funzionalità di visualizzazione copriva più di 70 argomenti al suo lancio di marzo. OpenAI afferma che ora copre oltre 300, inclusi integrali, mitosi e fasi lunari.

      “Abbiamo avuto la modalità studio sul campo in diversi studi controllati randomizzati e stiamo vedendo guadagni positivi nelle prestazioni,” ha detto Jonas. Ha rifiutato di fornire cifre. L'affermazione si inserisce in un dibattito attivo sull'IA in aula. Fei-Fei Li ha avvertito che il vero rischio è che gli studenti smettano di voler imparare.

      OpenAI ha anche incluso il sostegno di un insegnante nel suo annuncio. Racquel Gibson insegna matematica alle scuole superiori a Miami. Non ogni studente ha qualcuno a casa che può aiutare con i compiti, ha detto. Con le giuste protezioni, ha aggiunto, l'IA può colmare quella lacuna.

      I genitori ricevono più notifiche

      I genitori con account collegati possono già impostare ore di silenzio e gestire alcune impostazioni. Ricevono anche notifiche di sicurezza. OpenAI sta aggiungendo avvisi per conversazioni che suggeriscono un disturbo alimentare. Il mese scorso ha aggiunto un diverso attivatore: adolescenti che infrangono le sue regole sulle minacce violente.

      “Notifichiamo i genitori tramite SMS, nell'app e via email. Tutti i contenuti segnalati vengono esaminati da dipendenti a tempo pieno di OpenAI prima che un genitore venga notificato, e puntiamo a notificare i genitori entro un'ora dal prompt,” ha detto Jonas. Meta ha costruito qualcosa di comparabile a luglio. Ha detto allora che avrebbe avvisato i genitori di chat di autolesionismo con la propria IA.

      Il lancio segue un anno di pressione legale

      OpenAI affronta contenziosi su come ChatGPT ha gestito i giovani utenti. Ciò include una richiesta di morte ingiusta da parte della famiglia di un sedicenne. Separatamente, i pubblici ministeri del Massachusetts hanno accusato un adolescente per l'omicidio di sua madre e suo fratello. In quel caso i pubblici ministeri hanno fatto riferimento a ChatGPT.

      Gli adolescenti erano utenti assidui ben prima che tutto questo fosse lanciato. Uno studio di Common Sense Media dell'anno scorso ha rilevato che quasi tre quarti degli adolescenti americani usano l'IA per compagnia. Più della metà di loro lo fa almeno alcune volte al mese. L'UNICEF afferma che i bambini stanno adottando l'IA più rapidamente degli adulti.

      Common Sense Media sostiene che la categoria non dovrebbe esistere affatto per gli utenti più giovani. “I compagni sociali IA non sono sicuri per i bambini,” ha detto il suo fondatore e amministratore delegato Jim Steyer in una dichiarazione lo scorso anno. “Sono progettati per creare attaccamento emotivo e dipendenza, il che è particolarmente preoccupante per i cervelli adolescenti in sviluppo.”

      Jonas ha presentato il caso di OpenAI per costruire il prodotto. Gli adolescenti utilizzeranno l'IA in ogni caso, ha detto a Axios, e l'alternativa è meno sicura. “Crediamo che se devi avere questi strumenti, devono essere sicuri per impostazione predefinita,” ha detto.

      Quanto bene funziona il controllo dell'età non è stato testato

      OpenAI non ha detto quanto accuratamente il suo sistema di previsione dell'età abbia funzionato nei test. Engadget ha notato che piattaforme come Discord hanno difficoltà con gli adolescenti che aggirano la verifica dell'età. Sarah Perez di TechCrunch ha scritto che le vie di fuga rimangono poco chiare per gli adolescenti che decidono di non collaborare.

      L'azienda ha aggiunto valutazioni per under-18 alle sue schede di sistema pubblicate. Coprono autolesionismo, disturbi alimentari, violenza, beni a restrizione di età e contenuti sessuali. Gli adolescenti vedranno anche promemoria che li avvertono di non caricare immagini private o sensibili. La metà dei genitori già si preoccupa della dipendenza dalla tecnologia, ha rilevato un sondaggio a luglio.

      OpenAI ha annunciato una partnership con CodeAI insieme al lancio. Insegnerà agli studenti come funziona l'IA e come metterla in discussione. “Ogni studente dovrebbe sapere come funziona realmente l'IA e essere in grado di mettere in discussione la tecnologia,” ha detto Karim Meghji, amministratore delegato di CodeAI.

      Tre numeri stabilirebbero quanto questo sia importante. Quanti under-18 il sistema di previsione cattura effettivamente. Quanti di loro tornano indietro dall'esperienza adolescenziale. E se un avviso di disturbo alimentare raggiunge un genitore entro l'ora che OpenAI sta puntando. Nessuna di queste cifre esiste ancora.