Meta avviserà i genitori delle chat di autolesionismo dei teenager con l'IA

      Meta inizierà a informare i genitori quando un adolescente discute di suicidio o autolesionismo con il suo chatbot Meta AI. L'azienda ha annunciato il cambiamento in un post sul blog giovedì.

      Le notifiche vanno ai genitori che utilizzano gli strumenti di supervisione di Instagram. Sono già attive negli Stati Uniti, Regno Unito, Australia e Canada, ha riportato TechCrunch. Raggiungeranno il resto del mondo entro la fine dell'anno.

      Come funzionano le notifiche

      Meta afferma di aver costruito un sistema AI dedicato per questo. Rileva le chat in cui un adolescente fa un chiaro riferimento a farsi del male. Una persona esamina ogni chat segnalata prima che venga inviata una notifica. Se l'intento non è chiaro, Meta afferma che agirà con cautela e notificherà comunque il genitore.

      La notifica non includerà il messaggio esatto, ha riportato CNET. Invece, i genitori ricevono una notifica più suggerimenti scritti da esperti su come affrontare l'argomento. Si basa su strumenti precedenti. Questi includono avvisi sui termini di ricerca su Instagram e una funzione che mostra gli argomenti di cui un adolescente parla con Meta AI.

      Servizi di emergenza e impostazioni più rigorose

      Meta sta anche costruendo un modo per allertare i servizi di emergenza. Si attiverebbe quando una chat suggerisce che qualcuno, adulto o adolescente, è a rischio imminente. Meta già fa questo per i post su Facebook e Instagram, e ha effettuato più di 19.000 segnalazioni simili lo scorso anno.

      La sua impostazione "Contenuto Limitato" più rigorosa ora copre anche Meta AI. Con essa attivata, il chatbot rifiuta una gamma più ampia di richieste. Meta AI è già addestrato per evitare chat sessuali, romantiche o relative all'alcol con gli adolescenti.

      Elogiato e messo in dubbio

      Meta afferma di aver consultato più di 75 clinici. Larry Magid della nonprofit ConnectSafely ha sostenuto l'approccio come un equilibrio tra la privacy degli adolescenti e la consapevolezza dei genitori.

      Altri erano scettici. Il cambiamento è "un passo nella giusta direzione, ma... dovrebbe essere accolto con scetticismo", ha detto l'avvocato di Fairplay Brendan Bouffard a Mashable. Tali avvisi rischiano di diventare "una mera facciata", ha aggiunto l'esperto clinico Dr. John Ackerman, a meno che non siano facili da usare e portino a un'azione concreta.

      La pressione è legale tanto quanto etica. Meta ha perso due processi quest'anno sulla sicurezza dei minori e sull'addiction ai social media e sta facendo appello in entrambi. OpenAI ha aggiunto le proprie protezioni per gli adolescenti, da una funzione di "Contatto Fidato" a promemoria per le pause.

      Un'ampia riflessione sulla sicurezza

      La mossa arriva in una settimana intensa per la sicurezza dell'AI. Uno studio del Meta Oversight Board è stato pubblicato lo stesso giorno. Ha rilevato che i modelli principali di Meta, Anthropic e OpenAI rifiutavano più spesso di criticare i leader restrittivi rispetto a quelli permissivi, ha riportato l'Associated Press. Gli esempi spaziavano dalla Cina all'Arabia Saudita. Questo rischia di "estendere il lungo braccio dei governi restrittivi oltre i confini", ha affermato il rapporto.

      Nel frattempo, Google ha respinto un rapporto di Common Sense Media che valutava la sua AI Search come un "rischio inaccettabile" per i bambini, ha riportato Digital Trends. Google ha affermato che i test utilizzati si basavano su ricerche artificiose che non poteva riprodurre.

      Tutto ciò si inserisce in un'ampia ondata di scrutinio. Il Canada ha inasprito le regole per i chatbot e i minori, e Ofcom sta indagando su TikTok. L'Australia ha introdotto limiti sui social media per gli adolescenti, e la Cina ha intensificato il controllo sui compagni AI.

      Questo è un argomento delicato. Se tu o qualcuno che conosci sta lottando, è disponibile aiuto. Negli Stati Uniti, chiama o invia un messaggio al 988. Altrove, puoi trovare una linea di emergenza locale su findahelpline.com.