Meta permetterà ai genitori di vedere le chat dei bambini con l'IA e di intervenire prima che i rischi diventino incontrollabili.
Meta è stata sotto pressione per la sicurezza degli adolescenti e l'IA da un po' di tempo. Dopo un'inchiesta del Wall Street Journal, una causa persa nel New Mexico e un'indagine della FTC, l'azienda sta finalmente implementando alcuni strumenti significativi di supervisione parentale.
Oggi, Meta sta introducendo una nuova scheda Insights nel suo hub di supervisione su tre delle sue piattaforme più popolari: Instagram, Facebook e Messenger. Anche se il nome non lo rende chiaro subito, la funzione offre ai genitori una finestra su cosa stanno effettivamente discutendo i loro adolescenti con l'IA di Meta su tutte queste app.
Meta
Cosa possono vedere i genitori?
Sebbene i genitori non riceveranno una trascrizione parola per parola della conversazione dei loro figli con l'IA di Meta, la nuova scheda Insights fornisce riassunti settimanali degli argomenti. Copre categorie ampie come Scuola, Intrattenimento, Stile di vita, Viaggi, Scrittura e Salute, ognuna con le proprie sottocategorie.
Salute e Benessere, ad esempio, copre argomenti come fitness, salute fisica e salute mentale. La speranza è che le categorie forniscano abbastanza contesto affinché i genitori possano identificare un modello preoccupante tra gli argomenti senza dover leggere tutti i messaggi.
Oltre alla visibilità degli argomenti, i genitori possono anche decidere quali personaggi dell'IA il loro bambino può accedere e persino disattivare completamente le chat con i personaggi mantenendo disponibile l'assistente IA per casi d'uso generali, come fare i compiti, risolvere domande quotidiane, ecc.
Meta
Meta sta anche sviluppando avvisi dedicati per argomenti sensibili, che, credo, sia il modo più efficace per informare i genitori su eventuali chat preoccupanti. Se la conversazione dell'IA di un adolescente riguarda l'autolesionismo, o peggio, si sposta verso il suicidio, i genitori saranno informati direttamente.
A chi è disponibile?
Per ora, la scheda Insights è disponibile negli Stati Uniti, nel Regno Unito, in Australia, in Brasile e in Canada. Un lancio globale, d'altra parte, è previsto tra poche settimane. Oltre a questa nuova aggiunta, Meta ha anche collaborato con il Cyberbullying Research Center per sviluppare spunti di conversazione.
Questi includono suggerimenti che possono aiutare i genitori ad aprire discussioni non giudicanti sull'IA con i loro adolescenti. È importante sottolineare che la mossa dell'azienda avviene sotto una significativa pressione legale e normativa, non per nobile istinto, ed è la differenza che conta.
Se il sistema di avviso per argomenti sensibili funziona bene, potrebbe stabilire uno standard industriale su come le piattaforme di IA o social media gestiscono utenti giovani e vulnerabili.
Altri articoli
Meta permetterà ai genitori di vedere le chat dei bambini con l'IA e di intervenire prima che i rischi diventino incontrollabili.
Meta sta fornendo ai genitori riassunti settimanali degli argomenti delle conversazioni dei loro adolescenti con l'AI di Meta su Facebook, Messenger e Instagram.
