Meta permetterà ai genitori di vedere le chat dei bambini con l'IA e di intervenire prima che i rischi aumentino.

      Meta è stata al centro di polemiche riguardo la sicurezza degli adolescenti e l'IA per un po' di tempo. Dopo un'inchiesta del Wall Street Journal, una causa persa in Nuovo Messico e un'indagine della FTC, l'azienda sta finalmente implementando alcuni strumenti significativi di supervisione parentale.

      Oggi, Meta sta introducendo una nuova scheda Insights nel suo hub di supervisione su tre delle sue piattaforme più popolari: Instagram, Facebook e Messenger. Anche se il nome non lo rende chiaro subito, la funzione offre ai genitori una finestra su ciò di cui i loro adolescenti stanno effettivamente discutendo con l'IA di Meta su tutte queste app.

      Meta

      Cosa possono vedere i genitori?

      Anche se i genitori non riceveranno una trascrizione parola per parola della conversazione dei loro figli con l'IA di Meta, la nuova scheda Insights fornisce riassunti settimanali degli argomenti. Copre categorie ampie come Scuola, Intrattenimento, Stile di vita, Viaggi, Scrittura e Salute, ciascuna con le proprie sottocategorie.

      Salute e Benessere, ad esempio, copre argomenti come fitness, salute fisica e salute mentale. La speranza qui è che le categorie forniscano abbastanza contesto affinché i genitori possano identificare un modello preoccupante tra gli argomenti senza dover leggere tutti i messaggi.

      Oltre alla visibilità degli argomenti, i genitori possono anche decidere quali personaggi IA il loro bambino può accedere e persino disattivare completamente le chat con i personaggi mantenendo l'assistente IA disponibile per casi d'uso generali, come fare i compiti, risolvere domande quotidiane, ecc.

      Meta

      Meta sta anche sviluppando avvisi dedicati per argomenti sensibili, che, credo, sia il modo più efficace per informare i genitori su eventuali chat preoccupanti. Se la conversazione dell'IA di un adolescente riguarda l'autolesionismo, o peggio, sfocia nel suicidio, i genitori saranno informati direttamente.

      A chi è disponibile?

      Per ora, la scheda Insights è disponibile negli Stati Uniti, nel Regno Unito, in Australia, in Brasile e in Canada. Un lancio globale, d'altra parte, è previsto tra poche settimane. Oltre a questa nuova aggiunta, Meta ha anche collaborato con il Cyberbullying Research Center per sviluppare spunti di conversazione.

      Questi includono suggerimenti che possono aiutare i genitori ad avviare discussioni non giudicanti sull'IA con i loro adolescenti. È importante sottolineare che la mossa dell'azienda avviene sotto una significativa pressione legale e normativa, non per nobile istinto, ed è la differenza che conta.

      Se il sistema di avviso per argomenti sensibili funziona bene, potrebbe stabilire uno standard industriale su come le piattaforme di IA o social media gestiscono utenti giovani e vulnerabili.