Il divieto dei social media in Canada mira anche ai chatbot AI.

      Il Canada ha introdotto un disegno di legge che vieterebbe ai minori di 16 anni di utilizzare i social media e, in una svolta che lo distingue da altri paesi, regolerebbe i chatbot AI nella stessa misura.

      Il Digital Safety Act, presentato mercoledì, è l'ultima mossa in un'ondata globale di governi che stanno reprimendo le piattaforme per i danni ai bambini. La versione canadese è più ampia della maggior parte.

      Non si tratta di un divieto totale. Le piattaforme possono richiedere un'esenzione se dimostrano di soddisfare standard di sicurezza elevati, un approccio progettato per spingere le aziende a riprogettare i propri servizi piuttosto che semplicemente escludere i bambini.

      "La sicurezza dei bambini non può essere un pensiero secondario", ha dichiarato Marc Miller, il ministro dell'identità e della cultura canadese, che sta guidando il disegno di legge per il governo di Mark Carney.

      Chatbot nel mirino

      La caratteristica più innovativa del disegno di legge è che tratta i chatbot AI come un problema di sicurezza per i bambini a sé stante. Creerebbe un regolatore digitale per stabilire standard di sicurezza sia per i social media che per i servizi di chatbot.

      Le piattaforme dovrebbero identificare i rischi, integrare un design appropriato all'età e offrire strumenti di blocco e segnalazione, alcuni dei quali hanno già iniziato ad aggiungere autonomamente, come le impostazioni globali degli account per adolescenti di Meta. Il disegno di legge prende di mira specificamente il meccanismo di coinvolgimento, i feed algoritmici, l'autoplay e lo scrolling infinito, che il governo afferma amplifichino i danni.

      Il focus sui chatbot non è astratto in Canada. Il disegno di legge arriva settimane dopo che le famiglie colpite da uno dei peggiori sparatori di massa del paese hanno citato in giudizio OpenAI, sostenendo che l'azienda sapesse dalle conversazioni di ChatGPT dell'attaccante che stava pianificando violenza e non avesse avvisato la polizia. OpenAI non è stata ritenuta responsabile e le accuse non sono state provate.

      La non conformità sarebbe costosa: fino al 3% del fatturato globale o 10 milioni di dollari canadesi, a seconda di quale sia maggiore. Le piattaforme dovrebbero anche rimuovere le immagini intime non consensuali entro 24 ore da una segnalazione.

      Seguendo l'Australia, ma oltre

      L'Australia è diventata il primo paese a vietare ai minori di 16 anni di utilizzare i social media a dicembre, disattivando circa 5 milioni di account per adolescenti. Il Canada sta cercando esplicitamente di andare oltre, regolando il design e i chatbot, non solo l'accesso.

      Il problema è l'applicazione. Il regolatore australiano ha scoperto che, nonostante le disattivazioni di massa, circa sette bambini su dieci hanno comunque mantenuto un account, un promemoria che scrivere la legge è la parte facile.

      Il disegno di legge canadese, C-34, ha una lunga strada da percorrere. I funzionari affermano che potrebbe richiedere un anno per essere approvato e altri 18 mesi per istituire il regolatore. Francia, Danimarca, Polonia e Grecia stanno valutando limiti simili, quindi l'esito sarà osservato ben oltre Ottawa.