La Cina redige regole contro il cyberbullismo che riguardano gli abusi generati dall'IA.

      L'ente regolatore di internet della Cina ha pubblicato una bozza di regole per combattere il cyberbullismo e, secondo Reuters, le misure sono scritte per affrontare gli abusi generati con intelligenza artificiale. L'Amministrazione del Cyberspazio della Cina ha rilasciato la bozza per commenti pubblici il 29 luglio, parte di uno sforzo crescente per controllare ciò che accade sulle piattaforme del paese. La bozza mira a ciò che i regolatori cinesi chiamano "cyberviolenza". Questo comprende la diffusione online di informazioni moleste, diffamatorie o false che danneggiano una persona, una categoria che il regolatore definisce abbastanza ampiamente da includere l'uso improprio dell'IA insieme al trolling ordinario e agli attacchi di gruppo. La maggior parte del peso ricade sulle piattaforme. Secondo la bozza, i servizi dovrebbero costruire classificatori che rilevino la cyberviolenza, offrire agli utenti una "protezione con un clic" che blocchi i messaggi e i commenti in arrivo, e agire su quei segnali limitando i contenuti abusivi e indagando sugli account dietro di essi. La macchina di enforcement è dettagliata. Le piattaforme dovrebbero mantenere liste nere di trasgressori recidivi, presentare rapporti regolari sulle loro interventi e gestire sistemi di allerta precoce per catturare gli attacchi di gruppo prima che si intensifichino, con sanzioni che possono arrivare fino alla chiusura dell'account di un abusatore. Il 💜 della tecnologia dell'UE Le ultime novità dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris, e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Alcune piattaforme stanno già procedendo oltre il testo. Il sito di domande e risposte Zhihu, anticipando le regole, ha deciso di limitare gli account anonimi, un segno di quanto rapidamente le aziende cinesi si adattino una volta che una direzione regolamentare diventa chiara. La dimensione dell'IA è ciò che rende tutto attuale. Reuters riporta che le regole sono destinate a coprire gli abusi abilitati dall'IA, le immagini deepfake e i testi sintetici che possono essere prodotti in volume e mirati a un singolo obiettivo, una forma di molestia che i sistemi di moderazione più vecchi non sono mai stati progettati per catturare. Si inserisce in un modello di regolamentazione dell'IA cinese. Pechino richiede già che i contenuti generati dall'IA siano etichettati e ha iniziato a regolamentare i servizi di IA simili agli esseri umani e un'industria digitale-umana in cui le persone affittano persino i loro volti all'IA, costruendo una rete di regole che tratta i media sintetici come qualcosa da monitorare piuttosto che da lasciare in pace. L'interesse dello stato non è solo protettivo. Gli stessi strumenti che rilevano gli abusi identificano anche gli autori, e un regime che richiede alle piattaforme di registrare, tracciare e mettere in blacklist gli utenti fornisce alle autorità una mappa più completa di chi dice cosa, un punto che i critici della governance di internet in Cina sottolineano ripetutamente. Questa tensione attraversa la bozza. Inquadrata come uno scudo per le vittime di molestie, approfondisce anche gli obblighi che rendono le piattaforme cinesi responsabili nei confronti dello stato, e la linea tra proteggere gli utenti e sorvegliarli è, come sempre, tracciata dal governo. Le vittime che nomina sono abbastanza reali. Le campagne di cyberbullismo in Cina hanno spinto le persone offline e, in alcuni casi, a conseguenze peggiori, e la rabbia pubblica dopo diversi casi di alto profilo ha dato alle autorità un mandato popolare per agire. L'anonimato si trova al centro della lotta. Molti abusi online in Cina sono pubblicati da account anonimi o pseudonimi, e i requisiti di registrazione e blacklist della bozza spingono le piattaforme a sapere chi c'è dietro di essi, il che è esattamente ciò che rende le regole efficaci e ciò che le rende preoccupanti. Altri governi stanno circondando lo stesso problema. Dall'abuso di deepfake al molestare sintetico, i regolatori dall'Europa agli Stati Uniti stanno cercando di scrivere regole per la crudeltà generata dall'IA, e la bozza della Cina è tra i tentativi più prescrittivi finora. Ciò che accade dopo è procedurale. La bozza è aperta ai commenti pubblici prima di poter essere finalizzata, e i dettagli che contano, quanto aggressivamente le piattaforme devono scansionare e quanto precisamente sono formulate le disposizioni sull'IA, potrebbero cambiare prima che le regole entrino in vigore. La direzione, però, è impostata. La Cina sta costruendo le infrastrutture per rilevare e agire sugli abusi generati dall'IA su larga scala, e qualunque cosa dica il testo finale, l'aspettativa che stabilisce per le piattaforme è che vedranno tutto e ne risponderanno.