Il Brasile sta definendo cosa sia un deepfake, cinque settimane prima di votare.

      Il Brasile vota il 4 ottobre e il suo tribunale elettorale ha trascorso martedì a lavorare su una domanda a cui molti regolatori stanno ancora cercando di rispondere: cosa conta esattamente come un deepfake?

      Il Tribunal Superior Eleitoral era atteso a pronunciarsi su restrizioni più ampie per il materiale di campagna generato dall'IA, ha riportato Reuters.

      Le regole proposte vanno oltre il semplice divieto dei deepfake ingannevoli. Richiederebbero che il materiale di campagna generato dall'IA fosse etichettato, proibirebbero sistemi che raccomandano candidati e introdurrebbero un periodo di blackout durante il quale nuovi contenuti politici sintetici non potrebbero essere pubblicati o promossi immediatamente prima e dopo il voto.

      La definizione è importante perché il Brasile ha già incontrato un caso che si colloca in modo scomodo tra divulgazione e inganno.

      A luglio, Jair Bolsonaro, che è agli arresti domiciliari e vietato dalla comunicazione pubblica, è apparso al lancio della campagna di suo figlio come un avatar generato dall'IA che si identificava esplicitamente come una simulazione.

      Quella divulgazione è centrale nell'argomento legale. Le regole elettorali esistenti in Brasile mirano a contenuti fabbricati che possono fuorviare gli elettori, ma un avatar IA che dice apertamente agli spettatori che è una rappresentazione IA non si adatta perfettamente a quella definizione.

      La coalizione di Lula ha presentato una petizione al TSE, sostenendo che il video violava comunque le regole che disciplinano i contenuti sintetici utilizzati per influenzare gli elettori.

      La campagna di Flávio Bolsonaro ha risposto che una simulazione chiaramente etichettata non dovrebbe essere trattata come un deepfake, un argomento difficile da respingere se la definizione si basa principalmente su se gli spettatori siano stati ingannati.

      Il tribunale stesso ha mostrato qualche disaccordo su dove dovrebbe trovarsi quel confine. Il presidente del TSE Kássio Nunes Marques ha suggerito che il materiale di campagna generato dall'IA può essere permesso quando non causa danno, mentre il giudice della Corte Suprema Alexandre de Moraes ha avvertito che la stessa tecnologia potrebbe violare le restrizioni agli arresti domiciliari di Bolsonaro e contribuire alla disinformazione elettorale.

      Il Brasile aveva già regole che coprivano l'IA prima di questa elezione. Il TSE ha introdotto requisiti in vista delle elezioni municipali del 2024, inclusa la divulgazione di contenuti sintetici, il che aiuta a spiegare perché l'avatar di Bolsonaro è stato presentato come una simulazione piuttosto che come un tentativo di impersonarlo senza divulgazione.

      La sentenza di martedì dovrebbe fornire una definizione più chiara di ciò che è e non è permesso, anche se il tempismo è difficile.

      Con cinque settimane rimanenti prima di un'elezione nazionale, campagne, piattaforme e regolatori avranno molto poco tempo per adattarsi a qualsiasi quadro stabilito dal tribunale.

      Il problema che il Brasile sta cercando di affrontare esiste ben oltre i suoi confini. Le regole basate sulla divulgazione, comprese quelle in fase di sviluppo nell'ambito della legge sull'IA dell'UE, si basano sull'assunzione che informare le persone quando i contenuti sono stati generati o manipolati dall'IA può ridurre la loro capacità di fuorviarli.

      Il caso Bolsonaro mette sotto pressione quell'assunzione perché il contenuto può essere completamente trasparente sulla sua natura sintetica e comunque essere politicamente persuasivo.

      C'è anche una domanda a cui le regole esistenti non erano realmente progettate per rispondere. Un politico che è legalmente proibito di parlare pubblicamente ma appare attraverso una rappresentazione generata dall'IA non ha fisicamente affrontato la folla, eppure il messaggio politico può raggiungere gli elettori quasi altrettanto efficacemente come se il politico fosse stato lì di persona.

      Le restrizioni proposte sui sistemi di raccomandazione introducono un problema separato perché vanno oltre il contenuto stesso e nel modo in cui le piattaforme distribuiscono materiale politico.

      Proibire agli algoritmi di raccomandare candidati particolari richiederebbe ai regolatori di esaminare le meccaniche ordinarie delle piattaforme, il che è notevolmente più difficile da monitorare rispetto a se un singolo video porta una divulgazione dell'IA.

      Il Brasile ha più esperienza con questo tipo di intervento rispetto a molti paesi. I suoi tribunali sono stati disposti a svolgere un ruolo più attivo nella regolamentazione delle piattaforme online e del discorso politico, e il TSE aveva già stabilito regole elettorali specifiche per l'IA prima dell'inizio della campagna attuale.

      L'applicazione delle regole sarà probabilmente più difficile che definire le regole. Un blackout sui contenuti politici sintetici intorno al giorno delle elezioni è utile solo se qualcuno può identificare rapidamente il materiale sintetico per fermarne la diffusione, il che diventa particolarmente difficile quando i contenuti si muovono attraverso gruppi di messaggistica privata piuttosto che attraverso reti sociali pubbliche.

      La disposizione sul blackout è anche la parte meno testata della proposta. Trattare i contenuti politici generati dall'IA come una categoria separata che richiede un periodo di silenzio intorno a un'elezione è un passo significativo oltre le regole europee esistenti, che generalmente si concentrano sulla trasparenza e sulle circostanze in cui i contenuti sintetici possono essere fuorvianti.

      I regolatori europei hanno quindi un motivo pratico per osservare cosa accade in Brasile.

      I requisiti di trasparenza dell'UE si basano su alcune delle stesse assunzioni sulla divulgazione, mentre le elezioni europee devono ancora produrre un caso comparabile che coinvolga un politico che è vietato dalla comunicazione ma può comunque raggiungere gli elettori attraverso una rappresentazione generata dall'IA.

      La scala dell'elettorato brasiliano rende l'applicazione ancora più difficile. Più di 150 milioni di persone sono idonee a votare e le app di messaggistica sono profondamente radicate nella comunicazione politica, gran parte della quale avviene in conversazioni e gruppi privati che i regolatori non possono monitorare realisticamente nello stesso modo in cui monitorano i post pubblici.

      Il Brasile sta quindi cercando di stabilire i confini mentre la campagna è già in corso, e gli attori politici colpiti da quei confini hanno un interesse diretto in come vengono tracciati.

      Lasciare le regole indefinite creerebbe i propri problemi, ma stabilirle solo poche settimane prima che gli elettori si rechino alle urne lascia molto poco spazio ai regolatori, alle campagne e alle piattaforme per apprendere come funzionano.

      Le elezioni si svolgeranno il 4 ottobre, lasciando al TSE circa cinque settimane affinché le regole approvate martedì vengano testate nella pratica.