La moderazione AI di Meta sta bannando erroneamente gli account.

      Camille Hanson si svegliò una notte di marzo a causa di una notifica: Meta aveva contrassegnato i suoi account Facebook e Instagram per la cancellazione. Lei e suo marito gestivano un'attività di insegnamento dell'inglese lì con quasi un milione di follower. Meta ha detto che aveva violato le sue regole su frode e inganno, ha riportato il New York Times.

      Ha presentato ricorso. Una settimana dopo Meta lo ha negato. “Tutte le tue informazioni saranno eliminate permanentemente,” recitava la risposta. “Non puoi richiedere un'altra revisione di questa decisione.” I Hanson gestiscono l'attività dal Portogallo, quindi era, come ha detto suo marito, come se qualcuno chiudesse il tuo negozio da un giorno all'altro.

      Umani fuori dal giro

      A marzo, Meta ha dichiarato che avrebbe dato più potere all'IA per giudicare quali account violano le sue regole e per gestire i ricorsi. Mesi dopo, ha licenziato migliaia di dipendenti, compresi quelli che svolgevano esattamente quel lavoro.

      Più di 60.000 utenti hanno da allora firmato una petizione chiedendo a Meta di spiegare i suoi divieti e di permettere a un umano di esaminare i ricorsi. I forum di Reddit si sono riempiti della stessa lamentela: un sistema automatizzato elimina un account e nessuna persona risponde.

      La difesa di Meta

      Meta rifiuta l'idea che l'IA sia peggiore delle persone. Il portavoce Daniel Roberts ha detto che i suoi nuovi strumenti di moderazione commettono il 13% di errori in meno rispetto al personale umano e catturano il 10% di violazioni in più. I cinque account segnalati dal Times, ha notato, erano tutti stati bannati dagli strumenti più vecchi di Meta. Il 💜 della tecnologia dell'UE

      Le ultime voci dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris, e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      “Siamo impegnati a commettere meno errori di enforcement e ad aiutare gli individui a proteggere i loro account, e l'IA sta ottenendo risultati in entrambi i casi,” ha detto.

      Tuttavia, l'azienda ha avuto un percorso difficile con l'automazione. A maggio, gli hacker hanno rivolto il suo chatbot di assistenza clienti AI contro 34.000 account Instagram. Anche il personale si è ribellato a un programma che tracciava i loro tasti per addestrare l'IA. Ha affrontato il caos anche con i suoi strumenti pubblicitari AI.

      Un modello kafkaesco

      I divieti ingiusti portano spesso l'etichetta peggiore possibile. Athenia Rodney, che gestisce il gruppo JuneteenthNY da 17 anni, ha visto i suoi account cancellati per presunti materiali di sfruttamento infantile. I suoi contenuti, ha detto, sono adatti alle famiglie. Gli hacker avevano infatti preso possesso dei suoi account.

      Per recuperarli ha inviato documenti d'identità, ha presentato un reclamo alla FTC e ha contattato il personale di Meta su LinkedIn. Niente ha funzionato fino a quando il Times non è intervenuto. Meta ha ripristinato un influencer, poi lo ha bannato di nuovo giorni dopo per copyright, poi lo ha reintegrato ancora una volta.

      L'angolo europeo

      Le poste sono più alte in Europa, dove gli stessi divieti automatizzati raggiungono WhatsApp. Lo scrittore tecnologico M.G. Siegler, bannato tre volte, ha descritto il suo improvviso blocco da WhatsApp, senza preavviso o spiegazione. Gran parte del continente gestisce la vita quotidiana attraverso l'app, dal lavoro alla cura dei bambini.

      Meta insiste che le grandi decisioni rimangano umane. Dopo che 26 ex dipendenti hanno fatto causa, sostenendo che un algoritmo li avesse scelti per i licenziamenti, Meta ha detto che tali decisioni sono “prese da persone, non dall'IA.” Eppure per milioni di utenti, solo un bot si frappone tra loro e la cancellazione. Anche il ricorso è un bot. La reazione è improbabile che svanisca mentre i regolatori affinano il loro focus sulla responsabilità delle piattaforme.