Meta ha pubblicato annunci contenenti contenuti di abuso sessuale infantile generati da intelligenza artificiale, continuando anni di fallimenti nella sicurezza dei minori.

      La piattaforma pubblicitaria di Meta ha fatto qualcosa che ha promesso, ripetutamente, di non permettere mai più. Secondo una nuova indagine di Wired, Meta ha pubblicato dozzine di annunci a pagamento negli ultimi nove mesi contenenti immagini esplicite di abusi sessuali su minori generate da intelligenza artificiale, alcune delle quali sono rimaste attive anche dopo che l'azienda è stata direttamente confrontata al riguardo.

      Se questa sembra una storia che hai già letto, è perché probabilmente lo hai fatto. Solo poche settimane prima di questo ultimo rapporto, un'indagine separata della BBC ha scoperto che Instagram stava pubblicando annunci a pagamento che promuovevano materiale di abuso sessuale su minori in India, indirizzando gli utenti a canali Telegram che vendevano contenuti illegali.

      Meta

      Gli annunci di CSAM generati da intelligenza artificiale che Meta ha approvato e da cui ha tratto profitto

      I ricercatori del Tech Transparency Project hanno scoperto gli annunci all'interno della stessa Ad Library pubblica di Meta, uno strumento che l'azienda ha costruito specificamente per la trasparenza pubblicitaria. Gli annunci sono stati pubblicati tra novembre 2025 e inizio agosto 2026, raggiungendo persone negli Stati Uniti, nel Regno Unito e in più di una dozzina di paesi europei, con almeno un annuncio che ha raggiunto oltre 2.500 account solo in Europa.

      La direttrice del TTP, Katie Paul, ha detto a Wired che le immagini non hanno fatto alcun tentativo di mascherare ciò che stavano promuovendo, sottolineando che non si trattava di post che sfuggivano da utenti esterni, ma di annunci che Meta stessa ha esaminato e approvato prima di raccogliere entrate pubblicitarie da essi.

      Questo non era contenuto degli utenti. Era pubblicità che Meta ha accettato.

      Diversi annunci erano collegati direttamente a app di nudificazione, tra cui una chiamata MaskAI, che Apple ha rimosso dal suo App Store dopo che Wired l'ha segnalata. In un dettaglio particolarmente preoccupante, i ricercatori inizialmente hanno trovato circa due dozzine di annunci violatori, ma ne hanno scoperti circa 30 in più nelle ore immediatamente precedenti alla pubblicazione, diversi dei quali erano stati attivati solo dopo che Wired aveva già chiesto a Meta del problema.

      Paul ha anche notato che alcuni annunci corrispondevano a contenuti che Meta aveva precedentemente rimosso per la stessa violazione, sollevando reali interrogativi sulla capacità dei sistemi dell'azienda di riconoscere i trasgressori recidivi. Molti degli account che pubblicavano questi annunci avevano pochi o nessun follower, e dove i dettagli degli inserzionisti erano visibili, diversi risalivano a aziende cinesi, tra cui una identificata come un ex rivenditore di annunci di Meta.

      La risposta ufficiale di Meta si è basata su un linguaggio familiare, definendo il contenuto orribile, notando che la maggior parte degli annunci aveva una portata limitata e indicando un nuovo sistema di rilevamento dell'IA insieme a una dichiarazione di aver rimosso 36 milioni di pezzi di contenuto di sfruttamento infantile lo scorso anno.

      Meta Logo Unsplash

      Questo non è il primo scandalo sulla sicurezza dei minori di Meta

      La relazione di Meta con i fallimenti nella sicurezza dei minori risale molto prima di questa settimana. Già nel 2017, Facebook gestiva oltre 50.000 casi di pornografia di vendetta e segnalazioni di abusi sessuali ogni mese, costringendo l'azienda a reclutare migliaia di moderatori di contenuti aggiuntivi solo per tenere il passo.

      Nel 2019, messaggi interni successivamente rivelati in tribunale hanno mostrato che Meta aveva cambiato il modo in cui Messenger condivideva informazioni con le forze dell'ordine, influenzando circa 7,5 milioni di segnalazioni di abusi su minori.

      Nel 2021, la whistleblower Frances Haugen ha diffuso ricerche interne che mostrano che gli studi di Meta avevano scoperto che Instagram stava danneggiando la salute mentale delle ragazze adolescenti. Nello stesso anno, l'ingegnere Arturo Bejar ha personalmente inviato un'email a Zuckerberg riguardo all'esperienza di sua figlia di essere stata molestata sessualmente su Instagram.

      Meta

      Nel 2023, un'indagine congiunta del Wall Street Journal, Stanford e UMass Amherst ha scoperto che gli algoritmi di Instagram stavano attivamente collegando e promuovendo una vasta rete di account pedofili. Bejar ha successivamente testimoniato al Senato che le misure di sicurezza di Meta non erano altro che un placebo di nome. I senatori l'hanno definita una condanna e hanno promesso di agire, ma non sono seguite regolamentazioni vincolanti, e le pratiche di Meta sono continuate sostanzialmente invariate.

      Un decennio della stessa promessa infranta

      Gli avvertimenti non sono rimasti confinati a udienze congressuali per molto tempo. Il procuratore generale del New Mexico ha anche citato in giudizio Meta dopo che un'indagine sotto copertura ha scoperto che un profilo falso di una ragazza di 13 anni era immediatamente inondato di richieste sessuali da parte di adulti. Questo caso si è concluso nel marzo 2026 con una giuria che ha ordinato a Meta di pagare 375 milioni di dollari per aver messo in pericolo i minori e aver ingannato il pubblico.

      Le testimonianze durante quel processo hanno mostrato che il passaggio di Meta verso una moderazione guidata dall'IA stava inondando il sistema di segnalazioni di bassa qualità, rendendo più difficile per le indagini delle forze dell'ordine procedere. Un verdetto di 375 milioni di dollari dovrebbe fungere da campanello d'allarme per qualsiasi azienda. Questa intera categoria di abusi è diventata una presenza permanente online perché l'applicazione delle regole da parte della piattaforma è rimasta timida per troppo tempo.

      Meta

      Meta ha fallito nel risolvere questo problema o ha scelto di non farlo?

      A un certo punto, definire questo un fallimento ricorrente dà a Meta troppo credito. Ogni uno di questi incidenti segue lo stesso copione. Ogni volta che ricercatori indipendenti o giornalisti trovano contenuti problematici, Meta li rimuove solo dopo essere stata pubblicamente confrontata. Successivamente, l'azienda indica una grande statistica di rimozione come prova che prende sul serio la questione. Poi il ciclo si resetta.

      Dopo quasi un decennio di ripetizioni, e con i dati di Meta che mostrano che può identificare violazioni duplicate senza agire su di esse, la conclusione diventa difficile da evitare. Sembra che Meta abbia semplicemente calcolato che il costo di essere scoperti è semplicemente inferiore al costo di riparare il sistema sottostante.

      Andando avanti, gli utenti non hanno bisogno di un'altra dichiarazione formulata con attenzione da Meta. Hanno bisogno di un sistema che catturi contenuti dannosi in primo luogo. Fino a quando ciò non esisterà, ogni promessa di "prendere sul serio questo" è solo un altro segnaposto, in attesa della prossima indagine per dimostrare che è sbagliata di nuovo.