420 bambini britannici hanno segnalato deepfake espliciti di se stessi in sei mesi. Il problema sta peggiorando.

      I rapporti di deepfake sessuali generati da AI che coinvolgono bambini nel Regno Unito sono in aumento

      I bambini nel Regno Unito segnalano un forte aumento di immagini esplicite generate da AI che li ritraggono, secondo i dati di Report Remove, un servizio online che consente ai giovani di segnalare in modo anonimo immagini intime condivise senza consenso.

      Il servizio ha ricevuto 420 segnalazioni nei primi sei mesi del 2026 da bambini che credevano che le immagini di se stessi fossero state manipolate o fabbricate. Questo è già superiore alle 397 segnalazioni registrate durante tutto il 2025, secondo The Guardian.

      I dati evidenziano un problema crescente con l'AI generativa: creare immagini false convincenti di una persona reale richiede sempre meno abilità tecniche, mentre fermare la diffusione di quelle immagini può essere notevolmente più difficile.

      L'AI sta rendendo più facile creare immagini false

      Report Remove, gestito dalla Internet Watch Foundation insieme all'NSPCC, ha visto abbastanza immagini manipolate che coinvolgono minorenni da aggiungere un'opzione specifica per i bambini per segnalare materiale generato da AI. Il servizio ha dichiarato che la maggior parte delle segnalazioni di immagini manipolate ricevute nel 2025 e nel 2026 erano abbastanza gravi da superare la soglia per il materiale di abuso sessuale infantile.

      Dan Sexton, chief technology officer della Internet Watch Foundation, ha affermato che i dati dimostrano quanto sia difficile prevenire la manipolazione di fotografie ordinarie una volta che sono disponibili online.

      Questo è particolarmente preoccupante perché la fotografia originale non deve essere esplicita. Un'immagine innocua presa da un account pubblico sui social media può potenzialmente essere alterata e trasformata in qualcosa di abusivo.

      Il problema si estende anche oltre l'imbarazzo o il danno reputazionale. Secondo il rapporto, alcune vittime sono state prese di mira per sextorsione, con i trasgressori che chiedevano denaro o minacciavano di distribuire immagini manipolate in modo più ampio. Ci sono stati anche casi che coinvolgono tentativi di prendere di mira le scuole raccogliendo fotografie degli alunni e utilizzando l'AI per manipolarle.

      Genitori e piattaforme sono costretti a ripensare la sicurezza

      Gli esperti di sicurezza online affermano che le aziende tecnologiche hanno bisogno di salvaguardie più forti attorno agli strumenti di generazione di immagini AI. Rani Zachariah, esperto di sicurezza online presso l'NSPCC, ha dichiarato che l'aumento dei bambini che segnalano immagini sessuali false o generate da AI è allarmante ma prevedibile, sostenendo che è necessario costruire protezioni più forti nei prodotti AI.

      La National Crime Agency e la Internet Watch Foundation hanno anche esortato genitori e tutori a essere cauti nel pubblicare immagini identificabili di bambini in pubblico. Il consiglio non è necessariamente quello di rimuovere ogni fotografia da Internet, ma di ridurre quanto facilmente gli estranei possano accedere e riutilizzare immagini identificabili.

      Per i bambini già colpiti, Report Remove fornisce un modo per segnalare immagini in modo anonimo e cercare aiuto per farle rimuovere.

      Il problema più grande, tuttavia, si sta muovendo più velocemente delle salvaguardie. Gli strumenti di AI possono generare immagini sempre più convincenti in pochi secondi, mentre rimuovere copie da siti web e piattaforme social è un processo più lento. Come ha avvertito Sexton, tutti sono potenzialmente a rischio.