Genitori nel Regno Unito avvisati sul rischio di immagini di abuso infantile generate dall'IA

      TL;DRL'Agenzia Nazionale per il Crimine del Regno Unito e la Internet Watch Foundation hanno avvertito i genitori di non pubblicare immagini dei propri figli, citando immagini di abuso generate dall'IA. L'IWF ha trovato 8.029 immagini e video di abuso generati dall'IA nel 2025, con un aumento del 14%, con i video di abuso generati dall'IA che sono passati da 13 a 3.440 in un anno. Le nuove linee guida congiunte dicono ai genitori di bloccare le impostazioni sulla privacy e di controllare i vecchi post.

      I genitori dovrebbero smettere di pubblicare immagini dei propri figli online a causa della crescita delle immagini di abuso generate dall'IA, ha avvertito l'Agenzia Nazionale per il Crimine del Regno Unito. L'agenzia ha emesso il consiglio insieme alla Internet Watch Foundation, l'ente di beneficenza responsabile della ricerca e rimozione di materiale di abuso sessuale infantile online.

      L'IWF ha identificato 8.029 immagini e video generati dall'IA di abuso sessuale infantile realistico nel 2025, un aumento del 14% rispetto all'anno precedente. I video sono dove la crescita è più evidente, passando da soli 13 video di abuso generati dall'IA confermati nel 2024 a 3.440 l'anno scorso.

      Tali immagini sono trattate come materiale di abuso sessuale infantile secondo la legge del Regno Unito, indipendentemente da come sono state create. “Mentre noi e i colleghi delle forze dell'ordine affrontiamo i trasgressori, la prevenzione rimane fondamentale,” ha detto Tim Wright, un manager senior della NCA.

      Il 💜 della tecnologia dell'UE

      Le ultime novità dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      Le linee guida congiunte chiedono ai genitori di rivedere le impostazioni sulla privacy e di limitare i post a gruppi fidati, come una lista di “amici intimi”. Suggerisce anche di controllare i post più vecchi per dettagli identificativi, come il volto di un bambino o l'uniforme scolastica, e di rivedere il consenso dato a scuole e club che fotografano i bambini.

      Dallo sharenting all'abuso sintetico

      Avvertimenti sul “sharenting”, un termine entrato nel Collins English Dictionary nel 2016, circolano da anni riguardo al furto d'identità e alla privacy. Gli strumenti di IA che possono manipolare le foto in modo convincente hanno trasformato una vecchia preoccupazione in qualcosa di più acuto.

      L'IWF ha precedentemente riportato un caso in cui una banda criminale ha estratto foto di alunni da un sito web scolastico e ha utilizzato l'IA per creare più di 100 immagini sessuali dei bambini. I suoi dati mostrano anche che il danno è fortemente di genere, con il 98% delle immagini di abuso generate dall'IA nel 2024 che coinvolgono ragazze in cui il sesso è stato registrato.

      I bambini stessi sono consapevoli della minaccia, con una ricerca dell'UNICEF che ha trovato che un quarto dei bambini teme che le loro immagini vengano trasformate in deepfake espliciti. I sostenitori hanno a lungo spinto per strumenti europei più forti contro le immagini di deepfake non consensuali.

      Regolamentazione in arrivo

      Il governo del Regno Unito ha deciso di vietare le cosiddette app di nudificazione e ha modificato la legge affinché le aziende di IA possano testare se i loro sistemi possono essere abusati per produrre tale materiale. L'IWF, che ha fatto campagna per il divieto, ha descritto le app come prodotti senza motivo di esistere.

      Ofcom sta nel frattempo applicando la Legge sulla Sicurezza Online, aprendo un'indagine sulla sicurezza dei bambini su Telegram dopo indagini su X e Grok. I ministri stanno anche valutando un divieto sui social media per i minori di 16 anni.

      Il più ampio riconoscimento dei deepfake, da celebrità a studenti, ha già costretto i legislatori a muoversi più velocemente di quanto pianificato. Le linee guida della NCA spostano parte di quell'urgenza nell'album fotografico di famiglia.

      “Queste non sono minacce ipotetiche, sono reali,” ha detto l'amministratore delegato dell'IWF Kerry Smith, sottolineando che l'obiettivo è una condivisione informata con persone fidate piuttosto che nessuna condivisione. Il consiglio, alla fine, riguarda meno il panico e più il restringere il pool di materiale grezzo.