Gartner: la maggior parte degli incidenti sulla privacy proverrà presto da inferenze dell'IA

      Per decenni, proteggere la privacy ha significato una cosa: fermare la fuoriuscita di dati personali. Gartner pensa che questa idea stia per cambiare. Entro il 2029, la maggior parte degli incidenti sulla privacy non deriverà da dati personali trapelati, ma da ciò che l'IA deduce sulle persone, ha previsto questa settimana la società di ricerca. Il rischio non è più solo nei registri che un'azienda detiene. Sono le conclusioni che un modello può trarre da frammenti che sembrano innocui.

      Dall'esposizione dei dati all'esposizione delle intuizioni Gartner analista Bart Willemsen la definisce un cambiamento “dall'esposizione dei dati all'esposizione delle intuizioni.” Un modello può ora ricostruire cose profondamente personali, come una condizione di salute o un modello comportamentale. Le estrae da dati che sembrano anonimi, aggregati o innocui, e non deve mai violare un database per farlo.

      C'è un'ironia in questo. Le aziende stanno memorizzando meno dati personali, spinte dalla regolamentazione e dai costi. Questo dovrebbe ridurre il rischio. Ma se un'IA può comunque dedurre il dettaglio sensibile, detenere meno dati fa poco per proteggere la persona che descrive.

      Attacchi che non lasciano registri trapelati Questi attacchi di inferenza sono difficili da catturare. Una violazione normale lascia una traccia: un file rubato, un registro esposto, un avviso che scatta. Una conclusione inferita non lascia nulla di tutto ciò. “Gli attacchi di inferenza sono particolarmente pericolosi perché spesso eludono i meccanismi di rilevamento convenzionali,” ha detto Willemsen. “Gli individui possono essere esposti attraverso conclusioni generate dall'IA piuttosto che da registri trapelati, creando rischi per la privacy che minano l'integrità dei dati e sono difficili da rilevare, spiegare e mitigare.”

      La minaccia si trova anche al di fuori della maggior parte delle leggi sulla privacy, che governano in gran parte i dati personali che le aziende raccolgono, memorizzano e condividono. Un'ipotesi che un modello fa non è nessuna di queste cose. È un punto cieco in crescita mentre gli strumenti quotidiani registrano e analizzano silenziosamente di più delle nostre vite.

      Cosa vuole che le aziende cambino Gartner consiglia ai responsabili della sicurezza di governare ciò che l'IA conclude, non solo ciò che memorizza. Si aspetta che la spesa per le protezioni “di integrità” dei dati raggiunga la parità con la riservatezza dei dati entro il 2028, mentre le aziende rispondono a profili generati dall'IA imprecisi, parziali o non autorizzati. Le sue soluzioni raccomandate sono pratiche. Integrare controlli sulla privacy nel modo in cui i team costruiscono sistemi di IA. Adottare strumenti che migliorano la privacy come la privacy differenziale e i dati sintetici. Minimizzare i dati a disposizione. E mantenere un umano nel loop per approvare prima che un'IA agisca su un'inferenza sensibile.

      Quest'ultimo punto è importante perché l'esposizione può essere silenziosa e accidentale, non solo malevola. TNW ha trattato di come le chat private dell'IA siano finite indicizzate dai motori di ricerca, senza necessità di violazione.

      Una previsione, non una certezza Si applicano le solite avvertenze. Questa è una previsione di Gartner, e Gartner vende la ricerca e i posti per la conferenza dietro di essa. “La maggior parte degli incidenti sulla privacy” entro un dato anno è il tipo di affermazione che è facile da dichiarare e difficile da dimostrare. Ma la preoccupazione sottostante è reale. I ricercatori hanno dimostrato per anni che i modelli possono ri-identificare le persone e indovinare tratti privati dai dati pubblici. I regolatori stanno appena iniziando a recuperare terreno, con il Regolamento sull'IA dell'UE che sta ancora prendendo piede. Il punto di Gartner è semplicemente che l'industria ha speso anni a proteggere la porta sbagliata.