Gartner: la maggior parte degli incidenti sulla privacy proviene presto da inferenze dell'IA

      Per decenni, proteggere la privacy ha significato una cosa: fermare la fuga di dati personali. Gartner pensa che questa idea sia sul punto di cambiare. Entro il 2029, la maggior parte degli incidenti sulla privacy non deriverà da dati personali trapelati, ma da ciò che l'IA deduce sulle persone, ha previsto questa settimana la società di ricerca. Il rischio non è più solo nei registri che un'azienda detiene. È nelle conclusioni che un modello può trarre da frammenti che sembrano innocui.

      Dall'esposizione dei dati all'esposizione delle intuizioni

      L'analista di Gartner Bart Willemsen la definisce un cambiamento “dall'esposizione dei dati all'esposizione delle intuizioni.” Un modello può ora ricostruire cose profondamente personali, come una condizione di salute o un modello comportamentale. Le estrae da dati che sembrano anonimi, aggregati o innocui, e non deve mai violare un database per farlo.

      C'è un'ironia in questo. Le aziende stanno memorizzando meno dati personali, spinte dalla regolamentazione e dai costi. Questo dovrebbe ridurre il rischio. Ma se un'IA può comunque dedurre il dettaglio sensibile, detenere meno dati fa poco per proteggere la persona che descrive.

      Attacchi che non lasciano registri trapelati

      Questi attacchi di inferenza sono difficili da catturare. Una violazione normale lascia una traccia: un file rubato, un record esposto, un avviso che scatta. Una conclusione dedotta non lascia nulla di tutto ciò.

      “Gli attacchi di inferenza sono particolarmente pericolosi perché spesso eludono i meccanismi di rilevamento convenzionali,” ha detto Willemsen. “Gli individui possono essere esposti attraverso conclusioni generate dall'IA piuttosto che da registri trapelati, creando rischi per la privacy che minano l'integrità dei dati e sono difficili da rilevare, spiegare e mitigare.”

      La minaccia si trova anche al di fuori della maggior parte delle leggi sulla privacy, che regolano principalmente i dati personali che le aziende raccolgono, memorizzano e condividono. Un'ipotesi fatta da un modello non è nessuna di queste cose. È un punto cieco in crescita mentre gli strumenti quotidiani registrano e analizzano silenziosamente di più delle nostre vite.

      Cosa vuole che le aziende cambino Gartner

      Il consiglio di Gartner ai responsabili della sicurezza è di governare ciò che l'IA conclude, non solo ciò che memorizza. Si aspetta che la spesa per le protezioni “di integrità” dei dati raggiunga la parità con la riservatezza dei dati entro il 2028, mentre le aziende rispondono a profili generati dall'IA imprecisi, distorti o non autorizzati.

      Le soluzioni raccomandate sono pratiche. Integrare controlli sulla privacy nel modo in cui i team costruiscono i sistemi di IA. Adottare strumenti che migliorano la privacy come la privacy differenziale e i dati sintetici. Minimizzare i dati a disposizione. E mantenere un umano nel loop per approvare prima che un'IA agisca su un'inferenza sensibile.

      Quest'ultimo punto è importante perché l'esposizione può essere silenziosa e accidentale, non solo malevola. TNW ha trattato di come le chat private dell'IA siano finite indicizzate dai motori di ricerca, senza alcuna violazione richiesta.

      Una previsione, non una certezza

      Si applicano le solite avvertenze. Questa è una previsione di Gartner, e Gartner vende la ricerca e i posti per la conferenza dietro di essa. “La maggior parte degli incidenti sulla privacy” entro un dato anno è il tipo di affermazione che è facile da dichiarare e difficile da dimostrare.

      Ma la preoccupazione sottostante è reale. I ricercatori hanno dimostrato per anni che i modelli possono ri-identificare le persone e indovinare tratti privati dai dati pubblici. I regolatori stanno appena iniziando a recuperare terreno, con l'Atto sull'IA dell'UE ancora in fase di attuazione. Il punto di Gartner è semplicemente che l'industria ha passato anni a proteggere la porta sbagliata.