Cosa succede quando i rilevatori di intelligenza artificiale falliscono? I ricercatori dicono che dobbiamo essere addestrati a riconoscere i volti falsi generati dall'IA.

      L'intelligenza artificiale è diventata straordinariamente brava a creare volti umani falsi. Così brava, in effetti, che i vecchi trucchi su cui le persone si affidavano – contare le dita, individuare orecchini deformati o cercare sfondi distorti – stanno rapidamente diventando obsoleti. Secondo un nuovo studio evidenziato dalla BBC, la prossima linea di difesa potrebbe non essere affatto un rilevatore di IA migliore. Potrebbe semplicemente essere un umano meglio addestrato.

      I ricercatori dell'Università di Aberdeen, lavorando insieme all'Università Nazionale dell'Australia, hanno scoperto che le persone possono migliorare drasticamente la loro capacità di distinguere i volti generati dall'IA da quelli reali dopo un periodo relativamente breve di formazione strutturata. Invece di cercare evidenti difetti visivi, ai partecipanti è stato insegnato a riconoscere schemi sottili che i moderni generatori di immagini faticano ancora a replicare in modo coerente.

      La corsa all'IA sta costringendo anche gli esseri umani a evolversi

      Per anni, identificare immagini generate dall'IA sembrava quasi banale. I primi modelli spesso producevano sei dita, orecchini non abbinati o ombre impossibili. Ma i generatori di oggi, alimentati da sistemi come StyleGAN3 e modelli di diffusione più recenti, hanno in gran parte superato quegli errori rivelatori. Di conseguenza, i ricercatori sostengono che fare affidamento su difetti visivi non è più una strategia efficace.

      Immagine rappresentativa Unsplash

      Invece, ai partecipanti è stato insegnato a giudicare sei qualità percettive che i volti dell'IA spesso condividono. Queste includono una simmetria facciale insolitamente perfetta, caratteristiche altamente proporzionali, attrattiva sopra la media, strutture facciali dall'aspetto generico, espressione emotiva limitata e volti che sono sorprendentemente difficili da ricordare dopo aver distolto lo sguardo.

      I risultati sono stati sorprendenti. Prima della formazione, i partecipanti identificavano correttamente i volti generati dall'IA solo circa il 40% delle volte. Dopo circa un'ora di apprendimento guidato e ripetuta esposizione a volti reali e sintetici, l'accuratezza è salita a quasi l'80%. Un gruppo di partecipanti ha persino raggiunto punteggi di rilevamento quasi perfetti. Più importante, la loro fiducia è diventata meglio allineata con le loro prestazioni effettive, qualcosa che ricerche precedenti suggerivano fosse spesso mancante.

      Perché individuare i volti dell'IA è più importante che mai

      Questo non è più semplicemente un esercizio accademico. La tecnologia deepfake è già utilizzata in frodi finanziarie, campagne di influenza politica e truffe di identità online. La BBC fa riferimento a stime di Deloitte che suggeriscono che le perdite da frodi deepfake abilitate dall'IA negli Stati Uniti potrebbero salire a 40 miliardi di sterline l'anno prossimo, in netto aumento rispetto ai circa 12 miliardi di sterline nel 2023. Fa anche riferimento a un caso ampiamente riportato di Hong Kong in cui i truffatori avrebbero utilizzato una videochiamata deepfake per convincere un dipendente a trasferire 25 milioni di sterline. Nel frattempo, un'indagine precedente dell'Associated Press ha scoperto un profilo LinkedIn generato dall'IA che è riuscito a infiltrarsi nei circoli politici statunitensi.

      Lo studio evidenzia anche un altro problema importante: i sistemi di IA rimangono meno affidabili nel generare volti più anziani, volti più giovani e persone di gruppi etnici sottorappresentati a causa dei pregiudizi nei loro dati di addestramento. Queste imperfezioni potrebbero comunque fornire indizi utili per gli osservatori umani.

      Unsplash

      Forse la conclusione più interessante è che il cervello umano sembra apprendere molto simile all'IA stessa. Vedendo ripetutamente esempi di volti reali e falsi, le persone sviluppano gradualmente un senso intuitivo di autenticità piuttosto che fare affidamento su un singolo indizio. I ricercatori credono che questo istinto possa diventare uno dei nostri strumenti più forti man mano che l'IA generativa continua a migliorare.

      L'ironia è difficile da ignorare. Man mano che l'intelligenza artificiale diventa migliore nel fingere di essere umana, gli esseri umani potrebbero dover iniziare ad addestrarsi come fanno le macchine – attraverso dati, ripetizione e riconoscimento di schemi. I rilevatori di IA potrebbero continuare a migliorare, ma la ricerca suggerisce che non dovrebbero essere l'unica difesa. Il giudizio umano ha ancora un ruolo da svolgere; ha solo bisogno di un aggiornamento.

Altri articoli

Il boom degli impianti a gas dell'IA e la lotta per fermarlo I centri dati AI hanno avviato il più grande boom di costruzione di impianti a gas di sempre. Gli sostenitori delle energie pulite non possono costruire tanto, quindi stanno cercando di influenzare i regolatori.

Ho speso una fortuna per un PC Copilot+, e non ho quasi mai toccato l'IA di Microsoft. Il mio PC Copilot+ ha hardware AI dedicato e il proprio tasto Copilot, eppure l'assistente di Microsoft ha appena guadagnato un posto nel mio flusso di lavoro quotidiano.

Ho investito in un futuro più luminoso, ma la mia vita digitale paga abbonamenti mensili. La vita moderna si basa su abbonamenti che sono spesso utili, ragionevoli e sempre più difficili da vivere senza. Il futuro è arrivato, ma apparentemente dovremo continuare a pagare mensilmente per utilizzarlo.

Ho investito in un futuro più luminoso, ma la mia vita digitale costa abbonamenti mensili. La vita moderna si basa su abbonamenti che sono spesso utili, ragionevoli e sempre più difficili da vivere senza. Il futuro è arrivato, ma apparentemente dovremo continuare a pagare mensilmente per utilizzarlo.

Ho cercato di parodiare i prodotti AI più assurdi, ma l'industria tecnologica mi ha battuto sul tempo. Ho provato a inventare gadget AI troppo assurdi per l'industria tecnologica. Poi ho trovato spazzolini da denti, lettiere, cuffie e elettrodomestici che mi avevano già battuto sul tempo.

Ho speso una fortuna per un PC Copilot+, e ho toccato a malapena l'IA di Microsoft. Il mio PC Copilot+ ha hardware AI dedicato e il suo tasto Copilot, eppure l'assistente di Microsoft ha guadagnato a malapena un posto nel mio flusso di lavoro quotidiano.

Cosa succede quando i rilevatori di intelligenza artificiale falliscono? I ricercatori dicono che dobbiamo essere addestrati a riconoscere i volti falsi generati dall'IA.

I rilevatori di intelligenza artificiale stanno lottando contro deepfake sempre più realistici. I ricercatori affermano che le persone possono migliorare notevolmente la loro capacità di identificare volti falsi generati dall'IA attraverso un addestramento strutturato e il riconoscimento di schemi.