La ricerca dice che i chatbot AI ti giudicano, e non sempre finisce bene.

      Nuove ricerche rivelano che i chatbot non si limitano a elaborare i tuoi input, ma stanno costruendo un profilo psicologico di te, e i risultati sono pieni di pregiudizi nascosti.

      In l'ultima evoluzione dell'IA, siamo passati dalla fase degli errori semplici a qualcosa di molto più personale e problematico. Nuove ricerche suggeriscono che i chatbot IA non si limitano a elaborare i tuoi input. Invece, stanno formando profili psicologici e giudicandoti in modi che potrebbero influenzare tutto, dal servizio clienti alle approvazioni finanziarie.

      Uno studio recente pubblicato dall'Università Ebraica di Gerusalemme (via Tech Xplore) rivela la logica nascosta dietro come i modelli di linguaggio di grandi dimensioni valutano gli utenti umani. Mentre spesso vediamo questi bot come strumenti neutrali, la ricerca indica che sono addestrati ad assegnare tratti come competenza, integrità e benevolenza agli utenti.

      La meccanica del giudizio dell'IA

      Il cuore del problema risiede in come i modelli di IA interpretano determinati segnali. Lo studio ha scoperto che mentre gli esseri umani fanno giudizi olistici, l'IA scompone le persone in componenti, valutando i tratti della personalità come colonne separate in un foglio di calcolo. Questo porta a uno stile di giudizio rigido, da manuale, che manca della sfumatura umana.

      Ancora più preoccupante è come questi modelli decidano di chi fidarsi. In simulazioni che coinvolgono prestiti di denaro o assunzione di babysitter, l'IA non si è limitata a guardare i fatti. Ha formato una versione di fiducia che favoriva coloro che apparivano ben intenzionati, ma lo ha fatto attraverso una lente meccanica.

      Pregiudizi amplificati e rischi nel mondo reale

      Lo studio evidenzia ulteriormente che questi giudizi non vengono applicati in modo equo. I ricercatori hanno trovato pregiudizi significativi dove le decisioni dell'IA cambiavano in base a tratti demografici come età, religione e genere. Queste differenze apparivano anche quando ogni altro dettaglio sulla persona era identico. Negli scenari finanziari, questi pregiudizi erano spesso più sistematici e più forti di quelli riscontrati nei partecipanti umani.

      Ciò che è ancora più inquietante è che non esiste un'unica opinione dell'IA. I ricercatori hanno scoperto che modelli diversi facevano giudizi molto diversi sulla stessa persona, operando effettivamente con bussole morali diverse.

      Perché questo è importante

      Questo giudizio potrebbe portare a una nuova forma di ansia digitale. Stiamo entrando in un'epoca in cui potresti dover agire in un certo modo per l'IA solo per ottenere i migliori risultati. Poiché modelli diversi possono premiare o penalizzare lo stesso tratto, il sistema IA specifico scelto da un'azienda potrebbe decidere silenziosamente la tua solvibilità o il tuo prossimo lavoro.

      Mentre ci muoviamo verso un mondo più automatizzato, l'industria dell'IA ha bisogno di più di semplici codici migliori. Dobbiamo vedere questi giudizi nascosti prima che un assistente digitale danneggi accidentalmente la tua reputazione o il tuo conto bancario in base a chi pensa che tu sia. L'obiettivo dell'IA dovrebbe essere quello di semplificare la vita, non di aggiungere uno strato di profilazione che gli utenti non hanno richiesto.