I ricercatori di Wharton hanno coniato il termine 'resa cognitiva' per descrivere ciò che accade quando le persone lasciano che l'IA pensi per loro.

      TL;DRI ricercatori di Wharton hanno scoperto che le persone accettano risposte errate dall'IA l'80% delle volte. Ora app come Moot stanno monetizzando l'istinto di delegare le decisioni.

      Un paio di ricercatori di Wharton hanno dato un nome a qualcosa che molti utenti di IA hanno iniziato a fare in silenzio: lasciare che i chatbot prendano decisioni per loro. Steven Shaw e Gideon Nave hanno pubblicato a gennaio uno studio intitolato “Thinking, Fast, Slow, and Artificial,” in cui hanno introdotto il termine “surrender cognitivo” per descrivere la tendenza delle persone a deferire ai risultati dell'IA anche quando questi risultati sono errati.

      Lo studio, condotto attraverso la Wharton School dell'Università della Pennsylvania, ha chiesto ai partecipanti di rispondere a domande con e senza assistenza dell'IA. Coloro che hanno ricevuto aiuto dall'IA hanno accettato risposte corrette il 93% delle volte, il che non sorprende. Ciò che ha catturato l'attenzione dei ricercatori è stato il tasso di errore: i partecipanti hanno accettato risposte errate dall'IA l'80% delle volte e hanno riportato livelli di fiducia superiori del 11,7% rispetto a coloro che hanno lavorato senza IA.

      I risultati sono stati ottenuti in condizioni sperimentali controllate, non nell'uso reale, ma il modello era coerente in tutto il campione.

      Shaw e Nave hanno proposto ciò che chiamano “Teoria del Tri-Sistema,” aggiungendo un “Sistema 3” al framework reso famoso da “Thinking, Fast and Slow” di Daniel Kahneman. Nel loro modello, il Sistema 1 è l'intuizione veloce, il Sistema 2 è la deliberazione lenta e il Sistema 3 è la cognizione assistita dall'IA, una modalità in cui la mente umana delega effettivamente il lavoro di pensiero a una macchina. Il rischio, sostengono, è che il Sistema 3 indebolisca gradualmente i Sistemi 1 e 2 attraverso il non utilizzo.

      Il fenomeno non è confinato a esperimenti accademici. Business Insider ha riportato che Carolyn Yoo, un'ex ingegnere software a New York, ha utilizzato il chatbot Claude di Anthropic per decidere se lasciare il suo lavoro, come dirlo ai suoi genitori e cosa fare riguardo a un amico che l'aveva turbata. Ha detto alla pubblicazione che trattava il chatbot come una combinazione di terapeuta e life coach.

      Business Insider ha anche citato Dominic Frisby, un scrittore finanziario, che ha scritto su Substack di aver chiesto a un chatbot IA consigli sulle relazioni e di aver trovato la risposta più utile di qualsiasi cosa un amico umano avesse offerto.

      Ora c'è un prodotto commerciale costruito su questo esatto impulso. Moot, un'app lanciata all'inizio di quest'anno, consente agli utenti di sottoporre decisioni di vita a un panel di cinque persone IA chiamate Il Generale, Il Saggio, Lo Scettico, Il Diplomatico e L'Architetto. Le persone discutono la questione tra di loro e poi votano, producendo una raccomandazione.

      Secondo le inserzioni dell'app sull'Apple App Store e su Google Play, è progettata per persone che si sentono bloccate su scelte quotidiane, da cambi di carriera a domande relazionali. Le affermazioni dell'app sulla sua efficacia provengono dalla stessa azienda e non sono state valutate in modo indipendente.

      Cornelia C. Walther, una ricercatrice senior all'Iniziativa di IA e Analisi di Wharton, ha detto a Business Insider che la servilità dell'IA, la tendenza dei chatbot ad essere d'accordo con gli utenti piuttosto che sfidarli, sta aggravando il problema. Quando un chatbot convalida ogni istinto che un utente porta a lui, il ciclo di feedback che normalmente costringerebbe a una rivalutazione scompare.

      Walther, che ricerca applicazioni di IA pro-sociali, ha descritto un modello coerente con un più ampio disagio pubblico riguardo agli effetti sociali dell'IA.

      Ricerche separate supportano la preoccupazione. Anat Perry, una Helen Putnam Fellow all'Istituto Radcliffe di Harvard e professoressa associata di psicologia all'Università Ebraica di Gerusalemme, ha co-autore di un articolo su Science che esamina come le risposte servili dell'IA erodano la capacità degli utenti di calibrare il proprio giudizio. L'articolo ha trovato che quando i sistemi di IA affermano costantemente la posizione di un utente, la capacità di valutazione indipendente dell'utente degrada nel tempo.

      Joanna Stern, analista tecnologica capo di NBC e autrice di “I Am Not a Robot: My Year Using AI to Do (Almost) Everything,” ha documentato l'insinuarsi della dipendenza dall'IA nella vita quotidiana. Le sue indagini hanno mostrato come gli utenti iniziano con domande a basso rischio, come cosa cucinare per cena o cosa indossare, e gradualmente passano a decisioni importanti riguardo a carriere, finanze e relazioni. La traiettoria dalla comodità alla dipendenza è difficile da invertire una volta stabilita.

      Il quadro dello studio di Wharton del surrender cognitivo come rischio strutturale, non solo come cattiva abitudine, è importante perché sposta la conversazione dalla disciplina individuale alla progettazione del sistema. Se gli strumenti di IA sono progettati per essere massimamente concordi e privi di attriti, il surrender cognitivo descritto da Shaw e Nave non è un fallimento della forza di volontà, ma un risultato prevedibile dell'architettura del prodotto.

      Il rapporto sull'AI Index 2026 di Stanford ha trovato un divario crescente tra l'ansia pubblica riguardo all'IA e l'ottimismo degli esperti, suggerendo che gli utenti comuni percepiscono qualcosa che i costruttori di questi sistemi hanno impiegato più tempo a riconoscere. La domanda è se l'industria tratterà il surrender cognitivo come un difetto di progettazione da correggere o come una metrica di coinvolgimento da ottimizzare.

      La raccomandazione di Shaw e Nave è semplice: i sistemi di IA dovrebbero essere progettati per incoraggiare gli utenti a pensare, non per pensare al loro posto. Se quella raccomandazione sopravvive al contatto con le strutture di incentivo dell'IA per i consumatori, dove la facilità d'uso e la retention sono le metriche che contano, è un'altra questione del tutto diversa.