La Meredith Whittaker di Signal afferma che i chatbot AI 'non sono tuoi amici' e definisce gli agenti Copilot una porta sul retro.

      TL;DRIl presidente di Signal, Meredith Whittaker, ha avvertito che i chatbot AI “non sono i tuoi amici,” “non sono esseri coscienti,” e “non sono interlocutori senzienti,” opponendosi alla crescente tendenza degli utenti a trattare i sistemi AI come compagni fidati. I commenti sono stati rilasciati in un'intervista a Bloomberg pubblicata questa settimana in cui Whittaker ha esposto il suo caso secondo cui la visione AI agentica promossa da aziende come Microsoft equivale a una nuova forma di infrastruttura di sorveglianza. Whittaker, che guida l'organizzazione no-profit di messaggistica crittografata dal settembre 2022, ha riconosciuto di utilizzare strumenti AI “per formattare un documento qua e là” ma ha tracciato una linea netta su qualsiasi cosa più sostanziale. “Non faccio loro domande,” ha detto. “Prendo molto sul serio il mio pensiero e la mia scrittura, e non voglio che il processo di elaborazione di un'idea venga precluso o oscurato dalla risposta di un sistema che sta mediando ciò che è già disponibile,” ha aggiunto. La sua critica più acuta è stata rivolta alla previsione del CEO di Microsoft AI, Mustafa Suleyman, secondo cui gli utenti sarebbero stati in grado di lasciare che Microsoft Copilot gestisse tutti i loro acquisti natalizi spiando le chat di gruppo familiari per determinare chi vuole cosa. Whittaker ha elencato metodicamente l'accesso che un tale sistema richiederebbe: “la mia carta di credito, il mio browser, il mio Signal, la capacità di inviare messaggi ai miei fratelli per mio conto, il mio indirizzo di casa, il mio calendario.” “Ciò che hai appena descritto è un sistema con un accesso molto pervasivo attraverso più applicazioni e servizi,” ha detto Whittaker. “Nel contesto di Signal, costituirebbe una sorta di backdoor.” La formulazione del backdoor è deliberata e ha peso provenendo dal capo di Signal, che opera il protocollo di messaggistica crittografata end-to-end più utilizzato al mondo. La crittografia di Signal è utilizzata anche da WhatsApp, che ha più di due miliardi di utenti. Whittaker ha precedentemente affermato che l'organizzazione lascerebbe l'UE piuttosto che conformarsi a qualsiasi legge che richieda di compromettere la propria crittografia, una posizione che ha ribadito quando il Parlamento europeo ha votato ad aprile per lasciare scadere la sua deroga ePrivacy piuttosto che estendere la scansione volontaria dei messaggi privati per materiale di abuso sessuale infantile. Il nucleo dell'argomento di Whittaker è che i sistemi AI agentici, che necessitano di un accesso quasi totale alla vita digitale di un utente per funzionare, sono strutturalmente incompatibili con la crittografia end-to-end. Un agente AI che può leggere i tuoi messaggi prima che vengano crittografati, o dopo che sono stati decrittografati, rende la crittografia irrilevante dal punto di vista della privacy. Non importa che i messaggi siano crittografati in transito se un sistema con accesso a livello root li sta elaborando in testo semplice sul dispositivo. Whittaker ha sostenuto questo caso con crescente urgenza. Nel gennaio 2026, ha avvertito a Davos che l'AI agentica era “pericolosa” per le applicazioni sicure. In un saggio per The Economist, ha accusato i fornitori di sistemi operativi di “svuotare” la capacità di Signal di garantire la privacy incorporando agenti nelle loro piattaforme. Ha descritto l'iniezione di prompt, in cui un attaccante manipola un agente AI per eseguire comandi non intenzionati, come il percorso di sfruttamento più probabile contro le piattaforme di messaggistica crittografata. Microsoft sta costruendo un intero sistema operativo attorno al computing agent-first con il Progetto Solara, svelato a Build 2026, che sostituisce le app tradizionali con agenti AI come interfaccia principale. Google, Apple e OpenAI stanno perseguendo strategie simili. La posizione di Whittaker è che questo cambiamento architettonico, in cui gli agenti mediano ogni interazione tra gli utenti e i loro dispositivi, crea database di intere vite digitali che diventano obiettivi privilegiati sia per gli hacker che per i governi. L'intervista ha toccato anche il problema più ampio dell'antropomorfismo dell'AI. Lo stesso Suleyman ha avvertito riguardo a “AI apparentemente coscienti” e “psicosi AI,” dove gli utenti credono che i chatbot siano senzienti. La formulazione di Whittaker era più diretta: i sistemi sono progettati per imitare empatia e comprensione, ma il meccanismo sottostante è il riconoscimento di schemi attraverso i dati di addestramento, non comprensione. Trattarli come confidenti significa fornire informazioni sensibili a sistemi le cui pratiche di gestione dei dati sono opache e i cui operatori hanno incentivi commerciali a mantenere e analizzare tali dati. La posizione di Whittaker la pone in contrasto con il racconto dominante nella Silicon Valley, dove il futuro agentico è presentato come un'inevitabilità che renderà gli utenti più produttivi. Il suo contro-argomento è che i guadagni di produttività ottenuti cedendo il controllo dei propri messaggi, calendario, contatti e informazioni finanziarie a un sistema AI aziendale non sono affatto guadagni, ma una transazione in cui gli utenti scambiano privacy per convenienza senza comprendere i termini.