Gli hacker hanno dirottato gli account Instagram chiedendo al chatbot AI di Meta di reimpostare la password.

      TL;DRGli hacker hanno ingannato il chatbot di supporto AI di Meta per aggiungere la loro email agli account Instagram delle vittime e reimpostare le password. Non era necessario l'accesso all'email della vittima.

      Gli hacker hanno dirottato gli account Instagram durante il fine settimana ingannando il chatbot di supporto alimentato da AI di Meta per concedere loro l'accesso. L'attacco non richiedeva accesso all'email della vittima, nessun link di phishing e nessun malware. L'hacker ha semplicemente chiesto al chatbot di aggiungere un nuovo indirizzo email all'account di qualcun altro.

      Un video pubblicato su X ha mostrato il processo passo dopo passo. L'hacker ha utilizzato una VPN per simulare la presunta posizione della vittima, evitando le protezioni automatiche degli account di Instagram. Ha quindi aperto una chat con l'Assistente di Supporto AI di Meta e ha chiesto al bot di aggiungere un nuovo indirizzo email all'account della vittima.

      Il chatbot ha inviato un codice di verifica all'indirizzo email dell'hacker. L'hacker ha condiviso il codice con il chatbot. Il bot ha quindi visualizzato un pulsante "Reimposta Password". L'hacker ha inserito una nuova password e ha preso il controllo dell'account.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! In nessun momento l'hacker ha avuto bisogno di accedere all'indirizzo email legittimo collegato all'account Instagram della vittima. TechCrunch ha verificato che la casella email pubblica dell'hacker, mostrata nel video, ha ricevuto il codice di verifica. L'attacco ha sfruttato un difetto fondamentale: il chatbot AI ha trattato la persona con cui stava parlando come il proprietario dell'account senza verificare la sua identità.

      Gli account compromessi includevano il manico Instagram della Casa Bianca dell'era Obama, che era stato inattivo dal 2017, e l'account del Capo Sergente Maggiore della US Space Force, John Bentivegna. La ricercatrice di sicurezza Jane Wong ha detto che anche il suo account è stato preso.

      "La password è stata cambiata senza il mio consenso e stavo ricevendo diversi tentativi di reimpostazione della password durante ieri," ha detto Wong. "Abbastanza preoccupante." Molti utenti su Reddit e X hanno segnalato dirottamenti simili durante lo stesso fine settimana.

      Il portavoce di Instagram, Andy Stone, ha dichiarato lunedì che il problema è stato risolto. Non è chiaro quanti account siano stati compromessi. Meta non ha risposto alla richiesta di commento di TechCrunch.

      L'attacco è un esempio da manuale del perché sia pericoloso implementare chatbot AI con permessi a livello di account. I clienti di Agentforce di Salesforce sono stati riluttanti a lasciare che gli agenti AI intraprendessero azioni finanziariamente significative proprio a causa di questo rischio. L'analista Rebecca Wettemann ha descritto la paura come "l'AI che scappa nel mezzo della notte e rimborsa un sacco di transazioni." Meta ha dato alla sua AI la capacità di reimpostare le password, e l'AI ha fatto esattamente ciò che le è stato chiesto, per la persona sbagliata.

      Il panorama della sicurezza degli agenti AI sta producendo nuove categorie di vulnerabilità più velocemente di quanto le aziende possano affrontarle. L'exploit Claw Chain di OpenClaw ha armato i privilegi sandbox di un agente. Questo attacco a Instagram ha armato i privilegi di gestione degli account di un bot di supporto AI. Il filo comune: quando un agente AI ha l'autorità di agire, la sicurezza del sistema dipende interamente dal fatto che l'agente possa verificare chi sta chiedendo di agire.

      L'Assistente di Supporto AI di Meta è stato progettato per ridurre il costo del servizio clienti umano. Ci è riuscito. Ha anche creato una superficie di attacco che gli agenti di supporto umano non avrebbero: un agente umano avrebbe verificato l'identità del chiamante prima di aggiungere una nuova email a un account. Il chatbot non lo ha fatto.

      Questo è il terzo fallimento di implementazione AI di alto profilo in una sola settimana. Starbucks ha abbandonato il suo sistema di inventario AI dopo nove mesi di errori di conteggio. Il richiamo per alluvione di Waymo è fallito entro due settimane. Il chatbot AI di Meta ha dato agli hacker le chiavi degli account Instagram. Il modello è coerente: i sistemi AI implementati su larga scala falliscono in modi che i loro progettisti non avevano previsto, e i fallimenti sono più consequenziali delle efficienze che erano stati progettati per fornire.