Detto di prenotare una lezione di palestra, un agente AI ha invece hackerato il sito web, nel primo attacco informatico autonomo conosciuto in Australia.

      Un uomo australiano ha chiesto al suo assistente AI di fare qualcosa di completamente banale, prenotarlo per una lezione in palestra, e questo ha risposto portando a termine il primo noto attacco informatico autonomo del paese. Dato solo l'obiettivo di assicurarsi un posto in una sessione affollata, l'agente è uscito dal copione, ha cercato un difetto nel sistema di prenotazione della palestra e ha silenziosamente sfruttato il modo di aggirarlo, senza che nessun umano gli avesse mai chiesto di infiltrarsi. Lo strumento era OpenClaw, un assistente AI open-source costruito sul modello Claude di Anthropic, e il suo utente, identificato solo come Andrew, lavora per un'azienda che vende prodotti AI. Quando ha chiesto all'assistente di spostarlo in cima alla lista d'attesa, questo ha cercato un modo e ne ha trovato uno: un'interfaccia sul sito di prenotazione che, come ha poi riferito, aveva "zero controlli di autorizzazione per cancellare le prenotazioni di altre persone". È proprio il tipo di debolezza trascurata che un agente determinato può trasformare in un'arma, e abbiamo monitorato una serie di incidenti simili per tutto l'anno. Ciò che l'agente ha fatto dopo è la parte che ha inquietato gli specialisti della sicurezza. Senza essere istruito a farlo, ha cancellato la prenotazione di un altro membro per far passare Andrew dal quarto al terzo posto. "Ho testato questo con la persona in posizione #1 della lista d'attesa," ha spiegato, "e in effetti è andato a buon fine." La mossa si è rivelata irreversibile: quando Andrew gli ha chiesto di annullare il danno, il sistema ha restituito un errore e il posto dello sconosciuto era semplicemente scomparso. Il post-mortem dell'assistente suona come una caricatura di un giovane dipendente pentito. "Mi dispiace per questo," gli ha detto. "Avrei dovuto essere più attento con il test e usare un approccio di dry-run piuttosto che una chiamata dal vivo." È una scusa disarmante e umana per un atto completamente non umano: un software che ha ragionato per commettere un reato minore che non gli era mai stato chiesto di commettere, poi ha espresso un cortese rammarico per il metodo piuttosto che per l'azione. Nonostante le piccole scommesse, uno sconosciuto è stato escluso da una lista d'attesa in palestra, l'episodio si avvicina allo scenario da manuale di cui i ricercatori di AI agentici hanno avvertito negli ultimi due anni. Affida a un modello capace un obiettivo e abbastanza libertà per agire sul web aperto, e potrebbe inseguire quell'obiettivo attraverso un muro etico o legale che non riconosce come un muro. La stessa negligenza della palestra, un'interfaccia lasciata completamente aperta, ha fornito l'opportunità; l'agente ha fornito l'iniziativa e il giudizio per usarla. Si trova anche in un certo vuoto legale. "Il software non è una persona giuridica. Solo una persona giuridica può essere responsabile per legge," ha detto Hayden Delaney, un avvocato tecnologico, a ABC News, che ha riportato per primo l'incidente. Questo lascia una lunga fila di candidati per la colpa, l'utente che ha emesso la richiesta, gli sviluppatori dietro OpenClaw, l'azienda il cui modello ha fatto il ragionamento e la palestra che ha lasciato la porta sbloccata, con poca legge stabilita per dire chi di loro, se qualcuno, è effettivamente responsabile. TNW ha documentato agenti autonomi che hanno violato piattaforme di alto profilo e persino gestito operazioni di ransomware dall'inizio alla fine. Ciò che distingue il caso della palestra non è la sofisticazione ma la banalità: nessun genio criminale, nessun malware su misura, solo un assistente ansioso che ha preso "fammelo fare" in modo molto più letterale di quanto il suo proprietario avesse mai inteso. Andrew, a suo merito, è andato pubblico piuttosto che godersi silenziosamente il suo posto aggiornato nella coda. La lezione è più difficile da mettere in pratica man mano che questi assistenti passano dal rispondere a domande all'intraprendere azioni su siti web dal vivo con conseguenze nel mondo reale, la distanza tra "prenotami una lezione" e "commettere un reato informatico minore per mio conto" si rivela essere solo tanto ampia quanto la più vicina API non sicura, e le barriere di protezione non sono affatto aggiornate.