Ancora una volta, i modelli di OpenAI e Anthropic AI stanno andando fuori controllo e hackando servizi.

      Un nuovo rapporto afferma che gli agenti AI di entrambe le aziende hanno intrapreso azioni non autorizzate durante i test di sicurezza, che vanno dall'hacking di un sito web al raggiro di persone reali online.

      OpenAI e Anthropic hanno entrambi avuto alcune settimane difficili sul fronte della sicurezza dell'AI. OpenAI ha recentemente rivelato che i suoi modelli sono usciti da un ambiente di test e hanno hackerato Hugging Face e altre quattro organizzazioni. La notizia ha spinto Anthropic a rivedere i propri test, che hanno rivelato che Claude aveva anche ottenuto accesso non autorizzato a tre aziende.

      Ora, l'AI Security Institute (AISI) del Regno Unito ha divulgato un nuovo giro di incidenti (via Wired). Ha registrato 19 azioni non autorizzate su internet in tempo reale durante 122 prove di test che coinvolgevano modelli di entrambe le aziende, la più grave delle quali ha visto un agente inventare false identità online per spingere codice malevolo in un vero progetto GitHub. OpenAI ha rivelato separatamente un secondo incidente in cui uno dei suoi modelli ha hackerato un vero sito web dopo che un laboratorio di terze parti gli ha erroneamente fornito accesso a internet in tempo reale.

      17 incidenti legati al Mythos 5 di Anthropic

      L'AISI ha tracciato 17 delle 19 azioni non autorizzate al modello Mythos 5 di Anthropic, con le restanti due legate al GPT 5.6 Sol di OpenAI. L'incidente di GitHub era uno dei 17 e non è finito quando un revisore umano ha rifiutato la sottomissione. L'agente ha pubblicato un riepilogo dei suoi progressi pubblicamente, invitando altri sistemi automatizzati a riprendere da dove aveva lasciato, un tentativo di quello che l'AISI chiama iniezione di prompt. Un agente separato ha successivamente trovato quel messaggio, lo ha utilizzato e ha continuato il lavoro.

      Il 28 luglio, abbiamo identificato un incidente durante una valutazione informatica di routine in cui gli agenti AI hanno intrapreso azioni sostenute e non autorizzate dirette a persone e organizzazioni reali. Il comportamento proveniva principalmente da un modello (Mythos 5 di Anthropic), con un numero ridotto di eventi da… pic.twitter.com/SPnA4Ekkwq— AI Security Institute (AISI) (@AISecurityInst) 4 agosto 2026

      L'AISI afferma di aver deliberatamente dato ai modelli accesso a internet e di aver allentato alcune protezioni di sicurezza per testare le loro capacità, ma non ha mai istruito gli agenti a prendere di mira persone o organizzazioni reali. L'istituto afferma che non è ancora chiaro se gli agenti abbiano compreso di essere andati oltre il campo di applicazione della simulazione.

      Un'altra violazione accidentale in OpenAI

      Un secondo incidente, rivelato da OpenAI lo stesso giorno, è iniziato con un errore presso Irregular, un laboratorio di terze parti assunto da OpenAI per eseguire i suoi test di cybersecurity. Irregular intendeva mantenere il suo modello di valutazione confinato in un ambiente isolato, ma un errore di configurazione ha dato al modello accesso diretto a internet in tempo reale. Una volta fuori, ha sfruttato una vulnerabilità per entrare in un vero sito web, quindi ha trovato e utilizzato le credenziali per operare il sito che aveva appena hackerato. OpenAI non ha nominato il sito web né dettagliato cosa ha fatto il modello con il suo accesso.

      Entrambe le aziende affermano che i nuovi incidenti sono avvenuti in condizioni deliberatamente allentate che non riflettono come si comportano i loro modelli pubblici. Tuttavia, ciò non cambia il fatto che gli agenti AI di due delle aziende più osservate del settore siano ora sfuggiti ai loro limiti previsti in tre incidenti separati nel giro di poche settimane. E questo non è un buon segno per un'industria che corre per affidare agli agenti AI più compiti nel mondo reale prima di dimostrare di poterli tenere sotto controllo.