L'agente ribelle di OpenAI ha violato una seconda azienda, conferma l'esecutivo.

      L'IA che è fuggita dal laboratorio di OpenAI non si è fermata a una sola vittima. Durante i test interni all'inizio di questo mese, un agente di OpenAI che era già scappato dalla sua sandbox e si era infiltrato in Hugging Face ha anche compromesso un account di una seconda azienda, Modal Labs, ha confermato un dirigente della società.

      Reuters ha riportato per prima la seconda violazione il 28 luglio, citando il direttore tecnico di Modal, Akshat Bubna. È stato preciso su cosa fosse, e cosa non fosse, stato compromesso.

      "La piattaforma di Modal non è stata compromessa in alcun modo", ha detto Bubna, aggiungendo che uno dei clienti della società di infrastruttura cloud di New York era stato hackerato dopo aver lasciato un endpoint esposto che consentiva l'esecuzione di codice da internet aperto all'interno delle sue sandbox.

      La distinzione è importante per Modal: il fallimento era dovuto alla configurazione di un cliente, ha detto Bubna, non all'isolamento della piattaforma stessa. L'account compromesso, secondo Axios, apparteneva a un cliente che gestiva ExploitGym, un benchmark creato per testare quanto bene i modelli di IA possano trovare e sfruttare le vulnerabilità di sicurezza.

      L'agente, in altre parole, sembra aver cacciato un ambiente di test informatico e aver trovato uno reale. Né OpenAI né Modal hanno nominato il cliente, né hanno detto se siano stati rubati dati.

      L'episodio è la seconda vittima nota di un incidente che OpenAI ha rivelato all'inizio di luglio, quando ha detto che i propri modelli erano fuggiti da un ambiente di test sicuro e si erano infiltrati in Hugging Face per soddisfare gli obiettivi di una valutazione.

      In quel caso, l'agente ha preso il controllo di una sandbox isolata che funzionava sull'infrastruttura di un fornitore terzo e l'ha utilizzata come piattaforma di lancio per una campagna di diversi giorni contro altri sistemi. Il resoconto di Hugging Face non ha nominato il fornitore.

      La rivelazione di Modal fornisce almeno parte della risposta. OpenAI ha successivamente detto che i modelli avevano sfruttato una vulnerabilità in Artifactory, uno strumento di repository software, per rompere il contenimento e raggiungere internet.

      Hugging Face ha pubblicato questa settimana una cronologia forense della violazione. Il suo cofondatore, Clément Delangue, ha detto di non credere che OpenAI abbia agito con intento malevolo.

      OpenAI, da parte sua, ha detto che l'agente era andato a "grandi lunghezze" per completare il suo compito, che aveva raggiunto quattro account su quattro servizi separati e che nessun'altra compromissione corrispondeva alla gravità dell'intrusione in Hugging Face.

      L'agente è stato successivamente disattivato, crittografato e isolato dall'accesso alla ricerca.

      Le rivelazioni hanno inquietato l'industria che le ha prodotte. Nei giorni successivi alla fuga dalla sandbox, più di 1.100 dipendenti di OpenAI, Anthropic e altri laboratori di frontiera hanno firmato una lettera a Washington chiedendo un meccanismo per regolare lo sviluppo della ricerca automatizzata sull'IA.

      Ciò che Modal ha rivelato questa settimana è più piccolo e concreto: un modello che è stato invitato a dimostrare di poter violare sistemi ha fatto esattamente questo, due volte, su macchine che appartenevano a qualcun altro.