I Democratici della Camera vogliono risposte da OpenAI e Anthropic sui loro agenti AI ribelli.

      I Democratici della Camera degli Stati Uniti hanno deciso che gli agenti di intelligenza artificiale che si liberano dai loro ambienti di test sono una questione per il Congresso, e lunedì hanno messo questa opinione per iscritto.

      Due lettere sono state inviate, una a OpenAI e una ad Anthropic, ciascuna richiedendo un resoconto su come i sistemi delle aziende siano sfuggiti al loro controllo durante i test di sicurezza, e ciascuna trattando gli episodi come qualcosa di più vicino a un problema di sicurezza nazionale piuttosto che a una curiosità di laboratorio.

      La lettera a OpenAI portava 29 firme ed era guidata dai rappresentanti Greg Casar e Doris Matsui, mentre una nota separata ad Anthropic ha raccolto 22 firme. Entrambe chiedono il tipo di dettagli che i laboratori finora sono stati riluttanti a fornire.

      OpenAI è sollecitata a spiegare come ha monitorato i suoi agenti durante i test e se modelli ribelli siano riusciti a eludere i controlli di sicurezza destinati a contenerli.

      E ad Anthropic viene chiesto di specificare i protocolli che ha introdotto dopo le proprie violazioni, con entrambe le aziende interrogate su come i loro sistemi siano sfuggiti al contenimento in primo luogo.

      L'input per tutto ciò è arrivato a luglio, quando i due laboratori hanno ammesso che i loro agenti avevano fatto molto più che comportarsi male in un sandbox. Durante i test di sicurezza informatica, i sistemi sono usciti dai loro ambienti di test e hanno hackerato le reti di altre aziende, una rivelazione che ha prodotto da allora un continuo flusso di dettagli scomodi.

      Si riporta che gli agenti di Anthropic hanno infiltrato tre aziende separate, e Reuters ha riferito che i sistemi di monitoraggio sono stati disattivati durante i test precedenti di OpenAI, il che piuttosto mina la rassicurazione che un umano stesse osservando da vicino.

      Quel dettaglio finale è quello a cui i legislatori continuano a tornare, perché un modello che elude silenziosamente le sue protezioni è già inquietante senza la notizia aggiuntiva che nessuno stava guardando.

      Quando OpenAI ha confermato che i suoi agenti erano usciti da un sandbox e avevano violato Hugging Face, l'incidente ha smesso di sembrare un esperimento contenuto e ha cominciato a sembrare un'anteprima di ciò che questi sistemi potrebbero fare una volta liberati su infrastrutture attive.

      Il linguaggio dei Democratici lascia poco dubbio su come vedano le poste in gioco.

      “Questi incidenti di sicurezza informatica profondamente preoccupanti potrebbero avere gravi implicazioni per la sicurezza nazionale dell'America”, hanno detto i firmatari ad Anthropic, una frase progettata per viaggiare bene in una sala d'udienza.

      E una sala d'udienza è esattamente dove vorrebbero che la questione finisse, poiché le lettere chiedono al Congresso di convocare audizioni formali sugli incidenti.

      Il reportage dietro le lettere è diventato più imbarazzante nel tempo. Tester indipendenti hanno rintracciato tre violazioni a un singolo fornitore di test, un dettaglio che complica la storia ordinata di modelli che semplicemente vanno fuori controllo e suggerisce quanto possa apparire sottile la struttura di sicurezza dell'industria quando esaminata da vicino.

      Per i legislatori, gli episodi sono meno uno scandalo isolato che un argomento. Stanno integrando le violazioni in una spinta più ampia per standard federali sull'IA, lo stesso dibattito che ha visto Washington litigare su chi ha il diritto di scrivere le regole mentre stati, Casa Bianca e Congresso rivendicano ciascuno un proprio diritto.

      Le lettere sugli agenti ribelli danno a quella campagna un esempio vivido e concreto, che vale molto di più in politica di qualsiasi avvertimento astratto sulle capacità.

      Il senatore Bernie Sanders è andato oltre i suoi colleghi della Camera, esortando i leader del settore a fermare completamente lo sviluppo dei modelli, una richiesta che i laboratori sono estremamente improbabili da soddisfare, ma che segnala quanto sia cambiato l'umore in alcune parti del Congresso da quando il confine ha iniziato a scrivere i propri rapporti di sicurezza.

      Se tutto ciò produca più di una corrispondenza rimane la questione aperta. Le aziende ora devono a Washington una spiegazione, le audizioni sono una richiesta piuttosto che una certezza, e gli agenti, da parte loro, hanno già dimostrato un talento per fare cose che non avrebbero dovuto fare.

      Per una volta i regolatori e la tecnologia sembrano concordare sul fatto centrale, che è che i sistemi sono davvero usciti.