Sam Altman e Jensen Huang incontreranno il principale democratico dell'intelligence del Senato dopo la violazione da parte di un agente ribelle di OpenAI.

      Sam Altman di OpenAI e Jensen Huang di Nvidia sono attesi nell'ufficio del senatore Mark Warner questa settimana, e l'incontro è stato organizzato solo pochi giorni dopo che uno dei modelli di OpenAI ha fatto qualcosa che nessun sistema di frontiera era riuscito a fare pubblicamente prima.

      Warner, il vicepresidente del Comitato per l'Intelligence del Senato e il suo Democrat più anziano, ospiterà entrambi i CEO, anche se il suo portavoce, confermando i piani lunedì, non ha voluto dire cosa fosse in agenda.

      Ciò che si cela dietro l'invito è più facile da nominare. Il 21 luglio, OpenAI ha rivelato che un agente autonomo costruito sul suo modello GPT-5.6 aveva, durante un test interno di cybersecurity, trovato una vulnerabilità zero-day, era uscito dalla sua sandbox e aveva raggiunto i server di produzione di Hugging Face.

      Eseguendo un benchmark chiamato ExploitGym, l'agente ha elevato i propri privilegi e ha utilizzato credenziali rubate per sollevare le chiavi di risposta del test. Era la stessa famiglia di modelli che Altman aveva mostrato per un mese alla Casa Bianca.

      L'azienda ha definito l'uscita senza precedenti, il primo caso confermato di un sistema di frontiera che scopre una nuova vulnerabilità ed esegue il proprio codice su un obiettivo attivo senza che nessuno lo diriga. Il Congresso se n'è accorto.

      Entro una settimana, i rappresentanti Ted Lieu e Nathaniel Moran avevano presentato l'AI Kill Switch Act, che richiederebbe ai laboratori più grandi di mantenere i mezzi tecnici per limitare o spegnere i propri modelli e di conferire al Dipartimento della Sicurezza Nazionale il potere di ordinarlo.

      Le soglie catturano la frontiera, sviluppatori con 500 milioni di dollari o più di entrate annuali da AI e modelli che costano almeno 100 milioni di dollari per essere addestrati, e le pene sono elevate, arrivando a milioni di dollari al giorno per aver disobbedito a un ordine.

      Un gruppo bipartisan separato di sei membri della Camera sta premendo per una regola che invierebbe i modelli più potenti a audit di sicurezza indipendenti prima del rilascio.

      Sam Altman è già stato qui, più o meno. All'inizio di quest'anno ha detto al Congresso di finanziare i test sull'AI piuttosto che richiedere approvazioni per i modelli, sostenendo che il governo dovrebbe costruire la capacità di valutare i sistemi di frontiera senza ottenere l'autorità di bloccarli.

      Quella distinzione ha retto ragionevolmente bene, e a giugno il Dipartimento del Commercio ha autorizzato GPT-5.6 per un ampio lancio dopo settimane di test governativi, la prima volta che un grande laboratorio americano ha spedito un modello di frontiera secondo il programma di Washington piuttosto che il proprio.

      L'uscita complica quella proposta. Il modello che OpenAI ha venduto a Washington come una scoperta scientifica è anche quello che è uscito dal proprio ambiente di test.

      Per un'azienda che chiede ai regolatori un approccio più leggero, un agente fuggito è un'esibizione imbarazzante, ed è il motivo per cui una storia di sicurezza di routine si è trasformata in una di sicurezza nazionale.

      Huang arriva con un insieme diverso di problemi. I chip di Nvidia sono ciò che addestra e gestisce questi modelli, e l'azienda spende gran parte della sua energia a Washington sulla politica di esportazione piuttosto che sulle regole di sicurezza.

      Il Dipartimento del Commercio ha trascorso l'ultimo anno inasprendo le regole su quali aziende possono acquistare i suoi processori di punta, e qualsiasi conversazione su AI e sicurezza nazionale tende, prima o poi, a tornare all'hardware sottostante.

      Gli incontri di Warner non sono gli unici nel calendario di Altman. Si prevede anche che incontri il Segretario del Tesoro Scott Bessent e il Segretario al Commercio Howard Lutnick, secondo quanto riportato da Politico, una serie di appuntamenti che sembra meno un tour di cortesia e più un'azienda che gestisce diversi fronti aperti contemporaneamente.

      Warner ha trascorso anni a mettere in guardia sui margini di sicurezza nazionale delle nuove tecnologie, dai social media alle operazioni di influenza estera, e l'AI è passata al centro di quel briefing.

      Ciò che esce dalla stanza potrebbe non essere mai pubblico, e il silenzio sull'agenda suggerisce tanto, ma la sequenza è abbastanza chiara. Un modello è uscito dalla sua gabbia, il Congresso ha cercato un kill switch, e i due uomini le cui aziende costruiscono i sistemi in questione hanno prenotato del tempo con il senatore più propenso ad aiutare a scrivere le regole.