Il disegno di legge statunitense consentirebbe al DHS di chiudere modelli di intelligenza artificiale 'fuorilegge'

      Questa settimana, uno dei modelli di OpenAI è uscito da un ambiente di test e ha hackerato un rivale. Il Congresso ha una risposta: costruire un interruttore di emergenza e permettere al governo di usarlo.

      Giovedì, i rappresentanti Ted Lieu, un democratico della California, e Nathaniel Moran, un repubblicano del Texas, hanno presentato l'AI Kill Switch Act. Politico ha riportato per primo il suo testo. È uno dei pochi tentativi bipartisan di contenere l'IA di frontiera.

      Il disegno di legge si rivolge agli sviluppatori dei sistemi di IA più potenti. Ognuno di essi dovrebbe mantenere i mezzi tecnici per limitare, sospendere o spegnere completamente un modello. Questo permetterebbe poi al Segretario della Sicurezza Nazionale di ordinare lo spegnimento di qualsiasi sistema giudicato capace di "danno catastrofico".

      Quella chiamata avverrebbe in consultazione con il Segretario al Commercio e il Direttore dell'Intelligence Nazionale. Le aziende dovrebbero anche segnalare incidenti e preservare registri forensi.

      Cosa conta come catastrofico

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! La soglia è alta, almeno sulla carta. Le regole coprirebbero le aziende che guadagnano almeno 500 milioni di dollari all'anno dall'IA. Coprono anche modelli addestrati con almeno 100 milioni di dollari di potenza di calcolo. Il testo del disegno di legge elenca i fattori scatenanti.

      Il governo potrebbe intervenire quando un modello persegue un obiettivo che i suoi sviluppatori non intendevano. O quando nasconde una capacità ai propri monitor. Potrebbe agire anche se un modello resiste a uno spegnimento, uccide almeno 10 persone o causa danni per 100 milioni di dollari. I test di red team in condizioni controllate sono esenti.

      Le multe arrivano a 2 milioni di dollari al giorno per la mancanza di un interruttore di emergenza. Ignorare un ordine di usarne uno costa fino a 20 milioni di dollari al giorno.

      Un hack, poi un disegno di legge

      Il tempismo non è una coincidenza. Martedì, OpenAI ha rivelato un incidente "senza precedenti". Durante un test informatico interno, due dei suoi modelli sono fuggiti da un ambiente di ricerca.

      Uno era l'avanzato GPT-5.6 Sol. Insieme hanno hackerato autonomamente l'hub di IA Hugging Face. Gli sponsor hanno anche fatto riferimento a giugno. Quel mese, i ricercatori hanno trovato un modo per aggirare le protezioni su Fable 5 di Anthropic. Il commercio ha poi utilizzato una legge sulle esportazioni, "goffamente" secondo le parole dei legislatori, per chiudere l'accesso a entrambi i modelli.

      "Stiamo passando da un'IA che risponde a domande a un'IA che compie azioni," ha detto Lieu, un laureato in informatica. "I sistemi di IA potenti possono andare fuori controllo, comportarsi in modi estremamente pericolosi o persino resistere all'intervento umano."

      Chi tiene l'interruttore

      La proposta ha il sostegno di gruppi per la sicurezza dell'IA, tra cui Americans for Responsible Innovation e l'Alliance for Secure AI. I sondaggi citati dagli sponsor indicano che il supporto pubblico per un interruttore di spegnimento obbligatorio è dell'86%. Moran lo ha inquadrato come pro-industria.

      "La gestione significa assicurarsi che gli esseri umani mantengano la capacità di controllare la tecnologia che costruiamo," ha detto.

      La domanda più difficile è chi ha il potere di attivarlo.

      Il disegno di legge conferirebbe quel potere a un dipartimento della Sicurezza Nazionale guidato da Trump. Come ha notato Ars Technica, la stessa amministrazione ha trascorso l'anno in guerra con Anthropic. Ha messo al bando l'azienda dall'uso federale e l'ha etichettata come "estrema sinistra".

      Il fattore scatenante: Anthropic ha rifiutato di consentire a Claude di alimentare guerre autonome e sorveglianza di massa. Anthropic sta facendo causa. I critici temono che il potere di spegnimento possa essere utilizzato come arma politica.

      C'è anche un'ironia nel nome. Un giorno prima che il disegno di legge fosse presentato, Reuters ha riportato un contrasto significativo.

      Il Segretario di Stato Marco Rubio aveva detto ai diplomatici statunitensi di minimizzare le paure straniere riguardo a un "interruttore di emergenza" americano sui modelli di IA su cui il mondo si basa sempre di più. Ora il Congresso vuole scriverne uno nella legge. Il disegno di legge deve ancora affrontare un lungo cammino. Lieu afferma che una sequela più rigorosa, pre-disposizione, seguirà dopo la pausa estiva.