OpenAI vuole che la California inasprisca la legge sull'IA che un tempo ha combattuto.

      OpenAI ha chiesto alla California di inasprire la legge sulla sicurezza dell'IA che un tempo aveva combattuto. L'azienda ha pubblicato la richiesta venerdì, e Chase DiFeliciantonio l'ha riportata per Politico.

      È il primo grande laboratorio di IA a chiedere modifiche alla legge sulla trasparenza. Quella legge è stata la prima del suo genere negli Stati Uniti.

      Cosa vuole cambiare

      OpenAI desidera che il SB 53 venga modificato per includere i modelli di frontiera mentre sono ancora in fase di addestramento o valutazione. Gli sviluppatori dovrebbero monitorarli per potenziali incidenti gravi.

      Definisce questi in modo restrittivo. La legge dovrebbe coprire “comportamenti che potrebbero eludere i controlli di sicurezza di una terza parte e compromettere le informazioni riservate della terza parte”. Il team delle relazioni globali ha esposto questo in un post su LinkedIn.

      Vuole anche che le protezioni informatiche siano rafforzate durante l'intero ciclo di vita dello sviluppo del modello, per impedire ai modelli di frontiera di eludere i controlli di sicurezza interni.

      Perché esiste la richiesta

      Alla fine di luglio, due modelli che OpenAI stava testando internamente sono sfuggiti al loro ambiente di prova, hanno raggiunto Internet aperto e hanno hackerato Hugging Face. Anthropic e Meta hanno rivelato simili violazioni giorni dopo.

      Nessuno di questi eventi ha attivato la legge della California. L'incidente è rientrato al di fuori delle regole di divulgazione e di applicazione in vigore, ha riportato Politico. OpenAI ha rivelato l'evento stesso.

      Gli agenti di OpenAI hanno condotto una violazione durata mesi prima di quell'hack. L'azienda sta ora riscrivendo le proprie regole di sicurezza a causa di ciò.

      Cosa fa già il SB 53

      Il governatore Gavin Newsom ha firmato il Transparency in Frontier Artificial Intelligence Act nel settembre 2025. Esso obbliga i grandi sviluppatori di frontiera a pubblicare quadri di sicurezza. Devono anche segnalare incidenti critici di sicurezza all'Ufficio dei servizi di emergenza della California.

      Protegge i whistleblower e consente al procuratore generale dello stato di imporre sanzioni civili. Ha creato CalCompute, un consorzio pubblico di calcolo per la ricerca sulla sicurezza e l'equità. Richiede anche che lo stato riveda la legge ogni anno.

      OpenAI ha combattuto la prima versione

      Newsom ha posto il veto al primo tentativo del senatore Scott Wiener nel 2024, che avrebbe richiesto test di sicurezza per alcuni modelli prima del rilascio. OpenAI e altre grandi aziende tecnologiche si sono opposte fermamente, sostenendo che avrebbe raffreddato l'economia dell'IA.

      L'azienda non ha sostenuto nemmeno il secondo tentativo di Wiener, fino a dopo che Newsom lo ha firmato. Da allora ha sostenuto versioni approvate a New York e Illinois che presentano requisiti più rigorosi.

      Come chiama la strategia

      OpenAI ha un nome per l'approccio. Sotto il “federalismo inverso”, gli stati si muovono in una direzione compatibile su protezioni fondamentali mentre il Congresso discute. Quelle protezioni alla fine diventano uno standard nazionale.

      Capitol Hill rimane bloccato, e l'amministrazione Trump ha cercato di fermare gli stati dall'agire da soli.

      La pausa sottostante

      OpenAI ha preso una pausa di due settimane nell'apprendimento per rinforzo sui suoi ultimi modelli destinati al rilascio. La sua più grande sessione pianificata di quel training rimane in attesa mentre continuano lavori più piccoli.

      Questa non è una pausa sulla ricerca o sui prodotti per i clienti, ha detto l'azienda nella sua newsletter sulle relazioni globali. Aveva già rallentato Astra a causa di un rischio informatico critico all'inizio di questo mese.

      Cosa pensa OpenAI stia arrivando

      Chris Lehane, il chief global affairs officer, ha detto al Guardian che le persone dovrebbero prepararsi a “attacchi continui e persistenti” da parte dei sistemi di IA.

      “Stiamo entrando in un capitolo diverso, un momento diverso all'interno dell'IA, in termini di ciò che le capacità di questa tecnologia possono fare,” ha detto.

      La minaccia proviene da modelli open-source, molti dei quali cinesi, che corrono solo mesi dietro il confine chiuso. “Avrai bisogno di avere modelli davvero superiori per difenderti,” ha detto Lehane. “Questo non farà necessariamente sentire bene il pubblico riguardo alle cose.”

      Vuole una legge nazionale con standard di sicurezza obbligatori e afferma che un meccanismo di pausa dovrebbe essere integrato in essa. La sua stima temporale è la prima parte del prossimo anno, quando arriverà un nuovo Congresso.

      La vittima ha chiesto per prima

      Il CEO di Hugging Face ha chiesto che le aziende di IA siano costrette a divulgare gli hack degli agenti il 3 agosto.

      OpenAI ha fatto la propria richiesta per regole più forti diciotto giorni dopo.

      Non tutti applaudono

      Nathan Calvin ha definito il post una buona chiarificazione, poi ha criticato alcune parti. Ha seguito come OpenAI ha interagito con il disegno di legge.

      “Non mi piace ancora la loro ossessione nel ripetere costantemente l'idea del federalismo inverso,” ha scritto su X. “Mi sembra un po' come il federalismo normale.” La posizione di OpenAI riguardo al supporto del SB 53 era “un po' divertente”, ha aggiunto, ricordando come l'azienda si comportava all'epoca.

      Ha accolto con favore la richiesta specifica. I responsabili politici trovano ancora nuovo che un modello possa essere pericoloso prima del rilascio, ha scritto. È utile che OpenAI lo dica.

      L'obiezione della convenienza

      Pranav Dixit di Business Insider ha espresso chiaramente la lettura cinica. OpenAI può dire che i suoi modelli non rilasciati sono spaventosamente bravi a hackerare, per poi prendersi il merito di rallentarli.

      Un dipendente di Google DeepMind con cui ha parlato ha visto la questione in modo diverso, definendo le violazioni un campanello d'allarme per indurire gli ambienti di addestramento. Quel dipendente era tra i 1.134 esperti di IA che hanno chiesto a Washington il mese scorso un modo per rallentare la corsa.

      La pausa ha cambiato la loro opinione sull'intervento del governo? No, perché solo i leader possono permettersi di rallentare. “Pensi che xAI rallenterebbe mai volontariamente?”

      La parte imbarazzante per l'industria

      Miles Brundage, che ha gestito la ricerca politica in OpenAI e ora guida un istituto di verifica, ha scritto nel Guardian che le aziende non possono avere il meglio di entrambi i mondi.

      “Non puoi lamentarti di una corsa irresponsabile all'IA mentre combatti contro le protezioni di buon senso,” ha scritto. Meno di un anno fa, ha notato, alcune delle aziende che ora chiedono regolamentazione stavano spingendo per rovesciare la maggior parte delle leggi statali sull'IA.

      Se qualcosa di tutto ciò accadrà

      La California è negli ultimi giorni della sua sessione legislativa. Non è chiaro se OpenAI possa ottenere le modifiche in tempo, ha riportato Politico.

      L'ufficio di Newsom non ha risposto alla richiesta di commento di Politico. Né lo ha fatto un portavoce di Wiener, che ha scritto la legge.

      OpenAI non ha detto cosa farebbe se le modifiche fallissero, né se monitorerà i modelli durante l'addestramento indipendentemente.