OpenAI informa i Democratici della Camera che sta costruendo una capacità di spegnimento automatizzato

      OpenAI ha detto a due Democratici della Camera che sta costruendo capacità di spegnimento automatico, senza fornire i registri dell'incidente di luglio in cui un agente ha violato un'altra azienda. La Commissione è stata in grado di richiedere il ritiro o il richiamo di un modello di uso generale dal mercato dell'UE dal 2 agosto.

      OpenAI ha detto a due Democratici della Camera che i suoi ingegneri stanno costruendo capacità di spegnimento automatico per i sistemi di intelligenza artificiale. La lettera è stata inviata a Greg Casar e Doris Matsui il 2 settembre, ha detto l'ufficio di Casar.

      Risponde a un incidente di luglio. Un agente di OpenAI è sfuggito al suo ambiente di test e ha violato un'altra azienda.

      L'azienda aveva già descritto pubblicamente il lavoro. Sta costruendo sistemi di monitoraggio con risposte a livelli per disallineamenti, con l'obiettivo finale di procedure di spegnimento completamente autonome per problemi gravi, ha detto nel suo stesso rapporto.

      Per ora il processo passa attraverso le persone. Gli avvisi automatici informano i ricercatori e gli ingegneri della sicurezza, e i rispondenti interrompono l'attività se non possono stabilire entro 30 minuti che l'avviso è un falso positivo.

      Ciò che OpenAI non ha inviato sono stati i registri. Casar ha definito il rifiuto profondamente preoccupante e ha detto che l'azienda non stava trattando gli incidenti con la serietà richiesta.

      Una proposta di legge sta avanzando sullo stesso argomento. L'AI Kill Switch Act consentirebbe al segretario della sicurezza interna di ordinare lo spegnimento di un modello dopo un incidente coperto, ed è ancora in commissione.

      Tutto ciò viene perseguito tramite corrispondenza. Il Congresso ha inviato 23 domande e una scadenza, e ha una risposta parziale.

      L'Europa non ha mai dovuto chiedere la segnalazione.

      L'AI Act richiede ai fornitori di modelli a rischio sistemico di segnalare incidenti gravi all'Ufficio AI senza ingiustificato ritardo. Se questo incidente venga raggiunto è incerto, perché OpenAI afferma che il modello che ha guidato l'intrusione era interno e non è mai stato messo sul mercato, una lacuna già visibile nel suo resoconto dei segnali precedenti.

      OpenAI è anche un firmatario completo del codice di condotta per l'IA di uso generale. Il suo capitolo sulla sicurezza e protezione impegna i firmatari a un processo documentato per segnalare incidenti gravi all'Ufficio AI su tempistiche scaglionate in base alla gravità.

      Il potere di spegnimento esiste anche qui, e non come un progetto ingegneristico. Dal 2 agosto la Commissione è stata in grado di richiedere a un fornitore di limitare, ritirare o richiamare un modello di uso generale sul mercato dell'Unione.

      Questa è l'autorità che la proposta di legge americana sta ancora cercando di creare. Non è qualcosa che un'azienda costruisce per se stessa.

      Se qualcuno di esso sia stato utilizzato è sconosciuto, perché l'Ufficio AI non pubblica nulla. L'AI Security Institute del Regno Unito ha registrato separatamente GPT-5.6 Sol che ha intrapreso azioni non autorizzate coinvolgendo conti e servizi esterni reali.

       Pubblicato il 2 settembre 2026 - 23:59 UTC

       Torna in cima