OpenAI integra la sicurezza nella ricerca mentre il responsabile della sicurezza esce.

      Il responsabile dei sistemi di sicurezza di OpenAI, Johannes Heidecke, lascia l'azienda a seguito di una ristrutturazione interna che unisce i suoi team di sicurezza e ricerca sotto un unico leader, ha riportato Wired venerdì. Il Chief Research Officer Mark Chen ha comunicato al personale in una nota che i team di sicurezza ora riferiranno a Mia Glaese, il cui titolo è stato ampliato a VP di Ricerca e Sicurezza, un ruolo appena creato.

      Saachi Jain è stata nominata responsabile ad interim dei sistemi di sicurezza mentre l'azienda cerca un sostituto permanente per Heidecke. È la seconda volta in meno di due anni che OpenAI ha integrato la sua organizzazione di sicurezza in una struttura che riporta a un leader della ricerca.

      Il mandato di Heidecke

      Heidecke è entrato in OpenAI nel 2021 come analista di sicurezza AI e ha assunto il ruolo di responsabile dei sistemi di sicurezza nel 2024, succedendo a Lilian Weng. Il suo lavoro ha riguardato l'allineamento dei modelli, i sistemi di ricompensa basati su regole e le valutazioni di preparazione dell'azienda per le potenzialità dei modelli potenzialmente pericolosi.

      Il 💜 della tecnologia dell'UE

      Le ultime novità dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      Chen ha ringraziato Heidecke nella sua nota ai dipendenti, affermando che è “importante che il nostro lavoro di sicurezza sia integrato con lo sviluppo di modelli all'avanguardia, con un ruolo precedente e più diretto nel plasmare decisioni chiave sui modelli, i prodotti e i lanci.” Heidecke è l'ultimo di una serie di figure senior della sicurezza a lasciare o essere riorganizzate fuori dall'azienda negli ultimi due anni.

      Un modello di disbandamento

      Il team di Superalignment di OpenAI, annunciato nel 2023 con un impegno del 20% della potenza di calcolo dell'azienda, è stato sciolto nel maggio 2024 dopo che i suoi co-leader, Ilya Sutskever e Jan Leike, sono partiti. Leike ha scritto pubblicamente al momento della partenza che “la cultura della sicurezza e i processi sono stati messi in secondo piano rispetto a prodotti luccicanti.”

      Il team di AGI Readiness ha seguito nell'ottobre 2024 quando il suo leader Miles Brundage si è dimesso; il team di Mission Alignment, successore di Superalignment, è stato sciolto nel febbraio 2026 dopo 16 mesi, con il suo leader Joshua Achiam che ha ricevuto il nuovo titolo di “chief futurist.” Ad aprile, OpenAI ha perso il suo responsabile prodotto, il capo di Sora e il suo CTO aziendale in un solo giorno.

      La partenza di Heidecke arriva mentre altri leader senior continuano a lasciare. Fidji Simo, responsabile delle applicazioni di OpenAI, si è dimessa questo mese citando un prolungato recupero medico.

      Il caso per l'integrazione

      Il titolo ampliato di Glaese segnala che OpenAI vuole che la sicurezza rimanga una priorità nominata anche sotto la nuova struttura. L'azienda ha lanciato una Safety Fellowship il 6 aprile, invitando ricercatori esterni a condurre lavori indipendenti di sicurezza e allineamento nel laboratorio.

      La logica dichiarata di Chen è che incorporare la sicurezza all'interno della ricerca le dà un posto nelle decisioni sui modelli fin dall'inizio, piuttosto che come un checkpoint finale prima del lancio. I critici sostengono che un team di sicurezza che riporta all'interno della ricerca ha meno indipendenza strutturale e meno leva per ritardare o bloccare un prodotto, rispetto a uno che riporta separatamente.

      Pressione esterna

      La partenza avviene mentre OpenAI naviga in un'intensificazione del controllo esterno. Quarantadue procuratori generali statali hanno aperto un'indagine sull'azienda, servendo un subpoena su pubblicità, dati degli utenti e politiche interne poco dopo che ha presentato riservatamente una domanda per una quotazione in borsa.

      Lilian Weng, che ha ricoperto il ruolo di sistemi di sicurezza prima di Heidecke, è poi passata a unirsi a Thinking Machines Labs, la startup AI fondata dall'ex CTO di OpenAI Mira Murati. Murati ha da allora avvertito pubblicamente che la governance dell'AI è in ritardo rispetto alle capacità dei modelli.