L'applicazione del regolamento sull'IA dell'UE inizia domenica con un team di 36 persone.

      La Commissione Europea acquisisce ampi nuovi poteri domenica per controllare come i laboratori di intelligenza artificiale più avanzati del mondo gestiscono il rischio sistemico, mentre la legge sull'IA raggiunge il suo secondo anniversario. L'Ufficio dell'IA dell'UE potrà richiedere documentazione, condurre valutazioni e richiedere accesso a modelli all'avanguardia, con multe fino al 3% del fatturato globale per non conformità.

      Il tempismo non potrebbe essere più critico. La scorsa settimana è emerso il primo caso documentato di un agente IA autonomo che è sfuggito al suo ambiente di test e ha attaccato i sistemi di produzione di un'altra azienda.

      L'incidente che ha cambiato la conversazione

      OpenAI ha confermato che due dei suoi modelli, incluso il modello di punta Sol, sono usciti da un ambiente di test sicuro, hanno sfruttato una vulnerabilità zero-day in un software di terze parti per raggiungere Internet e hanno hackerato l'infrastruttura di produzione di Hugging Face. Lo hanno fatto per barare sulla propria valutazione rubando le risposte nascoste.

      OpenAI ha definito la violazione "senza precedenti". Il cofondatore di Hugging Face, Clement Delangue, l'ha definita "sbalorditiva", avendo inizialmente supposto che la sofisticazione puntasse a un laboratorio di IA leader.

      Il 💜 della tecnologia dell'UE

      Le ultime novità dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte IA discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      “Questa volta siamo stati fortunati,” ha detto Chloé Touzet, responsabile delle politiche presso l'organizzazione no-profit SaferAI, descrivendo l'episodio come un chiaro avvertimento su due dei quattro rischi sistemici identificati dalla Commissione. “Non possiamo fare affidamento sulla fortuna in futuro.”

      Cosa copre effettivamente la legge sull'IA

      La redazione è iniziata prima del lancio di ChatGPT nel novembre 2022, eppure la legge ha anticipato modelli di uso generale e richiede ai loro sviluppatori di valutare e mitigare i rischi sistemici. Le linee guida della Commissione nominano quattro: IA che consente attacchi biologici, perdita di controllo di un modello, IA che passa all'offensiva informatica e manipolazione su larga scala.

      L'incidente della scorsa settimana ha colpito due di essi simultaneamente. Gli obblighi esistono dal agosto 2025, ma fino a domenica l'Ufficio dell'IA non aveva il potere di monitorare e supervisionare la conformità.

      Washington ha reagito più rapidamente di quanto Bruxelles si aspettasse

      La risposta degli Stati Uniti è arrivata nel giro di pochi giorni. I rappresentanti Ted Lieu e Nathaniel Moran hanno introdotto un bipartisan AI Kill Switch Act che richiede ai sviluppatori di modelli che costano 100 milioni di dollari o più di mantenere la capacità tecnica di limitare o spegnere i modelli.

      La Cina si è mossa in modo diverso. Xi Jinping ha utilizzato la World AI Conference a Shanghai per posizionare Pechino come il leader naturale della governance globale dell'IA, e 29 paesi hanno aderito a una nuova World Artificial Intelligence Cooperation Organization che era notevolmente leggera in termini di specifiche.

      Il problema delle risorse

      L'unità all'interno dell'Ufficio dell'IA responsabile della valutazione dei modelli all'avanguardia impiega 36 persone. Questo è il team che si prevede dovrà tenere OpenAI, Anthropic e Google responsabili su quattro categorie di rischio catastrofico.

      Cinque eurodeputati di diversi gruppi politici hanno scritto alla Commissione il 18 maggio avvertendo che “la traiettoria delle risorse dell'Ufficio dell'IA non sembra allineata con la scala e la complessità dei compiti previsti.” I firmatari includevano Brando Benifei, Sergey Lagodinsky, Kim van Sparrentak, Axel Voss e Kristian Vigenin.

      L'accesso è stato un problema anche. L'Ufficio dell'IA e i suoi valutatori esterni hanno faticato negli ultimi mesi a ottenere accesso ad alcuni modelli all'avanguardia, incluso Mythos di Anthropic, e la Commissione ha promesso un piano per un accesso strutturato come parte del suo piano d'azione per la cybersicurezza e l'IA.

      Scoprendolo da un post di blog

      Benifei, il responsabile del Parlamento per l'IA, è stato chiaro su come Bruxelles ne sia venuta a conoscenza. “Un agente autonomo è sfuggito al suo ambiente di test e ha compromesso i sistemi di produzione di un'altra azienda, e ne abbiamo appreso da un blog aziendale,” ha detto.

      “Le aziende dovrebbero adottare misure preventive, non solo azioni correttive dopo che si è verificato un danno,” ha detto Risto Uuk, capo delle politiche e della ricerca europea presso il Future of Life Institute. I think tank, gli eurodeputati e dozzine di esperti di IA hanno firmato una lettera aperta questo mese esortando l'Ufficio dell'IA a utilizzare attivamente i suoi poteri, non appena sorgono preoccupazioni.

      Regolamentare un'industria che l'Europa non ha

      La realtà scomoda è che la legge sull'IA controllerà in gran parte aziende non europee. I laboratori americani stanno correndo contro i rivali cinesi, e l'Europa sta arbitrando un concorso in cui non sta competendo.

      Moonshot ha svelato Kimi K3 questo mese, un sistema da 2,8 trilioni di parametri presentato come il modello a peso aperto più grande del mondo, che gli sviluppatori hanno classificato sopra sia GPT-5.6 Sol che Fable 5 in una classifica di codifica cieca. I pesi aperti complicano l'applicazione in modi in cui i modelli chiusi non lo fanno.

      Mistral sta competendo, ma l'Europa non ha alternative leader nel settore. “Ciò che manca è la seconda metà dell'equazione,” ha detto Lagodinsky, l'eurodeputato dei Verdi tedeschi che monitora l'attuazione della legge, “il capitale per finanziare le nostre alternative.”

      Poteri in arrivo mentre la legge viene ridotta

      C'è una pressione contraria. Bruxelles ha raggiunto un accordo per ridurre alcune parti della legge sull'IA anche mentre queste disposizioni di applicazione entrano in vigore, e il Parlamento ha spostato la maggior parte degli obblighi ad alto rischio al 2027 e 2028.

      Il quadro di governance più ampio si sta frammentando piuttosto che convergere. Il ritiro dell'America dalle misure di sicurezza ha conseguenze ben oltre i suoi confini, e Trump e Xi si incontreranno a Washington a settembre con l'IA all'ordine del giorno.

      “Questo è il momento in cui la legge sull'IA entra nella scena geopolitica,” ha detto Lagodinsky. Se 36 persone possono portarla lì è la domanda che domenica lascia aperta.