Perché l'UE sta ora richiedendo l'accesso al Mythos di Anthropic

      Un modello di intelligenza artificiale antropica in grado di trovare zero-day in ogni principale sistema operativo è diventato una questione geopolitica e prudenziale. L'Eurogruppo si è riunito a Bruxelles lunedì senza avere risposte in mano.

      Bruxelles, un lunedì mattina all'inizio di maggio, non è, per tradizione, il luogo in cui si discute il modello di intelligenza artificiale più potente del mondo. L'Eurogruppo si riunisce in una sala elegante ma funzionale. I ministri delle finanze scambiano documenti di posizione.

      L'agenda si concentra pesantemente sulla resilienza operativa, sugli arcana dell'unione bancaria e sulla formulazione precisa delle conclusioni del Consiglio. Non è, nella maggior parte delle occasioni, il luogo in cui si fanno notizie.

      Il 4 maggio, la sala stava parlando di qualcos'altro. Bloomberg ha confermato che i ministri delle finanze dell'area euro si erano riuniti per discutere del modello Mythos AI di Anthropic e di cosa fare riguardo al fatto che attualmente nessun governo europeo ha accesso ad esso. Il modello, svelato da Anthropic il 7 aprile, può identificare e, in linea di principio, sfruttare vulnerabilità zero-day in ogni principale sistema operativo e browser web.

      La Casa Bianca ha trascorso le ultime settimane bloccando la proposta di Anthropic di espandere l'accesso a circa 70 ulteriori organizzazioni.

      Nel frattempo, i regolatori bancari europei hanno fatto i conti su cosa significhi quel divario per il sistema finanziario.

      La stessa descrizione di Anthropic del sistema, esposta nell'annuncio del Progetto Glasswing del 7 aprile, non minimizza la questione. Mythos Preview è un modello di frontiera le cui capacità di codifica hanno superato una soglia: può trovare vulnerabilità software a una velocità e a una profondità che superano tutte tranne i ricercatori umani più esperti.

      Migliaia di vulnerabilità ad alta gravità sono state trovate in pochi giorni, inclusi un bug di 27 anni in OpenBSD, un difetto di esecuzione di codice remoto di 16 anni in FreeBSD e 271 vulnerabilità separate di Firefox corrette da Mozilla dopo un'unica valutazione.

      Ciò che significa per i difensori, nell'analisi del ricercatore di crittografia Bruce Schneier e di altri che scrivono sul significato strategico del modello, è inequivocabile. Un modello con questa capacità, utilizzato offensivamente, offre a un attaccante un vantaggio strutturale che i difensori non possono eguagliare senza un accesso comparabile.

      Il corollario è che i difensori senza accesso comparabile sono ora significativamente indietro. Questo è il calcolo che i supervisori bancari europei hanno fatto.

      La Bundesbank è stata la prima a muoversi. Alla fine di aprile, la banca centrale della Germania ha pubblicamente esortato l'UE a richiedere l'accesso a Mythos, sostenendo che senza di esso le banche europee non potrebbero realisticamente testare la propria infrastruttura contro minacce che un avversario con il modello sarebbe in grado di lanciare.

      Nel frattempo, la Banca Centrale Europea ha convocato chiamate con i responsabili del rischio delle banche dell'area euro e ha iniziato a raccogliere informazioni su come le banche si stanno preparando per attacchi informatici potenziati dall'IA.

      Christine Lagarde, presidente della BCE, ha caratterizzato Anthropic come un operatore responsabile, avvertendo però che il modello nelle mani sbagliate "potrebbe essere davvero dannoso".

      Il regolatore svizzero è andato oltre. FINMA ha avvertito ad aprile che un accesso immediato e ampio a Mythos costituirebbe di per sé un rischio sistemico per le banche svizzere: non perché il modello sia malevolo, ma perché distribuire capacità di sicurezza offensiva di questo tipo senza l'infrastruttura difensiva per assorbire i suoi output potrebbe sopraffare i sistemi interni di risposta agli incidenti.

      ASIC, il regolatore australiano, ha aderito separatamente allo sforzo di monitoraggio, e Kristalina Georgieva, direttore generale del FMI, ha detto ai giornalisti durante le riunioni primaverili del Fondo che il sistema monetario internazionale non aveva ancora le protezioni necessarie contro un incidente informatico sostenuto potenziato dall'IA.

      Nessuna di queste dichiarazioni è nuova come politica. Ciò che è nuovo è la velocità con cui si sono allineate attorno a un unico prodotto.

      Perché la Casa Bianca sta dicendo di no?

      La posizione dell'amministrazione Trump è che un accesso più ampio a Mythos solleva due preoccupazioni distinte. La prima è l'abuso: un modello in grado di scrivere exploit non può, per definizione, essere distribuito in modo sicuro.

      La seconda è operativa: l'infrastruttura necessaria per supportare un'implementazione più ampia, le strutture autorizzate, i controlli di accesso e il monitoraggio, non esiste, secondo l'amministrazione, per la base utenti più ampia proposta da Anthropic.

      C'è anche una dinamica più silenziosa e imbarazzante. La National Security Agency sta già utilizzando Mythos attraverso accordi che precedono la disputa pubblica, anche se il Pentagono ha designato separatamente Anthropic come un rischio per la catena di approvvigionamento in una questione di approvvigionamento correlata.

      Il Tesoro degli Stati Uniti ha, inoltre, richiesto accesso a Mythos per aiutare a trovare difetti nei propri sistemi. La posizione dell'amministrazione è, in altre parole, restrittiva sulla distribuzione esterna e permissiva sul proprio utilizzo, una posizione che è internamente coerente ma strategicamente delicata quando applicata agli alleati che, in qualsiasi normale calcolo di controspionaggio, si aspetterebbero di essere all'interno di tale accordo.

      È questa asimmetria, più del modello stesso, che ha prodotto la reazione europea.

      Cosa ha effettivamente detto Anthropic, e cosa non ha detto

      La posizione pubblica di Anthropic è stata attentamente formulata. L'azienda ha riconosciuto che le capacità di Mythos richiedevano le nuove garanzie che il Progetto Glasswing era stato progettato per fornire, e ha lanciato l'iniziativa con AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks come partner iniziali.

      La rappresentanza dei servizi finanziari è esigua: JPMorgan Chase è l'unica banca esplicitamente nominata. Goldman Sachs e Citigroup, secondo rapporti separati, stanno valutando il modello internamente. Nessuna banca europea è sulla lista di lancio.

      In privato, Anthropic ha indicato ai funzionari che l'accesso europeo sarà fornito "presto", l'usuale riserva temporale nella diplomazia commerciale. Non è stato firmato alcun accordo formale. L'Eurogruppo, lunedì, non ne ha prodotto uno. Ciò che ha prodotto è stato un segnale collettivo più chiaro che i supervisori europei si aspettano un trattamento equivalente e intendono intensificare se non viene concesso.

      La domanda più difficile che la riunione sta circondando

      Il problema strutturale non riguarda davvero Anthropic, o Mythos in particolare, anche se entrambi sono i fattori scatenanti prossimi. Abbiamo seguito il modello più ampio: i modelli di frontiera con capacità di sicurezza offensiva si stanno ora muovendo tra i governi più velocemente dell'infrastruttura normativa progettata per supervisionarli.

      Il quadro di controllo delle esportazioni che storicamente governava questo tipo di capacità, progettato per componenti satellitari e materiali nucleari, non è stato costruito per software che si aggiorna mensilmente e può essere esfiltrato da chiunque abbia credenziali sufficienti.

      L'esperienza di Anthropic sottolinea quel punto. Utenti non autorizzati sono stati in grado di accedere a Mythos attraverso canali privati poco dopo il suo lancio limitato, esponendo la difficoltà di contenere sistemi di IA ad alta domanda con applicazioni offensive.

      La violazione è stata piccola ma istruttiva: anche Anthropic, con la cultura di sicurezza più forte tra i laboratori di frontiera, non può controllare completamente la distribuzione di un modello così capace.

      I supervisori europei, osservando questo svolgersi, hanno concluso qualcosa che non direbbero ad alta voce in una conferenza stampa. Il modello esiste. Attori ostili, prima o poi, otterranno accesso attraverso un canale o un altro. I difensori hanno bisogno di accesso parallelo non perché vogliano utilizzare Mythos offensivamente, ma perché