Il regolatore bancario del Canada ha nominato Claude Mythos in un avviso alle banche.

      Un'email di aprile ai dirigenti tecnologici delle banche, rilasciata secondo le norme di accesso alle informazioni, mostra che l'OSFI ha nominato il modello frontier di Anthropic come motivo per cui la finestra per correggere i difetti si sta chiudendo.

      I regolatori di solito non nominano i prodotti. Scrivono di “tecnologie emergenti” e “capacità avanzate” e lasciano al lettore il compito di capire a quale fornitore si riferiscono. Quindi è degno di nota che quando l'ente di vigilanza bancaria del Canada ha scritto ai maggiori prestatori del paese ad aprile, ha nominato uno: Claude Mythos di Anthropic.

      L'email, inviata il 29 aprile dall'Ufficio del Sovrintendente delle Istituzioni Finanziarie ai direttori tecnologici, ai responsabili della sicurezza delle informazioni e ai responsabili dei rischi delle banche e delle assicurazioni canadesi, è stata ottenuta da Reuters tramite una richiesta di accesso alle informazioni.

      “I modelli avanzati di intelligenza artificiale, come Anthropic Claude Mythos, comprimono significativamente il tempo per una mitigazione efficace dei rischi,” ha scritto l'OSFI. Il bollettino, ha detto, stabiliva “pratiche solide che le istituzioni possono adottare per migliorare la velocità e l'efficacia dell'identificazione, mitigazione e risposta ai rischi”.

      Parte dell'email è stata redatta ai sensi della Legge sull'Accesso alle Informazioni, quindi ciò che l'OSFI ha effettivamente raccomandato rimane in parte nascosto. Ciò che è visibile è la diagnosi. Il ciclo tradizionale di patch assume che i difensori abbiano giorni o settimane tra la scoperta di un difetto e il suo sfruttamento.

      Il 💜 della tecnologia dell'UE

      Le ultime voci dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      Mythos, che i ricercatori di cybersecurity descrivono come estremamente capace di trovare e sfruttare vulnerabilità software, collassa quell'assunzione, e le banche utilizzano alcuni dei software più vecchi di qualsiasi settore sulla terra.

      Il tempismo è ordinato. All'inizio di aprile, i dirigenti delle banche canadesi hanno incontrato i regolatori per discutere di Mythos, poco dopo che il Segretario al Tesoro degli Stati Uniti Scott Bessent e l'allora Presidente della Federal Reserve Jerome Powell hanno convocato i CEO delle banche sullo stesso modello.

      Tre settimane dopo, l'OSFI ha inviato la sua email. Il modello si è ripetuto presso la Banca Centrale Europea, presso la Banca d'Inghilterra e in Australia, dove l'ASIC ha confermato di stare monitorando anche il modello.

      Dopo che Reuters ha posto domande all'OSFI la scorsa settimana, il regolatore ha pubblicato un bollettino pubblico sull'IA generativa e agentica. La sequenza non è sottile.

      La posizione formale dell'OSFI è che non regola i modelli. “Il nostro focus non è la tecnologia stessa, ma come le istituzioni finanziarie regolate a livello federale governano e gestiscono i rischi associati al suo utilizzo,” ha detto.

      Questa è la linea standard neutra rispetto alla tecnologia, espressa in un documento che nomina una tecnologia specifica di una specifica azienda due volte.

      Il mandato del regolatore va dalle sei grandi banche ai fondi pensione e alle assicurazioni, ed è incaricato di individuare i rischi derivanti dalla geopolitica, dall'interferenza straniera e dalle nuove tecnologie. È insolito che tutte e tre le categorie descrivano la stessa cosa contemporaneamente.

      L'accesso a Mythos è ristretto. Le banche della zona euro sembrano essere escluse da esso, e il modello è distribuito attraverso il programma di accesso controllato di Anthropic, Project Glasswing. Il governo canadese ha dichiarato di avere accesso.

      Se qualche banca canadese lo abbia è poco chiaro, e nessuna di quelle interpellate ha voluto rispondere. Diverse hanno girato le domande all'Associazione Bancaria Canadese, che ha detto che i suoi membri hanno investito pesantemente nella protezione del sistema finanziario e rispettano i requisiti dell'OSFI sulla gestione del rischio informatico e sulla segnalazione degli incidenti, una frase che risponde a una domanda diversa.

      Le grandi banche canadesi non sono passive qui. Royal Bank of Canada, TD Bank e BMO hanno tutti delineato piani per guadagnare denaro dall'IA, passando da progetti pilota a chatbot e strumenti interni e riducendo ciò che acquistano da fornitori terzi. Scotiabank, CIBC e National Bank hanno rivelato iniziative proprie.

      Bruce Ross, responsabile del gruppo AI di RBC, ha detto a giugno che Mythos segnava un cambiamento nel panorama degli attacchi, perché gli exploit possono ora apparire non appena vengono trovate vulnerabilità. “Il modo in cui stiamo affrontando la situazione è costruendo le nostre difese AI,” ha detto. “Continueremo a farlo.” La difesa, in altre parole, è più della cosa che causa il problema.

      L'ansia più ampia a Ottawa non riguarda davvero le patch. Il Primo Ministro Mark Carney ha paragonato l'eccessiva dipendenza da un pugno di modelli frontier al rischio di concentrazione che ha preceduto la crisi del 2008, il che è una grande affermazione per un primo ministro da fare riguardo a un'azienda di chatbot. L'email dell'OSFI suggerisce che i regolatori hanno smesso di trattarlo come una metafora.