Anthropic vuole che i governi abbiano il potere di bloccare le implementazioni di IA pericolose.

      TL;DRAnthropic ha proposto di dare ai governi l'autorità legale di bloccare modelli di IA pericolosi, con multe legate al fatturato globale. Un secondo quadro riguarda la protezione dei lavoratori.

      Anthropic ha pubblicato due quadri politici che chiedono ai governi di avere l'autorità legale di bloccare le implementazioni di IA pericolose e di adottare salvaguardie economiche per proteggere i lavoratori mentre l'IA rimodella il mercato del lavoro. Il Quadro Avanzato per l'IA riguarda la regolamentazione della sicurezza. Il Quadro Politico Economico affronta il problema dello spostamento, della distribuzione del capitale e della rete di sicurezza sociale.

      Il quadro di sicurezza è il più aggressivo dei due. Anthropic vuole che i governi possano bloccare o dissuadere l'implementazione di modelli che presentano un "rischio significativo di danno catastrofico", con sanzioni civili legate al fatturato annuale globale che aumentano con le violazioni ripetute. Si applicherebbe solo ai modelli addestrati utilizzando più di 10²⁵ operazioni in virgola mobile, sviluppati da aziende che guadagnano più di 500 milioni di dollari in fatturato da IA o spendono più di 1 miliardo di dollari in R&S sull'IA.

      Quella soglia cattura un numero ristretto di aziende: Anthropic stessa, OpenAI, Google DeepMind, xAI e potenzialmente Meta. Anthropic sta chiedendo una regolamentazione che si applichi direttamente al proprio business, una posizione che ha già utilizzato in passato per distinguersi dai concorrenti che fanno lobby contro la supervisione.

      Il quadro identifica quattro categorie di rischio catastrofico: sviluppo di armi biologiche, scoperta di vulnerabilità informatiche su larga scala, perdita di controllo sui sistemi autonomi e IA che automatizza la propria R&S. Anthropic ha citato la propria esperienza con Mythos Preview, che ha scoperto migliaia di vulnerabilità ad alta gravità in ogni sistema operativo e browser principale, come prova che questi rischi non sono ipotetici.

      Il 💜 della tecnologia dell'UE

      Le ultime novità dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte IA discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      I sviluppatori frontier sarebbero tenuti a testare i loro modelli, pubblicare riassunti dei risultati, sottoporsi a valutazioni indipendenti, mantenere programmi di sicurezza e pubblicare rapporti regolari sui rischi. Anthropic afferma che la trasparenza da sola non è più sufficiente. “Le capacità dell'IA miglioreranno rapidamente nei prossimi mesi,” ha scritto l'azienda. “La loro governance deve tenere il passo.”

      Sulla preemption, Anthropic prende di mira direttamente la spinta della Casa Bianca a bloccare le leggi statali sull'IA. “Non crediamo che il Congresso debba precludere la legge statale a meno che non approvi una legge federale che sia almeno forte quanto il quadro che stiamo proponendo oggi,” ha dichiarato l'azienda. Chiede che la preemption sia “chirurgica,” consentendo agli stati di regolamentare sulla sicurezza dei bambini, la protezione dei consumatori e altre questioni al di fuori dell'ambito di una legge federale sulla sicurezza.

      Il quadro economico è meno dettagliato ma affronta la questione dello spostamento che gli studenti laureati hanno criticato durante le cerimonie di laurea. Include proposte per conti di capitale, assicurazione salariale, incentivi fiscali e una rete di sicurezza sociale ampliata. L'obiettivo è garantire che i benefici finanziari dell'IA siano “ampiamente condivisi,” anche se i dettagli su finanziamenti e attuazione sono lasciati per futuri dibattiti.

      Il tempismo è deliberato. Anthropic sta combattendo in tribunale contro il Pentagono per il suo inserimento nella lista nera come rischio per la catena di approvvigionamento. Si sta preparando per un'IPO. E sta osservando il Congresso negoziare un accordo che scambierebbe la preemption statale dell'IA per una legislazione sulla sicurezza online. Pubblicando il proprio quadro, Anthropic sta cercando di stabilire i termini di un dibattito normativo che si sta muovendo rapidamente e in gran parte senza il suo contributo.