Opinione: Chi decide chi può utilizzare un software?

      La lettera è arrivata alle 17:21 ora orientale di un venerdì, che è l'ora in cui Washington ufficiale di solito smette di rispondere alle chiamate e il ciclo delle notizie si allenta per il fine settimana. Proveniva dal Dipartimento del Commercio, si estendeva su pochi paragrafi e faceva qualcosa che nessun documento americano aveva mai fatto prima.

      Quando la Costa Est aveva finito di cenare, due dei modelli di intelligenza artificiale più capaci del pianeta erano andati offline. Non limitati, non riparati, non degradati silenziosamente. Spenti. Un ricercatore a Berlino che stava parlando con il dispositivo si è accorto che era scomparso. Lo stesso è accaduto a un analista finanziario a Singapore, a un team di software a Bangalore e, in un dettaglio che sarebbe divertente se non fosse il punto centrale, a un certo numero di ingegneri di Anthropic, quelli che si trovano a possedere il passaporto sbagliato.

      La direttiva ha ordinato ad Anthropic di negare l'accesso a Fable 5 e Mythos 5 a qualsiasi cittadino straniero, ovunque sulla Terra, compresi i non cittadini seduti alle scrivanie in California. Non c'è modo pulito di far rispettare una regola del genere su un prodotto attivo, quindi l'azienda ha fatto l'unica cosa che l'ordine le ha lasciato spazio di fare. Ha staccato la spina a entrambi i modelli per tutti, cittadini e stranieri, e si è scusata per una interruzione che non aveva scelto.

      Voglio essere cauto su ciò che è fatto qui e ciò che è la mia opinione, perché i due si confondono rapidamente in una storia come questa. I fatti non sono in discussione. Anthropic ha confermato di aver ricevuto la direttiva, ha confermato il suo ambito e ha confermato di aver disabilitato i modelli in risposta, lasciando in funzione il suo Claude Opus 4.8 più vecchio.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e un po' di arte AI discutibile. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Fortune e Al Jazeera hanno entrambi riportato che è la prima volta che gli Stati Uniti hanno utilizzato controlli all'esportazione per motivi di sicurezza nazionale contro un modello di AI commerciale. Il motivo dichiarato è di natura informatica. I funzionari hanno detto ad Anthropic che avevano appreso di una tecnica per bypassare le protezioni di Fable 5 e raggiungere le capacità di attacco informatico grezze di Mythos, il modello sottostante.

      Anthropic lo definisce un "potenziale jailbreak ristretto" e l'intero episodio un "malinteso". Al Jazeera, citando Semafor, ha riportato che il sospetto di accesso da parte di un gruppo legato alla Cina era parte del fattore scatenante, pur notando che non poteva confermare quel dettaglio in modo indipendente.

      Tanto per i fatti, ma ecco l'opinione. L'argomento della sicurezza, qualunque siano i suoi meriti, non è la parte di questa storia che dovrebbe viaggiare. La parte che dovrebbe viaggiare è il meccanismo, perché il meccanismo è ciò che viene riutilizzato: i controlli all'esportazione sono uno strumento vecchio. Hanno governato missili, centrifughe, crittografia e i chip fisici su cui l'AI opera.

      Ciò che è nuovo questa volta è l'oggetto. Un modello di frontiera non è hardware che puoi intercettare in un porto. È un servizio, raggiunto tramite un browser, ormai intrecciato nel lavoro quotidiano di aziende e istituzioni che non hanno nulla a che fare con la sicurezza nazionale americana. Al Jazeera ha notato che i clienti della società di rating S&P utilizzano Claude per interrogare i loro database; i laboratori di ricerca si basano su di esso; il personale straniero all'interno delle aziende americane dipende da esso per svolgere il proprio lavoro. Quando lo stato può spegnerlo per l'intero mondo tra una sera e l'altra, "controllo all'esportazione" smette di descrivere un confine e inizia a descrivere un interruttore di spegnimento.

      Questo è il precedente, e i precedenti non rimangono nel loro box. Una volta che un governo ha dimostrato di poter costringere un'azienda a revocare un prodotto commerciale a milioni di utenti con poche ore di preavviso, lo strumento esiste per ogni futura amministrazione e ogni futura lamentela. Il criterio utilizzato questa volta, "cittadino straniero", è così ampio da essere quasi privo di significato.

      Kun Chen, un ex ingegnere di Meta e Microsoft, ha sottolineato che non è applicabile nella pratica ed è banale da bypassare per chiunque abbia una vera intenzione malevola, mentre raccoglie milioni di utenti ordinari e persino il personale delle aziende americane. Una misura che manca il suo obiettivo e colpisce tutti gli altri non è precisione. È una dimostrazione di portata.

      C'è un controargomento ragionevole, e merita un'udienza equa piuttosto che un uomo di paglia. I governi hanno sempre rivendicato il diritto di fermare la diffusione di tecnologie pericolose, e se un modello può davvero essere trasformato in un'arma automatizzata per entrare nelle banche, lo stato ha un interesse legittimo in questo. Anthropic, dopo tutto, ha trascorso anni descrivendo i suoi sistemi più potenti come troppo pericolosi per essere rilasciati liberamente.

      Ha definito Mythos troppo potente per un lancio ampio, poi ha costruito Fable su un'impalcatura di protezioni che ha pubblicizzato rumorosamente. Se costruisci qualcosa e lo chiami un pericolo, è difficile essere scioccati quando un regolatore lo tratta come tale.

      Il ricercatore di cybersecurity Peter Girnus l'ha messo in modo netto: "Se descrivi il tuo prodotto come una munizione in ogni comunicato stampa, alla fine un governo ti prenderà in parola. Hanno scritto loro stessi il presupposto legale e lo hanno chiamato un marchio."

      Trovo che questo argomento sia onesto e incompleto. Onesto, perché il pericolo non è puramente inventato, e Anthropic ha aiutato a scrivere il copione. Incompleto, perché risponde a una domanda che nessuno sta davvero ponendo. La questione non è se lo stato possa regolare capacità genuinamente pericolose. Certo che può. La questione è se dovrebbe essere in grado di farlo raggiungendo oltre l'azienda e nel prodotto, unilateralmente, senza un processo trasparente, senza appello e con effetti che ricadono principalmente su persone in altri paesi che non hanno avuto voce in capitolo e nessun avviso.

      Anthropic stessa ha tracciato esattamente quella linea, sostenendo che il governo dovrebbe essere in grado di bloccare distribuzioni non sicure, ma solo attraverso un processo che sia "trasparente, equo, chiaro e basato su fatti tecnici", e che questa azione non ha soddisfatto nessuno di quei requisiti. Su quel punto ristretto, penso che l'azienda abbia ragione, qualunque altra cosa abbia sbagliato.

      Ciò che rende il precedente più difficile da difendere è l'azienda con cui si trova. A gennaio la stessa amministrazione ha invertito anni di politica e ha autorizzato la vendita dei chip avanzati H200 di Nvidia in Cina. Dean Ball, che ha lavorato brevemente all'interno dell'amministrazione sulla politica dell'AI, ha colto la contraddizione in una sola riga: un governo disposto a esportare i suoi migliori chip a un rivale ora vuole vietare alla Gran Bretagna e a ogni altro non americano sulla Terra di utilizzare i suoi migliori modelli. "Non ho parole," ha scritto.

      L'hardware fluisce verso il concorrente; il software è isolato dagli alleati. Come politica di sicurezza non coesiste. Come dimostrazione di chi tiene l'interruttore, è perfettamente chiaro.

      Ecco la parte che a Washington piacerà di meno. La lezione colpisce più duramente proprio dove meno vorrebbe. Sridhar Vembu, co-fondatore del gruppo software indiano Zoho, l'ha messa in modo chiaro: "Sovranità nazionale, sicurezza nazionale, tutto ora riguarda la tecnologia." Lo intendeva come uno stimolo, e lo stimolo sta già funzionando. La chiusura ha fornito al movimento dell'AI sovrana indiana il suo argomento più forte fino ad ora. L'Europa, che ha trascorso anni a tormentarsi sulla propria sovranità nell'AI mentre gli hyperscalers americani prende