Il CEO di Anthropic non sa se Claude ha colpito la scuola in Iran.

      Il CEO di Anthropic, Dario Amodei, ha dichiarato di non sapere quale ruolo abbia avuto il modello di intelligenza artificiale della sua azienda, Claude, in un attacco missilistico che ha ucciso circa 120 bambini in una scuola elementare a Minab, in Iran, il 28 febbraio. In un'intervista su The Circuit di Bloomberg con Emily Chang, ha descritto l'attacco come “una cosa davvero terribile da accadere”, ma ha affermato che il caso d'uso non violava le politiche di Anthropic. “Non abbiamo accesso a, non sappiamo esattamente come sono stati utilizzati questi modelli,” ha detto Amodei. “Il principio che abbiamo stabilito, e penso che il principio che è stato rispettato qui, è che un umano prende la decisione finale.”

      Come Claude si inserisce nella catena di uccisione

      Il Comando Centrale degli Stati Uniti sta utilizzando una piattaforma di targeting assistita da intelligenza artificiale chiamata Maven Smart System, costruita da Palantir sotto un contratto del Pentagono da 1,3 miliardi di dollari. Il sistema utilizza Claude e altri strumenti di intelligenza artificiale per generare obiettivi, classificarli in base all'importanza strategica e aiutare a abbinare armi agli obiettivi.

      CENTCOM ha colpito 1.000 obiettivi nelle prime 24 ore di operazioni contro l'Iran e si stima che siano stati 13.000 entro il 6 aprile, poco più di un mese dopo l'inizio della campagna. La scala e la velocità di quel targeting sono il punto: Maven è progettato per comprimere il tempo tra l'identificazione di un obiettivo e il suo attacco.

      L'attacco alla scuola di Minab

      Amnesty International ha riportato che la Shajareh Tayyebeh Elementary School di Minab è stata colpita il primo giorno delle operazioni statunitensi in Iran, uccidendo almeno 120 bambini e oltre 150 persone in totale. Le indagini di Amnesty, Human Rights Watch e diverse organizzazioni giornalistiche hanno concluso che è probabile che sia stato utilizzato un missile Tomahawk di fabbricazione statunitense.

      Il Pentagono non ha rivendicato pubblicamente la responsabilità per l'attacco, ma sta indagando sull'incidente. Il Segretario alla Difesa Pete Hegseth ha promesso un “approfondito esame” a marzo, in quello che il Washington Post ha descritto come un riconoscimento tacito della responsabilità statunitense.

      Il divario di conoscenza

      L'ammissione di Amodei di non sapere come Claude sia stato utilizzato nell'attacco riflette un problema più ampio. Le aziende di intelligenza artificiale stanno vendendo strumenti sempre più potenti ai militari, ma hanno una visibilità limitata su come questi strumenti vengano impiegati in combattimento.

      Hamza Chaudhry del Future of Life Institute ha avvertito che i processi di targeting dell'IA potrebbero accelerare così tanto che la decisione nominale umana si riduce a poco più di un “timbro di gomma.” L'espansione della scala del combattimento, ha detto, potrebbe portare alla perdita di molte più vite.

      L'uomo che ha costruito Maven è d'accordo

      Jack Shanahan, il generale di aviazione in pensione che ha creato il Progetto Maven, ha espresso preoccupazioni simili in un workshop dell'Università di Stanford la scorsa settimana. Ha avvertito che integrare Claude nel Maven Smart System potrebbe portare a “impatti inaspettati” e diluire il ruolo del giudizio umano. “Se prendi più decisioni piuttosto che le decisioni giuste, potresti avere un processo decisionale molto difettoso,” ha detto Shanahan. “Potresti avere mille obiettivi, ma sono gli obiettivi giusti?”

      Il confronto di Anthropic con il Pentagono

      Amodei ha innescato un confronto con l'amministrazione Trump all'inizio di quest'anno rifiutando di consentire l'uso di Claude in armi completamente autonome o nella sorveglianza domestica di massa. Il Pentagono ha risposto designando Anthropic come un rischio per la catena di approvvigionamento, e Anthropic ha intentato una causa che è ancora in corso.

      Un giudice federale in California ha bloccato gli sforzi del Pentagono per interrompere i legami con Anthropic, stabilendo che violava i diritti costituzionali dell'azienda. Ma un tribunale d'appello separato a Washington ha negato la richiesta di Anthropic di un blocco temporaneo sulla messa al bando mentre il caso si svolge.

      Le bandiere

      Amodei ha affermato che il “principio” della decisione umana è stato “rispettato” nell'attacco di Minab, ma ha anche detto di non sapere quale ruolo abbia avuto Claude. Queste due affermazioni sono difficili da riconciliare: se non sai come è stato utilizzato il modello, non puoi sapere se il principio è stato rispettato.

      L'argomento che un umano prenda la decisione finale non affronta la preoccupazione che il targeting accelerato dall'IA possa produrre così tanti obiettivi così rapidamente che la revisione umana diventa superficiale piuttosto che significativa. Le stesse cifre di CENTCOM, 13.000 obiettivi in cinque settimane, supportano tale preoccupazione.

      La posizione di Anthropic è anche strutturalmente contraddittoria. Ha tracciato una linea rossa sulle armi autonome e sulla sorveglianza di massa, ha fatto causa al governo per una messa al bando, eppure la sua IA è integrata nella piattaforma di targeting utilizzata per colpire 13.000 obiettivi in una campagna che ha ucciso bambini in una scuola. Se Claude abbia contribuito a quel specifico attacco è sconosciuto, ma fa parte del sistema che lo ha prodotto.