Grok ha aiutato a colpire 2.000 obiettivi in Iran. Ora la sua inquinamento è 'sicurezza nazionale'.

      Il Pentagono afferma che Grok ha aiutato a colpire 2.000 obiettivi in 96 ore, e che la centrale elettrica inquinante che ne è alla base è una questione di sicurezza nazionale di primaria importanza. Le due affermazioni appartengono alla stessa frase, e questo è il problema.

      L'ammissione non è avvenuta in un comunicato stampa o in un briefing del Pentagono, ma in una dichiarazione presentata in un tribunale federale nel Mississippi, in un caso riguardante l'inquinamento atmosferico. Lì, difendendo xAI di Elon Musk contro una causa ai sensi del Clean Air Act, il capo digitale e dell'intelligenza artificiale del Pentagono ha formulato una frase che dovrebbe fermare chiunque la legga.

      Il chatbot noto come Grok, ha scritto, ha aiutato a lanciare più di 2.000 munizioni su 2.000 obiettivi distinti in Iran in 96 ore, e il suo funzionamento continuato è una questione di sicurezza nazionale di primaria importanza.

      Leggi di nuovo, perché il contesto è l'intera storia. Un funzionario governativo ha rivelato che un prodotto di intelligenza artificiale per i consumatori era stato utilizzato per bombardare un paese, non per informare il pubblico, ma per mantenere in funzione un centro dati. La puntamento e le turbine sono arrivate nella stessa dichiarazione giurata perché, secondo il racconto dell'amministrazione, sono lo stesso argomento: Grok è importante per la guerra, la guerra è importante per la nazione, quindi la centrale elettrica che alimenta Grok non può essere spenta, qualunque cosa dica la legge riguardo ai suoi permessi.

      Questo è il momento in cui i due problemi con l'IA militare smettono di essere separati. Il primo è che un chatbot costruito per rispondere a domande su un social network è ora collegato alla macchina che uccide le persone. Il secondo è che l'uomo che possiede quel chatbot si trova anche all'interno del governo a decidere come viene utilizzato. Ognuno di essi è allarmante di per sé.

      Insieme descrivono un sistema in cui le garanzie che ci aspetteremmo normalmente, legali, ambientali, etiche, si piegano tutte verso la comodità di una sola azienda e di un solo uomo.

      Iniziamo con il chatbot. Grok è, secondo la denuncia, uno dei soli quattro modelli di IA che il Pentagono considera capaci di supportare applicazioni di sicurezza nazionale, e uno dei tre autorizzati per lavori critici in ambienti top-secret.

      Si integra nel Maven Smart System dell'Agenzia Nazionale di Intelligence Geospaziale, il cruscotto guidato dall'IA che presenta dati di intelligence per aiutare i funzionari a decidere cosa colpire. La linea ufficiale è rassicurante nella sua formulazione: l'IA non crea obiettivi, identifica punti di interesse per gli analisti umani da valutare. Gli esseri umani, ci viene detto, rimangono nel circuito.

      Il circuito non ha salvato i bambini di Minab. Il 28 febbraio, nella prima ondata di attacchi, un missile da crociera Tomahawk ha colpito la scuola femminile Shajarah Tayyebeh nella città iraniana, uccidendo decine di persone, più di cento di esse bambini secondo la maggior parte dei conteggi, in quello che gli osservatori hanno definito l'incidente civile più mortale del conflitto.

      Un'inchiesta militare preliminare statunitense ha concluso che le forze americane erano probabilmente responsabili, e che l'attacco si basava su informazioni obsolete: coordinate degli obiettivi costruite da dati obsoleti, alimentate attraverso il sistema, mai ricontrollate su una mappa attuale. La scuola era stata una scuola tutto il tempo.

      Questo è il problema di mettere l'IA vicino al puntamento, e non ha nulla a che fare con il fatto che una macchina tiri il grilletto. Il pericolo è più sottile e più difficile da legislare. Un cruscotto di IA che classifica i punti di interesse e abbina le armi a essi non rimuove il giudizio umano tanto quanto lo ripulisce.

      L'analista vede un'interfaccia sicura, una lettura pulita, un obiettivo che il sistema ha già dignificato con un numero, e la risposta umana naturale è fidarsi di essa. Il bias di automazione non è un bug in questi sistemi; è il risultato prevedibile di costruire qualcosa progettato per sembrare autorevole. Quando i dati sottostanti sono errati, l'interfaccia fa sembrare l'errore rigoroso fino a quando il missile non atterra.

      Ora aggiungi il secondo problema, quello che la denuncia del Mississippi rende impossibile ignorare. La causa è stata intentata dalla NAACP, che sostiene che xAI sta facendo funzionare dozzine di turbine a gas per alimentare i suoi centri dati senza i permessi richiesti dal Clean Air Act, in un caso incentrato su una struttura di Southaven, Mississippi, dove il gruppo conta 27 turbine non autorizzate situate accanto a case, scuole e chiese in una comunità per lo più nera.

      Memphis, dove il supercomputer Colossus di xAI ronza, si è classificata seconda nel paese per visite al pronto soccorso legate all'asma nel 2024. Queste sono le persone che respirano i fumi del calcolo.

      E la risposta del governo alla loro causa non è stata difendere i permessi, che non esistono, ma sostenere che l'inquinamento è vitale per la guerra. Il Dipartimento di Giustizia è intervenuto per chiedere a un giudice di archiviare il caso, con la motivazione che spegnere le turbine "comprometterebbe gravemente" il Pentagono.

      I centri dati, ha scritto l'ufficiale, sono ben posizionati per fornire un aumento critico della capacità energetica in caso di conflitto armato. La sicurezza nazionale, in altre parole, è diventata il solvente universale: dissolve la legge ambientale, dissolve le obiezioni delle famiglie a valle, e lo fa a servizio delle infrastrutture non autorizzate di un'azienda privata.

      Qui è dove il conflitto di interessi smette di essere astratto. Musk non è un fornitore a distanza dallo stato. Ha occupato una posizione singolare all'interno di questa amministrazione, e le sue aziende si sono intrecciate nel suo apparato di sicurezza: Grok di xAI su reti classificate, i satelliti di SpaceX che trasportano i dati, gli interessi dello stesso uomo sia dalla parte della vendita che da quella dell'acquisto dell'affare.

      Quando il governo sostiene che Grok è indispensabile e la sua centrale elettrica intoccabile, sta sostenendo gli interessi commerciali di un insider. L'affermazione di sicurezza nazionale e l'interesse commerciale puntano esattamente nella stessa direzione, ogni volta, e non c'è nessuno nella stanza il cui lavoro sia notare.

      Il contrasto con il modo in cui questa amministrazione ha trattato un'azienda più cauta non potrebbe essere più netto. Quando Anthropic ha rifiutato di far utilizzare il suo modello Claude per la sorveglianza domestica o armi completamente autonome, il Pentagono l'ha designato come un rischio per la catena di approvvigionamento, un'etichetta normalmente riservata agli avversari stranieri, e l'azienda ora è bloccata in contenzioso su questo.

      La lezione che il mercato ha appena appreso è inconfondibile. Insisti su barriere e sei una minaccia per la sicurezza nazionale. Gestisci turbine non autorizzate e lascia che il tuo chatbot aiuti a bombardare una scuola, e sei un bene per la sicurezza nazionale. L'azienda attenta alla sicurezza viene messa nella lista nera; quella conforme fa classificare il suo inquinamento come patriottismo.

      Alcuni membri del Congresso hanno visto la forma di questo. La senatrice Kirsten Gillibrand ha introdotto il Secure and Accountable Military AI Act, che manterrebbe i decisori umani al controllo delle decisioni ad alta conseguenza e vieterebbe all'IA di essere utilizzata per armi nucleari, sorveglianza domestica e armi autonome.

      "Le decisioni più critiche che influenzano la nostra sicurezza nazionale e le vite dei nostri membri del servizio devono sempre essere prese da esseri umani, non da macchine non responsabili", ha detto.

      È l'istinto giusto. È anche, alla luce delle prove di Minab, un istinto incompleto, perché il pericolo non è mai stato solo la macchina completamente autonoma. Era l'essere umano che si fida dello schermo sicuro, e l'azienda che trae profitto che lo schermo sia giusto o sbagliato.

      Siamo arrivati in un luogo