L'IA eclissa le armi nucleari al summit di difesa del Dialogo di Shangri-La

      TL;DRDurante il Dialogo di Shangri-La a Singapore, alti ufficiali militari hanno avvertito che l'IA sta comprimendo il processo decisionale sul campo di battaglia più velocemente di quanto gli esseri umani possano elaborare, oscurando le armi nucleari come la principale preoccupazione strategica. Il conflitto tra Ucraina e Stati Uniti-Iran è stato citato come esempio concreto di come l'IA stia già plasmando le operazioni di combattimento.

      I pericoli dell'intelligenza artificiale hanno oscurato le armi nucleari come preoccupazione centrale in un panel sulla stabilità strategica durante il Dialogo di Shangri-La a Singapore, con alti ufficiali militari che avvertivano che i sistemi guidati dall'IA stanno riducendo il tempo disponibile per il processo decisionale umano nei conflitti. Il vertice annuale della difesa, tenutosi dal 29 al 31 maggio, ha riunito ministri della difesa e capi militari da tutto l'Indo-Pacifico e oltre.

      Il tenente generale Nauman Zakria, comandante del 1° Corpo e del Comando delle Forze Missilistiche dell'Esercito Pakistano, ha inquadrato la minaccia in termini di ciclo OODA, il ciclo decisionale militare di osservare, orientarsi, decidere e agire. L'IA comprime quel ciclo al punto da creare una nebbia in cui “un essere umano non può valutare la situazione abbastanza velocemente”, ha detto. “Le persone agiranno in modo irrazionale e le azioni saranno estreme.”

      Già sul campo di battaglia

      Gli avvertimenti non erano teorici. Il generale Onno Eichelsheim, capo della difesa dei Paesi Bassi, ha notato che l'IA era già apparsa in combattimento attivo. Le forze ucraine hanno impiegato sistemi di IA per anticipare gli attacchi russi e coordinare le operazioni dei droni lungo la linea del fronte, utilizzando l'apprendimento automatico addestrato su anni di filmati di battaglia per identificare obiettivi e adattarsi alle contromisure in tempo reale.

      Gli Stati Uniti hanno anche riconosciuto di utilizzare strumenti di IA nella pianificazione di attacchi contro obiettivi iraniani. Il Pentagono ha confermato che i combattenti hanno sfruttato “strumenti di IA avanzati” per setacciare i dati e prendere decisioni di targeting più rapide durante l'Operazione Epic Fury, che ha colpito più di 13.000 obiettivi da quando è iniziata. Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte IA discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      “L'IA è un enorme rischio per l'escalation. Penso che sia chiaro,” ha detto Eichelsheim. “Ma non sono ingenuo. Sarà utilizzata nel dominio. È già in uso.”

      L'avvertimento della Croce Rossa

      Mirjana Spoljaric, presidente del Comitato Internazionale della Croce Rossa e l'unica relatrice non direttamente coinvolta nella difesa, ha offerto la valutazione più netta del rischio umanitario dell'IA. Ha avvertito che, sebbene la tecnologia avesse la capacità di migliorare le vite, stava aumentando enormemente il pericolo di guerra nella pratica.

      “Non sappiamo dove viene premuto il grilletto,” ha detto Spoljaric. “Potrebbe essere a migliaia di chilometri di distanza. Quindi, mentre ci sono potenzialità dell'IA per proteggere i civili, ciò che vediamo al momento è solo il lato negativo.”

      Il CICR ha da tempo sostenuto che i sistemi d'arma autonomi devono mantenere un controllo umano significativo sulle decisioni di targeting, una posizione che sta guadagnando urgenza man mano che i sistemi abilitati dall'IA passano da programmi sperimentali a distribuzione attiva. Nessuna grande potenza militare si è impegnata a restrizioni vincolanti sulle armi autonome, nonostante anni di discussioni alla Convenzione delle Nazioni Unite sulle armi convenzionali.

      Le posizioni nucleari e sull'IA della Cina

      Le armi nucleari hanno ancora avuto un ruolo nella conversazione. Il maggiore generale dell'Esercito Popolare di Liberazione Meng Xiangqing ha riaffermato la politica cinese di non primo uso e ha proposto che tutti e cinque gli stati riconosciuti con armi nucleari negozino un trattato di non primo uso reciproco. “Se possiamo farlo, possiamo ridurre il rischio e possiamo ulteriormente migliorare la stabilità strategica,” ha detto.

      La Cina ha anche chiesto regole internazionali che governino l'uso militare dell'IA, comprese eventuali strutture legali vincolanti. Ma la sua posizione sulle armi autonome rimane ambigua. Pechino ha pubblicato un documento di posizione sulla regolamentazione dell'IA militare che non menziona la restrizione dei sistemi d'arma autonomi letali, e l'EPL sta investendo pesantemente in capacità militari abilitate dall'IA.

      Il problema della compressione

      Il filo conduttore del panel non era che l'IA sia intrinsecamente pericolosa, ma che la sua velocità crea un problema strutturale per la gestione dei conflitti. La deterrenza tradizionale presume che i decisori abbiano tempo per valutare le informazioni, consultare gli alleati e ponderare le conseguenze prima di agire. I sistemi abilitati dall'IA possono identificare obiettivi, raccomandare risposte ed eseguire operazioni più velocemente di quanto qualsiasi processo di supervisione umana possa funzionare.

      Quella compressione è più rilevante nei momenti di escalation. Se i sistemi di IA di un lato rilevano una minaccia in arrivo e raccomandano una risposta immediata, il decisore potrebbe avere secondi piuttosto che minuti o ore per valutare se la valutazione della minaccia è accurata. Gli analisti militari avvertono da anni che questa dinamica potrebbe trasformare errori di calcolo in conflitti su larga scala prima che qualcuno abbia il tempo di intervenire.

      Il Dialogo di Shangri-La non ha prodotto nuovi accordi o impegni vincolanti sull'IA militare, e gli sforzi per stabilire strutture legali per la governance dell'IA rimangono frammentati tra le giurisdizioni. Ma il fatto che un panel apparentemente dedicato alla stabilità strategica, tradizionalmente una discussione sulla postura nucleare e sulla difesa missilistica, abbia trascorso la maggior parte del suo tempo sull'intelligenza artificiale riflette un cambiamento in ciò che gli stabilimenti di difesa del mondo considerano ora la minaccia più pressante per la sicurezza internazionale. La domanda non è più se l'IA sarà utilizzata nella guerra. È se gli esseri umani manterranno abbastanza controllo su di essa per prevenire errori catastrofici.