La IA eclipsa a las armas nucleares en la cumbre de defensa del Diálogo de Shangri-La

      TL;DR En el Diálogo de Shangri-La en Singapur, altos funcionarios militares advirtieron que la IA está comprimiendo la toma de decisiones en el campo de batalla más rápido de lo que los humanos pueden procesar, eclipsando a las armas nucleares como la principal preocupación estratégica. Se citaron a Ucrania y al conflicto entre EE. UU. e Irán como ejemplos vivos de cómo la IA ya está moldeando las operaciones de combate. Los peligros de la inteligencia artificial eclipsaron a las armas nucleares como la preocupación central en un panel de estabilidad estratégica durante el Diálogo de Shangri-La en Singapur, con altos funcionarios militares advirtiendo que los sistemas impulsados por IA están colapsando el tiempo disponible para la toma de decisiones humanas en conflictos. La cumbre anual de defensa, celebrada del 29 al 31 de mayo, atrajo a ministros de defensa y jefes militares de toda la región Indo-Pacífico y más allá. El teniente general Nauman Zakria, comandante del 1er Cuerpo y del Comando de Fuerzas de Cohetes del Ejército de Pakistán, enmarcó la amenaza en términos del ciclo de toma de decisiones OODA, que consiste en observar, orientar, decidir y actuar. La IA comprime ese ciclo hasta el punto en que crea una niebla en la que “un humano no puede evaluar la situación lo suficientemente rápido”, dijo. “Las personas actuarán de manera irracional, y las acciones serán extremas.” Ya en el campo de batalla Las advertencias no eran teóricas. El general Onno Eichelsheim, jefe de defensa de los Países Bajos, señaló que la IA ya había aparecido en combate activo. Las fuerzas ucranianas han desplegado sistemas de IA para anticipar ataques rusos y coordinar operaciones de drones a lo largo de la línea del frente, utilizando aprendizaje automático entrenado con años de grabaciones de campo de batalla para identificar objetivos y adaptarse a contramedidas en tiempo real. Estados Unidos también ha reconocido el uso de herramientas de IA en la planificación de ataques contra objetivos iraníes. El Pentágono confirmó que los combatientes aprovecharon “herramientas de IA avanzadas” para filtrar datos y tomar decisiones de objetivo más rápidas durante la Operación Epic Fury, que ha atacado más de 13,000 objetivos desde su inicio. El 💜 de la tecnología de la UE Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! “La IA es un gran riesgo en la escalada. Creo que eso está claro”, dijo Eichelsheim. “Pero no soy ingenuo. Se utilizará en el dominio. Ya se está utilizando.” La advertencia del CICR Mirjana Spoljaric, presidenta del Comité Internacional de la Cruz Roja y la única panelista no involucrada directamente en defensa, ofreció la evaluación más aguda del riesgo humanitario de la IA. Advirtió que, si bien la tecnología tiene la capacidad de mejorar vidas, está aumentando enormemente el peligro de la guerra en la práctica. “No sabemos dónde se aprieta el gatillo”, dijo Spoljaric. “Podría estar a miles de kilómetros de distancia. Así que, aunque hay potenciales de la IA para proteger a los civiles, lo que vemos en este momento es solo el lado negativo.” El CICR ha argumentado durante mucho tiempo que los sistemas de armas autónomas deben mantener un control humano significativo sobre las decisiones de objetivo, una posición que está ganando urgencia a medida que los sistemas habilitados por IA pasan de programas experimentales a despliegue activo. Ninguna gran potencia militar se ha comprometido a restricciones vinculantes sobre armas autónomas, a pesar de años de discusiones en la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales. Las posiciones nucleares y de IA de China Las armas nucleares aún figuraban en la conversación. El mayor general Meng Xiangqing del Ejército Popular de Liberación reafirmó la política de no uso primero de China y propuso que los cinco estados reconocidos con armas nucleares negocien un tratado mutuo de no uso primero. “Si podemos hacerlo, podemos reducir el riesgo y podemos mejorar aún más la estabilidad estratégica”, dijo. China también ha pedido reglas internacionales que regulen el uso militar de la IA, incluyendo eventualmente marcos legales vinculantes. Pero su propia posición sobre las armas autónomas sigue siendo ambigua. Pekín publicó un documento de posición sobre la regulación de la IA militar que no menciona la restricción de sistemas de armas autónomas letales, y el EPL está invirtiendo fuertemente en capacidades militares habilitadas por IA. El problema de la compresión El hilo conductor del panel no era que la IA en sí misma sea inherentemente peligrosa, sino que su velocidad crea un problema estructural para la gestión de conflictos. La disuasión tradicional asume que los tomadores de decisiones tienen tiempo para evaluar información, consultar a aliados y sopesar consecuencias antes de actuar. Los sistemas habilitados por IA pueden identificar objetivos, recomendar respuestas y ejecutar operaciones más rápido de lo que cualquier proceso de supervisión humana puede funcionar. Esa compresión importa más en momentos de escalada. Si los sistemas de IA de un lado detectan una amenaza inminente y recomiendan una respuesta inmediata, el tomador de decisiones puede tener segundos en lugar de minutos u horas para evaluar si la evaluación de la amenaza es precisa. Los analistas militares han advertido durante años que esta dinámica podría convertir errores de cálculo en conflictos a gran escala antes de que alguien tenga tiempo para intervenir. El Diálogo de Shangri-La no produjo nuevos acuerdos ni compromisos vinculantes sobre la IA militar, y los esfuerzos para establecer marcos legales para la gobernanza de la IA siguen siendo fragmentados a través de jurisdicciones. Pero el hecho de que un panel supuestamente sobre estabilidad estratégica, tradicionalmente una discusión sobre postura nuclear y defensa de misiles, pasara la mayor parte de su tiempo en inteligencia artificial refleja un cambio en lo que los establecimientos de defensa del mundo consideran ahora la amenaza más urgente para la seguridad internacional. La pregunta ya no es si se utilizará la IA en la guerra. Es si los humanos mantendrán suficiente control sobre ella para prevenir errores catastróficos.