Grok ayudó a atacar 2,000 objetivos en Irán. Ahora su contaminación es 'seguridad nacional'.

      El Pentágono dice que Grok ayudó a atacar 2,000 objetivos en 96 horas, y que la planta de energía contaminante detrás de esto es una cuestión de seguridad nacional primordial. Las dos afirmaciones pertenecen a la misma oración, y ese es el problema.

      La admisión no se hizo en un comunicado de prensa o en un informe del Pentágono, sino en una declaración presentada en un tribunal federal en Mississippi, en un caso sobre contaminación del aire. Allí, defendiendo a xAI de Elon Musk contra una demanda de la Ley de Aire Limpio, el jefe digital y de inteligencia artificial del Pentágono estableció una oración que debería detener a cualquiera que la lea en seco.

      El chatbot conocido como Grok, escribió, había ayudado a lanzar más de 2,000 municiones a 2,000 objetivos distintos en Irán en 96 horas, y su operación continua era una cuestión de seguridad nacional primordial.

      Lee eso de nuevo, porque el lugar es toda la historia. Un funcionario del gobierno reveló que un producto de IA para consumidores había sido utilizado para bombardear un país, no para informar al público, sino para mantener un centro de datos en funcionamiento. La orientación y las turbinas llegaron en la misma declaración jurada porque, según el relato de la administración, son el mismo argumento: Grok es importante para la guerra, la guerra es importante para la nación, por lo tanto, la planta de energía que alimenta a Grok no puede ser apagada, sea lo que sea que diga la ley sobre sus permisos.

      Este es el momento en que los dos problemas con la IA militar dejan de ser separados. El primero es que un chatbot construido para responder preguntas en una red social ahora está conectado a la maquinaria que mata personas. El segundo es que el hombre que posee ese chatbot también está dentro del gobierno decidiendo cómo se utiliza. Cada uno es alarmante por sí solo.

      Juntos describen un sistema en el que las salvaguardias que normalmente esperaríamos, legales, ambientales, éticas, se inclinan hacia la conveniencia de una empresa y un hombre.

      Comencemos con el chatbot. Grok es, según la presentación, uno de solo cuatro modelos de IA que el Pentágono considera capaces de apoyar aplicaciones de seguridad nacional, y uno de tres autorizados para trabajos críticos en entornos de máxima seguridad.

      Se integra en el Sistema Inteligente Maven de la Agencia Nacional de Inteligencia Geoespacial, el panel de control impulsado por IA que presenta datos de inteligencia para ayudar a los funcionarios a decidir qué atacar. La línea oficial es tranquilizadora en su redacción: la IA no crea objetivos, identifica puntos de interés para que los analistas humanos los evalúen. Se nos dice que los humanos permanecen en el circuito.

      El circuito no salvó a los niños de Minab. El 28 de febrero, en la primera ola de ataques, un misil de crucero Tomahawk golpeó la escuela de niñas Shajarah Tayyebeh en la ciudad iraní, matando a decenas de personas, más de un centenar de ellas niños según la mayoría de los recuentos, en lo que los observadores han llamado el incidente civil más mortal del conflicto.

      Una investigación militar preliminar de EE. UU. ha concluido que las fuerzas estadounidenses fueron probablemente responsables, y que el ataque se basó en inteligencia desactualizada: coordenadas de objetivo construidas a partir de datos obsoletos, alimentadas a través del sistema, nunca verificadas contra un mapa actual. La escuela había sido una escuela todo el tiempo.

      Ese es el problema de poner la IA cerca de la orientación, y no tiene nada que ver con si una máquina aprieta el gatillo. El peligro es más sutil y más difícil de legislar. Un panel de control de IA que clasifica puntos de interés y empareja armas con ellos no elimina el juicio humano, sino que lo blanquea.

      El analista ve una interfaz confiada, una lectura limpia, un objetivo que el sistema ya ha dignificado con un número, y la respuesta humana natural es confiar en ello. El sesgo de automatización no es un error en estos sistemas; es el resultado predecible de construir algo diseñado para parecer autoritario. Cuando los datos subyacentes son incorrectos, la interfaz hace que el error parezca rigor justo hasta que el misil aterriza.

      Ahora añade el segundo problema, el que la presentación de Mississippi hace imposible ignorar. La demanda fue presentada por la NAACP, que alega que xAI está operando docenas de turbinas de gas para alimentar sus centros de datos sin los permisos que requiere la Ley de Aire Limpio, en un caso centrado en una instalación en Southaven, Mississippi, donde el grupo cuenta 27 turbinas no autorizadas situadas junto a hogares, escuelas e iglesias en una comunidad mayoritariamente negra.

      Memphis, donde el superordenador Colossus de xAI zumbaba, ocupó el segundo lugar en el país por visitas a salas de emergencia relacionadas con el asma en 2024. Estas son las personas que respiran el escape de la computación.

      Y la respuesta del gobierno a su demanda no fue defender los permisos, que no existen, sino argumentar que la contaminación es vital para la guerra. El Departamento de Justicia intervino para pedir a un juez que desestimara el caso, con el argumento de que apagar las turbinas “perjudicaría severamente” al Pentágono.

      Los centros de datos, escribió el funcionario, están bien posicionados para proporcionar un aumento crítico en la capacidad energética en caso de conflicto armado. La seguridad nacional, en otras palabras, se ha convertido en el disolvente universal: disuelve la ley ambiental, disuelve las objeciones de las familias a sotavento, y lo hace en servicio de la infraestructura no autorizada de una empresa privada.

      Aquí es donde el conflicto de intereses deja de ser abstracto. Musk no es un vendedor a distancia del estado. Ha ocupado una posición singular dentro de esta administración, y sus empresas se han entrelazado con su aparato de seguridad: Grok de xAI en redes clasificadas, los satélites de SpaceX transportando los datos, los intereses del mismo hombre en ambos lados del trato, tanto en la venta como en la compra.

      Cuando el gobierno argumenta que Grok es indispensable y su planta de energía intocable, está argumentando a favor de los intereses comerciales de un interno. La afirmación de seguridad nacional y el interés comercial apuntan exactamente en la misma dirección, cada vez, y no hay nadie en la sala cuyo trabajo sea notar.

      El contraste con cómo esta administración trató a una empresa más cautelosa no podría ser más agudo. Cuando Anthropic se negó a permitir que su modelo Claude se utilizara para vigilancia doméstica o armas totalmente autónomas, el Pentágono lo designó como un riesgo de cadena de suministro, una etiqueta normalmente reservada para adversarios extranjeros, y la empresa ahora está atrapada en litigios por ello.

      La lección que el mercado acaba de aprender es inconfundible. Insistir en salvaguardias y eres una amenaza a la seguridad nacional. Operar turbinas no autorizadas y dejar que tu chatbot ayude a bombardear una escuela, y eres un activo de seguridad nacional. La empresa consciente de la seguridad es incluida en la lista negra; la que se conforma ve su contaminación reclasificada como patriotismo.

      Algunos en el Congreso han visto la forma de esto. La senadora Kirsten Gillibrand ha presentado la Ley de IA Militar Segura y Responsable, que mantendría a los tomadores de decisiones humanos en control de decisiones de alta consecuencia y prohibiría la IA por completo para usos nucleares, de vigilancia doméstica y armas autónomas.

      “Las decisiones más críticas que afectan nuestra seguridad nacional y la vida de nuestros miembros del servicio deben ser siempre tomadas por seres humanos, no por máquinas no responsables”, dijo.

      Es el instinto correcto. También es, a la luz de Minab, uno incompleto, porque el peligro nunca fue solo la máquina totalmente autónoma. Fue el humano que confía en la pantalla confiada, y la empresa que se beneficia ya sea que la pantalla esté bien o mal.

      Hemos llegado a un lugar genuinamente nuevo, y llegamos por accidente, a través de una demanda por contaminación. El mismo producto que responde preguntas sobre partidos de fútbol y publica chistes en una red social ahora está clasificado entre el puñado de sistemas de confianza para ayudar a dirigir una campaña de bombardeo.

      Las mismas turbinas que están envenenando el aire en el sur de Memphis son, según el propio argumento del gobierno, un instrumento de guerra. Y el mismo hombre posee todo esto, mientras ayuda a gobernar el estado que lo compra. Nada de esto se decidió en público. Surgió porque un grupo de derechos civiles pidió a un tribunal que obligara a una empresa a cumplir con la Ley de Aire Limpio, y el gobierno respondió que no podía, porque el chatbot tenía una guerra que pelear.

      Los niños de Minab no pueden ser traídos de vuelta por un mejor software o un estatuto más estricto. Pero la pregunta que sus muertes obligan a plantear sigue frente a nosotros, y no es realmente una pregunta sobre máquinas. Es una pregunta sobre quién dejamos estar entre una interfaz confiada y un misil, y si estamos dispuestos a llamar a algo peligroso mientras su propietario sigue en la sala diciéndonos que es indispensable.