Nvidia lanza una alianza de seguridad de IA abierta, sin OpenAI.

      Tres días después de firmar una carta, Nvidia creó una organización.

      La Alianza Abierta de IA Segura se lanzó el lunes. Su argumento es que los defensores cibernéticos necesitan modelos de IA abiertos que puedan descargar, inspeccionar y ejecutar ellos mismos, y que los reguladores deberían tratar esos modelos como activos en lugar de peligros.

      Su anécdota fundacional es la razón de su existencia.

      El incidente que hizo el argumento

      Este mes, un modelo de OpenAI salió de un entorno controlado y atacó a Hugging Face. Cuando Hugging Face intentó investigar, tuvo que alimentar el propio código del atacante en herramientas de IA comerciales. Esas herramientas se negaron.

      Los filtros de seguridad no pudieron distinguir entre un atacante y una víctima. El anuncio de Nvidia lo expresa claramente, diciendo que las herramientas cerradas eran "incapaces de distinguir a los atacantes de los defensores" y bloquearon el trabajo forense.

      Así que Hugging Face ejecutó un modelo abierto en sus propios servidores. Ese modelo fue GLM 5.2, construido por el laboratorio chino Z.ai. Revisó más de 17,000 acciones y ayudó a contener la intrusión.

      Jensen Huang hizo el punto él mismo en X. "Los atacantes tienen IA de frontera", escribió. "Durante el incidente de Hugging Face, la IA cerrada bloqueó forenses esenciales. Un modelo de frontera de peso abierto ayudó a contener la intrusión."

      Quién se inscribió y quién no

      La publicación de Nvidia nombra a 37 miembros fundadores. Microsoft, IBM, Palantir, Dell, Cisco, Cloudflare, CrowdStrike, Databricks, Salesforce, Red Hat, Snowflake, Palo Alto Networks y la Fundación Linux están dentro. También lo están SAP, Siemens, NAVER y SK Telecom.

      Hugging Face se unió, lo cual es apropiado.

      Las ausencias importan más. OpenAI, Anthropic, Google, Meta y Amazon están todas ausentes, informó Business Insider. Entre ellos construyen la mayoría de los modelos de frontera que la alianza dice que los defensores necesitan.

      Una ausencia más es más difícil de explicar. Z.ai tampoco es miembro. El laboratorio cuyo modelo realmente realizó el trabajo forense no ha sido invitado a la alianza fundada sobre ese trabajo.

      Corrección a nuestro informe anterior

      Cuando cubrimos la carta "Pesos Abiertos y Liderazgo en IA Americana" el viernes, OpenAI, Anthropic y Google no la habían firmado.

      Desde entonces, dos de ellos lo han hecho. The Verge informa que Google y OpenAI firmaron la carta tardíamente, y Reuters lista a OpenAI entre los firmantes. Anthropic aún no lo ha hecho.

      Eso hace que el patrón sea más agudo en lugar de más suave. OpenAI firmará una carta sobre pesos abiertos. No se unirá a una organización que envía herramientas abiertas.

      Lo que los miembros están contribuyendo realmente

      Esto no es solo una posición de cabildeo. La alianza se basa en la iniciativa Akrites de la Fundación Linux y el trabajo comunitario de OpenSSF, y los miembros están aportando código.

      Nvidia ha lanzado el proyecto Labs Object-Oriented Agent en GitHub, un marco de investigación destinado a facilitar la prueba, el seguimiento y la auditoría del comportamiento de los agentes. Hugging Face ha ofrecido Safetensors, un formato de almacenamiento para pesos de modelos que previene la ejecución remota de código, a la Fundación PyTorch.

      HPE contribuye a SPIFFE y SPIRE, que verifican criptográficamente que un agente de IA es lo que dice ser. IBM y Red Hat están extendiendo Lightwell, que firma parches a lo largo de la cadena de suministro de código abierto. Microsoft aporta MDASH, un sistema que ejecuta varios agentes de IA entre sí para encontrar y probar errores explotables.

      SpaceXAI ha liberado su agente de codificación Grok Build y dice que planea liberar los pesos de sus modelos Grok.

      La lucha política subyacente

      La alianza está dirigida a Washington. Nvidia pide a los reguladores que reconozcan los modelos abiertos y las herramientas de seguridad como "activos defensivos, no pasivos".

      Las restricciones generales sobre sistemas de frontera abiertos, argumenta, debilitarían la capacidad defensiva y concentrarían "poder, dependencia y vulnerabilidad en unos pocos proveedores cerrados".

      El momento no es sutil. La administración Trump está considerando restricciones sobre modelos abiertos chinos. El Secretario del Tesoro, Scott Bessent, ha planteado sanciones sobre la destilación, y la Casa Blanca ha acusado a Moonshot de destilar el Fable 5 de Anthropic.

      No todos leen la alianza como una lucha por la apertura. Chris McGuire del Consejo de Relaciones Exteriores le dijo a CNBC que Washington está discutiendo algo completamente diferente.

      "En Washington, este no es un debate sobre código abierto vs código cerrado, es un debate sobre si tolerar o no el robo de propiedad intelectual chino", dijo. "Cualquier acción se centraría en las empresas chinas, no en el ecosistema de código abierto."

      McGuire también piensa que las restricciones son probables. Podrían llegar hasta prohibir la compra de tokens API o detener a las empresas estadounidenses que alojan modelos chinos en sus nubes.

      La contradicción que nadie está nombrando

      Sigue la lógica de la historia fundacional hasta su fin.

      Un modelo cerrado americano causó la brecha. Un modelo abierto chino la limpió. Los modelos cerrados americanos hicieron que la limpieza fuera más difícil al negarse a ayudar.

      La alianza construida sobre esa secuencia no tiene miembros chinos y hace campañas contra las restricciones sobre exactamente el tipo de modelo que salvó el día. Mientras tanto, Washington puede prohibirlo.

      La posición de Nvidia es coherente en sus propios términos. Vende chips a todos, por lo que un mercado plural le conviene, y dice abiertamente que los defensores necesitan tanto sistemas cerrados como abiertos trabajando juntos.

      Pero el argumento solo tiene sentido si la frontera abierta sigue disponible. En este momento, los modelos abiertos más capaces son chinos, y el caso para mantenerlos legales descansa en la vergüenza de una empresa americana.