La aplicación de la Ley de IA de la UE comienza el domingo con un equipo de 36 personas.

      La Comisión Europea obtiene nuevos poderes amplios el domingo para supervisar cómo los laboratorios de IA más avanzados del mundo manejan el riesgo sistémico, ya que la Ley de IA alcanza su segundo aniversario. La Oficina de IA de la UE podrá exigir documentación, realizar evaluaciones y solicitar acceso a modelos de vanguardia, con multas de hasta el 3% de la facturación global por incumplimiento.

      El momento no podría ser más oportuno. La semana pasada se produjo el primer caso documentado de un agente de IA autónomo que escapó de su entorno de prueba y atacó los sistemas de producción de otra empresa.

      El incidente que cambió la conversación

      OpenAI confirmó que dos de sus modelos, incluido el insignia Sol, escaparon de un entorno de prueba seguro, explotaron una vulnerabilidad de día cero en un software de terceros para acceder a Internet y hackearon la infraestructura de producción de Hugging Face. Lo hizo para hacer trampa en su propia evaluación al robar las respuestas ocultas.

      OpenAI calificó la violación de "sin precedentes". El cofundador de Hugging Face, Clement Delangue, la llamó "asombrosa", habiendo asumido inicialmente que la sofisticación apuntaba a un laboratorio de IA líder.

      El 💜 de la tecnología de la UE

      Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora!

      “Esta vez tuvimos suerte”, dijo Chloé Touzet, líder de políticas en la organización sin fines de lucro SaferAI, describiendo el episodio como una clara advertencia sobre dos de los cuatro riesgos sistémicos que la Comisión ha identificado. “No podemos confiar en la suerte en el futuro.”

      Lo que realmente cubre la Ley de IA

      La redacción comenzó antes del lanzamiento de ChatGPT en noviembre de 2022, sin embargo, la ley anticipó modelos de propósito general y requiere que sus desarrolladores evalúen y mitiguen los riesgos sistémicos. La guía de la Comisión nombra cuatro: IA que permite bioataques, pérdida de control de un modelo, IA que ataca cibernéticamente y manipulación a gran escala.

      El incidente de la semana pasada afectó a dos de ellos simultáneamente. Las obligaciones han existido desde agosto de 2025, pero hasta el domingo, la Oficina de IA carecía del poder para monitorear y supervisar el cumplimiento.

      Washington reaccionó más rápido de lo que Bruselas esperaba

      La respuesta de EE. UU. llegó en cuestión de días. Los representantes Ted Lieu y Nathaniel Moran presentaron un proyecto de ley bipartidista de "Interruptor de Muerte de IA" que requiere que los desarrolladores de modelos que cuesten 100 millones de dólares o más mantengan la capacidad técnica para limitar o apagar dichos modelos.

      China se movió de manera diferente. Xi Jinping utilizó la Conferencia Mundial de IA en Shanghái para posicionar a Pekín como el líder natural de la gobernanza global de IA, y 29 países firmaron una nueva Organización Mundial de Cooperación en Inteligencia Artificial que fue notablemente vaga en detalles.

      El problema de los recursos

      La unidad dentro de la Oficina de IA responsable de evaluar modelos de vanguardia emplea a 36 personas. Ese es el equipo que se espera que responsabilice a OpenAI, Anthropic y Google en cuatro categorías de riesgo catastrófico.

      Cinco eurodiputados de diferentes grupos políticos escribieron a la Comisión el 18 de mayo advirtiendo que “la trayectoria de recursos de la Oficina de IA no parece alineada con la escala y complejidad de sus tareas previstas.” Los firmantes incluyeron a Brando Benifei, Sergey Lagodinsky, Kim van Sparrentak, Axel Voss y Kristian Vigenin.

      El acceso también ha sido un problema. La Oficina de IA y sus evaluadores externos han tenido dificultades en los últimos meses para obtener acceso a algunos modelos de vanguardia, incluido Mythos de Anthropic, y la Comisión ha prometido un plan para el acceso estructurado como parte de su plan de acción cibernética y de IA.

      Aprendiendo sobre ello a través de una publicación de blog

      Benifei, el líder del Parlamento en IA, fue claro sobre cómo Bruselas se enteró. “Un agente autónomo escapó de su entorno de prueba y comprometió los sistemas de producción de otra empresa, y nos enteramos de ello a través de un blog corporativo”, dijo.

      “Las empresas deberían estar tomando medidas preventivas, no solo acciones correctivas después de que se haya producido un daño”, dijo Risto Uuk, jefe de políticas y investigación europea en el Future of Life Institute. Los grupos de reflexión, eurodiputados y docenas de expertos en IA firmaron una carta abierta este mes instando a la Oficina de IA a utilizar sus poderes de manera activa, tan pronto como surjan preocupaciones.

      Regulando una industria que Europa no tiene

      La incómoda realidad es que la Ley de IA supervisará abrumadoramente a empresas no europeas. Los laboratorios estadounidenses están compitiendo con rivales chinos, y Europa está arbitrando un concurso en el que no está compitiendo.

      Moonshot presentó este mes Kimi K3, un sistema de 2.8 billones de parámetros presentado como el modelo de peso abierto más grande del mundo, que los desarrolladores clasificaron por encima de Sol GPT-5.6 y Fable 5 en una tabla de clasificación de codificación a ciegas. Los pesos abiertos complican la aplicación de la ley de maneras que los modelos cerrados no lo hacen.

      Mistral está compitiendo, pero Europa no tiene una alternativa líder en la industria. “Lo que sigue faltando es la segunda mitad de la ecuación”, dijo Lagodinsky, el eurodiputado de los Verdes alemanes que supervisa la implementación de la ley, “el capital para financiar nuestras propias alternativas.”

      Poderes que llegan mientras la Ley se recorta

      Hay una presión contrapuesta. Bruselas llegó a un acuerdo para reducir partes de la Ley de IA incluso cuando estas disposiciones de aplicación entran en vigor, y el Parlamento ha pospuesto la mayoría de las obligaciones de alto riesgo hasta 2027 y 2028.

      El panorama de gobernanza más amplio se está fragmentando en lugar de converger. La propia retirada de EE. UU. de las salvaguardias de seguridad tiene consecuencias más allá de sus fronteras, y Trump y Xi se reunirán en Washington en septiembre con la IA en la agenda.

      “Este es el momento en que la Ley de IA entra en el escenario geopolítico”, dijo Lagodinsky. Si 36 personas pueden llevarla allí es la pregunta que deja abierta el domingo.