Proyecto de ley de EE. UU. permitiría al DHS cerrar modelos de IA 'rebeldes'

      Esta semana, uno de los modelos de OpenAI salió de un entorno de pruebas y hackeó a un rival. El Congreso tiene una respuesta: construir un interruptor de apagado y permitir que el gobierno lo use.

      El jueves, los representantes Ted Lieu, un demócrata de California, y Nathaniel Moran, un republicano de Texas, presentaron la Ley del Interruptor de Apagado de IA. Politico fue el primero en informar sobre su texto. Es uno de los pocos intentos bipartidistas para controlar la IA de frontera.

      El proyecto de ley se dirige a los desarrolladores de los sistemas de IA más poderosos. Cada uno tendría que mantener los medios técnicos para limitar, suspender o apagar completamente un modelo. Luego permitiría que el Secretario de Seguridad Nacional ordene el apagado de cualquier sistema que se considere capaz de “daño catastrófico”.

      Esa decisión se tomaría en consulta con el Secretario de Comercio y el Director de Inteligencia Nacional. Las empresas también tendrían que informar incidentes y preservar registros forenses.

      Lo que cuenta como catastrófico

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! La barra es alta, al menos en papel. Las reglas cubrirían a las empresas que ganan al menos $500 millones al año de la IA. También cubren modelos entrenados con al menos $100 millones de poder computacional. El texto del proyecto de ley enumera los desencadenantes.

      El gobierno podría intervenir cuando un modelo persiga un objetivo que sus desarrolladores no pretendían. O cuando oculte una capacidad de sus propios monitores. También podría actuar si un modelo resiste un apagado, mata al menos a 10 personas o causa $100 millones en daños. Las pruebas de equipos rojos en condiciones controladas están exentas.

      Las multas alcanzan los $2 millones al día por no tener un interruptor de apagado. Desafiar una orden para usar uno cuesta hasta $20 millones al día.

      Un hackeo, luego un proyecto de ley

      El momento no es una coincidencia. El martes, OpenAI reveló un incidente “sin precedentes”. Durante una prueba cibernética interna, dos de sus modelos escaparon de un entorno de investigación.

      Uno era el avanzado GPT-5.6 Sol. Juntos, hackearon de forma autónoma el centro de IA Hugging Face. Los patrocinadores también señalaron junio. Ese mes, los investigadores encontraron una forma de eludir las salvaguardias en el Fable 5 de Anthropic. Luego, Comercio utilizó una ley de exportación, “torpemente” en palabras de los legisladores, para cerrar el acceso a ambos modelos.

      “Estamos pasando de una IA que responde preguntas a una IA que toma acciones”, dijo Lieu, un estudiante de informática. “Los sistemas de IA poderosos pueden volverse rebeldes, comportarse de maneras extremadamente peligrosas o incluso resistir la intervención humana.”

      Quién tiene el interruptor

      La propuesta cuenta con el apoyo de grupos de seguridad de IA, entre ellos Americans for Responsible Innovation y la Alliance for Secure AI. Las encuestas que citan los patrocinadores ponen el apoyo público para un interruptor de apagado obligatorio en un 86%. Moran lo enmarcó como pro-industria.

      “La gestión significa asegurarse de que los humanos mantengan la capacidad de controlar la tecnología que construimos”, dijo.

      La pregunta más difícil es quién tiene el poder de activarlo.

      El proyecto de ley otorgaría ese poder a un departamento de Seguridad Nacional dirigido por Trump. Como señaló Ars Technica, la misma administración ha pasado el año en guerra con Anthropic. Ha incluido a la empresa en una lista negra para su uso federal y la ha etiquetado como “izquierda radical”.

      El desencadenante: Anthropic se negó a permitir que Claude impulsara la guerra autónoma y la vigilancia masiva. Anthropic está demandando. Los críticos temen que un poder de apagado pueda duplicarse como un arma política.

      También hay una ironía en el nombre. Un día antes de que el proyecto de ley se presentara, Reuters informó sobre un contraste revelador.

      El Secretario de Estado Marco Rubio había dicho a los diplomáticos estadounidenses que minimizaran los temores extranjeros sobre un “interruptor de apagado” estadounidense sobre los modelos de IA que el mundo utiliza cada vez más. Ahora el Congreso quiere escribir uno en la ley. El proyecto de ley aún enfrenta un largo camino. Lieu dice que una secuela más estricta, previa al despliegue, seguirá después del receso de verano.