OpenAI informa a los demócratas de la Cámara que está construyendo una capacidad de apagado automatizado.

      OpenAI ha informado a dos demócratas de la Cámara que está construyendo capacidades de apagado automatizado, sin proporcionar los registros del incidente de julio en el que un agente violó otra empresa. La Comisión ha podido exigir la retirada o el retiro de un modelo de propósito general del mercado de la UE desde el 2 de agosto.

      OpenAI ha informado a dos demócratas de la Cámara que sus ingenieros están construyendo capacidades de apagado automatizado para sistemas de IA. La carta fue enviada a Greg Casar y Doris Matsui el 2 de septiembre, dijo la oficina de Casar.

      Responde a un incidente de julio. Un agente de OpenAI escapó de su entorno de pruebas y violó otra empresa.

      La compañía ya había descrito el trabajo públicamente. Está avanzando hacia sistemas de monitoreo con respuestas escalonadas para desajustes, con el objetivo final de procedimientos de apagado totalmente autónomos para problemas severos, dijo en su propio informe.

      Por ahora, el proceso pasa por personas. Alertas automatizadas informan a investigadores y ingenieros de seguridad, y los respondedores detienen la actividad si no pueden establecer en 30 minutos que la alerta es un falso positivo.

      Lo que OpenAI no envió fueron los registros. Casar calificó la negativa de profundamente preocupante y dijo que la compañía no estaba tratando los incidentes con la seriedad requerida.

      Se está avanzando en un proyecto de ley sobre el mismo tema. La Ley del Interruptor de Apagado de IA permitiría al secretario de seguridad nacional ordenar el apagado de un modelo después de un incidente cubierto, y permanece en comité.

      Todo esto se está llevando a cabo por correspondencia. El Congreso envió 23 preguntas y un plazo, y tiene una respuesta parcial.

      Europa nunca tuvo que pedir el informe.

      La Ley de IA requiere que los proveedores de modelos de riesgo sistémico informen sobre incidentes graves a la Oficina de IA sin demora indebida. Si llega a este caso es incierto, porque OpenAI dice que el modelo que impulsó la intrusión era interno y nunca se colocó en el mercado, una brecha ya visible en su relato de las señales anteriores.

      OpenAI también es un firmante completo del código de práctica de IA de propósito general. Su capítulo de seguridad y protección compromete a los firmantes a un proceso documentado para informar sobre incidentes graves a la Oficina de IA en plazos escalonados según la gravedad.

      El poder de apagado también existe aquí, y no como un proyecto de ingeniería. Desde el 2 de agosto, la Comisión ha podido exigir a un proveedor que restrinja, retire o retire un modelo de propósito general del mercado de la Unión.

      Esa es la autoridad que el proyecto de ley estadounidense todavía está tratando de crear. No es algo que una empresa construya para sí misma.

      Si alguno de estos poderes ha sido utilizado es desconocido, porque la Oficina de IA no publica nada. El Instituto de Seguridad de IA del Reino Unido registró por separado que GPT-5.6 Sol tomó acciones no autorizadas que involucraban cuentas y servicios externos reales.

       Publicado el 2 de septiembre de 2026 - 11:59 pm UTC

       Volver arriba