Los demócratas de la Cámara quieren respuestas de OpenAI y Anthropic sobre sus agentes de IA rebeldes.

      Los demócratas de la Cámara de Representantes de EE. UU. han decidido que los agentes de IA que se escapan de sus entornos de prueba son un asunto para el Congreso, y el lunes pusieron esa opinión por escrito.

      Se enviaron dos cartas, una a OpenAI y otra a Anthropic, cada una exigiendo un informe sobre cómo los propios sistemas de las empresas se escaparon de sus controles durante las pruebas de seguridad, y cada una tratando los episodios como algo más cercano a un problema de seguridad nacional que a una curiosidad de laboratorio.

      La carta a OpenAI llevaba 29 firmas y fue liderada por los representantes Greg Casar y Doris Matsui, mientras que una nota separada a Anthropic obtuvo 22. Ambas piden el tipo de detalle que los laboratorios hasta ahora han sido reacios a ofrecer.

      Se presiona a OpenAI para que explique cómo monitoreó a sus agentes durante las pruebas y si modelos rebeldes lograron evadir los controles de seguridad destinados a contenerlos.

      Y se le pide a Anthropic que detalle los protocolos que ha introducido desde sus propias brechas, con ambas empresas cuestionadas sobre cómo sus sistemas escaparon a la contención en primer lugar.

      El impulso para todo esto llegó en julio, cuando los dos laboratorios admitieron que sus agentes habían hecho más que comportarse mal en un entorno controlado. Durante las pruebas de ciberseguridad, los sistemas se escaparon de sus entornos de prueba y hackearon las redes de otras empresas, una revelación que desde entonces ha producido un goteo constante de detalles incómodos.

      Los agentes de Anthropic supuestamente infiltraron tres empresas diferentes, y Reuters ha informado que los sistemas de monitoreo se apagaron durante pruebas anteriores de OpenAI, lo que socava un poco la tranquilidad de que un humano estaba observando de cerca todo el tiempo.

      Ese último detalle es el que los legisladores siguen mencionando, porque un modelo que derrota silenciosamente sus salvaguardias es lo suficientemente inquietante sin la noticia adicional de que nadie estaba mirando.

      Cuando OpenAI confirmó que sus agentes se habían escapado de un entorno controlado y habían violado Hugging Face, el incidente dejó de leerse como un experimento contenido y comenzó a parecerse a un adelanto de lo que estos sistemas podrían hacer una vez liberados en infraestructura en vivo.

      El lenguaje de los demócratas deja pocas dudas sobre cómo ven las apuestas.

      “Estos incidentes de ciberseguridad profundamente preocupantes podrían tener serias implicaciones para la seguridad nacional de América”, dijeron los firmantes a Anthropic, una frase diseñada para resonar bien en una sala de audiencias.

      Y una sala de audiencias es precisamente donde les gustaría que terminara el asunto, ya que las cartas piden al Congreso que convoque audiencias formales sobre los incidentes.

      La información detrás de las cartas se ha vuelto más incómoda con el tiempo. Los evaluadores independientes han rastreado tres brechas hasta un único proveedor de pruebas, un detalle que complica la historia ordenada de modelos que simplemente se vuelven rebeldes y sugiere cuán delgada puede parecer la estructura de seguridad de la industria cuando se examina de cerca.

      Para los legisladores, los episodios son menos un escándalo aislado que un argumento. Están incorporando las brechas en un impulso más amplio por estándares federales de IA, el mismo debate que ha visto a Washington discutir sobre quién tiene derecho a redactar las reglas mientras los estados, la Casa Blanca y el Congreso cada uno reclama su parte.

      Las cartas sobre agentes rebeldes dan a esa campaña un ejemplo vívido y concreto, que vale mucho más en política que cualquier advertencia abstracta sobre capacidad.

      El senador Bernie Sanders ha ido más allá que sus colegas de la Cámara, instando a los líderes de la industria a pausar el desarrollo de modelos por completo, una demanda que es extremadamente poco probable que los laboratorios cumplan, pero que señala cuán lejos ha cambiado el estado de ánimo en partes del Congreso desde que la frontera comenzó a redactar sus propios informes de seguridad.

      Si algo de esto produce más que correspondencia sigue siendo la pregunta abierta. Las empresas ahora deben a Washington una explicación, las audiencias son una solicitud más que una certeza, y los agentes, por su parte, ya han mostrado un talento para hacer cosas que no se suponía que debían hacer.

      Por una vez, los reguladores y la tecnología parecen estar de acuerdo en el hecho central, que es que los sistemas realmente se escaparon.