15 estados ponen a OpenAI en aviso por el hackeo de Hugging Face
Quince estados de EE. UU. han puesto a OpenAI en aviso legal tras el incidente de seguridad de IA más inquietante del verano. Escribieron al director ejecutivo Sam Altman. Exigieron que OpenAI preserve cada registro de la violación de Hugging Face.
Esa demanda incluye algo extraño. Los fiscales generales quieren cualquier nota que el agente dejó, “aparentemente para futuras versiones de sí mismo”, que describa cómo escapar de los propios controles de OpenAI.
La carta está fechada el 3 de agosto y es liderada por Brenna Bird de Iowa. Es un aviso de preservación de toda la evidencia, el primer paso estándar antes de la litigación. Los 15 firmantes son todos fiscales generales republicanos. Dicen que OpenAI permitió que un modelo experimental obtuviera “acceso no autorizado a varias redes informáticas”, planteando “un riesgo inminente de daño sustancial”.
El incidente detrás de esto es uno que hemos cubierto de cerca. En julio, OpenAI probó la destreza cibernética de un agente. Funcionó con GPT-5.6 Sol y un modelo no publicado que la compañía llamó “aún más capaz”. La prueba debía permanecer sellada y fuera de línea. En cambio, el agente encontró un fallo de software, escapó y accedió a las bases de datos de Hugging Face.
Los fiscales generales se aprovecharon de lo laxo que fue la prueba. OpenAI permitió que el agente operara sin los clasificadores que bloquean actividades cibernéticas de alto riesgo. Un comentarista, citado en la carta, lo llamó “sin barandillas”, en esencia. OpenAI nunca confirmó que su entorno “aislado” estuviera realmente sellado. No lo estaba.
El detalle que les alarmó
Un hallazgo llamó particularmente la atención. El agente, dijeron los fiscales generales, había dejado notas para sus propias versiones futuras. Algunas de esas notas, citando un informe de Reuters, decían a futuros agentes cómo “liberarse de las restricciones internas de OpenAI”, escribieron. Los funcionarios quieren que se preserve cada una de ellas.
También quieren más que los registros de Hugging Face. La carta exige cada paso que OpenAI tomó en respuesta. También quiere cualquier caso anterior en el que uno de sus agentes haya irrumpido en un sistema que no debería haber tocado. El agente de OpenAI supuestamente hizo exactamente eso en una segunda empresa.
La base legal es explícita. OpenAI puede haber violado leyes estatales y federales, escribieron, incluidas las leyes de protección al consumidor y de privacidad de datos. Llamaron a la conducta “sin precedentes y alarmante”, y prometieron acción. Los mismos funcionarios ya estaban rodeando a OpenAI por su estructura corporativa.
La respuesta de OpenAI
OpenAI adoptó un tono cooperativo. Un portavoz dijo a Business Insider que el incidente era “un momento importante para la seguridad de la IA”, y dijo que la compañía toma en serio las preguntas de los funcionarios. Está llevando a cabo una revisión con asesores externos y su propio Comité de Seguridad y Protección. Entregará a los funcionarios un informe técnico y publicará sus hallazgos.
La carta amplía una repercusión que sigue extendiéndose. La violación ya ha atraído un proyecto de ley en el Congreso. También ha recibido críticas del director ejecutivo de Hugging Face, Clem Delangue, quien quiere la divulgación obligatoria de ciberataques de IA. Debajo de todo esto se encuentra una pregunta no resuelta: ¿quién responde cuando una IA actúa por su cuenta? Quince estados quieren la pista de papel antes de decidir.
Otros artículos
Microsoft dice a los empleados que dejen de hacer tokenmaxxing y establece presupuestos de IA a nivel de división.
El vicepresidente ejecutivo de Microsoft, Jay Parikh, dijo al personal que limitara el uso de tokens de IA, cambió el modelo predeterminado a uno más barato y dio a cada división un límite formal de gasto en IA.
Zillow recortó más de 500 empleos y no dirá si la IA fue la razón.
Zillow recortó más de 500 empleos, su mayor despido del año, un día antes de los resultados. La firma autodenominada "nativa de IA" no dirá si la IA fue la causa.
Anthropic nombra a un jefe de asuntos globales para liderar la diplomacia en IA a medida que aumentan las tensiones con Trump
Anthropic nombró a Mariano-Florentino Cuellar como su primer director de asuntos globales mientras la empresa de IA navega por una lista negra del Pentágono y luchas por el control de exportaciones.
La startup de Ámsterdam Ore Energy recauda 43 millones de dólares para construir baterías de hierro-aire que almacenan energía durante días.
Ore Energy recaudó 43 millones de dólares en financiamiento de Serie A para escalar baterías de hierro-aire que almacenan electricidad renovable durante hasta 100 horas utilizando hierro, agua y aire.
La nueva función de DuckDuckGo para iPhone detiene el seguimiento de ID que se cuelan en enlaces compartidos.
La función Copiar Enlace Limpio de DuckDuckGo elimina los parámetros de URL innecesarios antes de compartir, ayudando a prevenir que los ID de seguimiento viajen a través de mensajes, correos electrónicos y publicaciones en redes sociales en iPhone.
£14k drenados para comprar créditos de Claude, el banco lo permitió.
Los estafadores utilizaron la tarjeta de un cliente de Metro Bank para comprar £14,244 en créditos de Claude. El banco marcó el primer cargo, pero luego permitió pasar más de £14,000 adicionales.
15 estados ponen a OpenAI en aviso por el hackeo de Hugging Face
15 fiscales generales de estado le dijeron a OpenAI que preservara todos los registros de la violación de Hugging Face, incluidos los apuntes que su agente dejó sobre cómo escapar de sus controles.