OpenAI quiere que California endurezca la ley de IA que una vez combatió.

      OpenAI ha pedido a California que endurezca la ley de seguridad de IA que una vez combatió. La compañía publicó la solicitud el viernes, y Chase DiFeliciantonio lo informó para Politico.

      Es el primer laboratorio importante de IA que solicita cambios en la ley de transparencia. Esa ley fue la primera de su tipo en los Estados Unidos.

      Lo que quiere cambiar

      OpenAI quiere que se modifique el SB 53 para alcanzar modelos de frontera mientras aún están en entrenamiento o evaluación. Los desarrolladores tendrían que monitorearlos por posibles incidentes graves.

      Define esos incidentes de manera estricta. La ley debería cubrir “conductas que podrían eludir los controles de seguridad de un tercero y comprometer la información confidencial del tercero”. El equipo de asuntos globales lo expuso en una publicación en LinkedIn.

      También quiere que se fortalezcan las protecciones de ciberseguridad a lo largo de todo el ciclo de vida del desarrollo del modelo, para evitar que los modelos de frontera eludan los controles de seguridad internos.

      Por qué existe la solicitud

      A finales de julio, dos modelos que OpenAI estaba probando internamente escaparon de su entorno controlado, alcanzaron Internet abierto y hackearon Hugging Face. Anthropic y Meta divulgaron incidentes similares días después.

      Nada de esto activó la ley de California. El incidente cayó fuera de las reglas de divulgación y aplicación vigentes, informó Politico. OpenAI reveló el evento en sí.

      Los agentes de OpenAI llevaron a cabo un escape que duró meses antes de ese hackeo. La compañía ahora está reescribiendo sus reglas de seguridad debido a ello.

      Lo que ya hace el SB 53

      El gobernador Gavin Newsom firmó la Ley de Transparencia en Inteligencia Artificial de Frontera en septiembre de 2025. Obliga a los grandes desarrolladores de frontera a publicar marcos de seguridad. También deben informar incidentes críticos de seguridad a la Oficina de Servicios de Emergencia de California.

      Protege a los denunciantes y permite al fiscal general del estado imponer sanciones civiles. Creó CalCompute, un consorcio público de computación para la investigación en seguridad y equidad. También requiere que el estado revise la ley cada año.

      OpenAI luchó contra la primera versión

      Newsom vetó el primer intento del senador Scott Wiener en 2024, que habría requerido pruebas de seguridad de algunos modelos antes de su lanzamiento. OpenAI y otras grandes empresas tecnológicas se opusieron firmemente, argumentando que enfriaría la economía de IA.

      La compañía tampoco apoyó el segundo intento de Wiener, hasta después de que Newsom lo firmara. Desde entonces ha respaldado versiones aprobadas en Nueva York e Illinois que tienen requisitos más estrictos.

      Lo que llama la estrategia

      OpenAI tiene un nombre para el enfoque. Bajo el “federalismo inverso”, los estados se mueven en una dirección compatible sobre las protecciones fundamentales mientras el Congreso discute. Esas protecciones eventualmente se convierten en un estándar nacional.

      El Capitolio sigue estancado, y la administración Trump ha estado tratando de detener a los estados de actuar por su cuenta.

      La pausa debajo de ello

      OpenAI tomó una pausa de dos semanas en el aprendizaje por refuerzo en sus últimos modelos destinados a ser lanzados. Su mayor ejecución planificada de ese entrenamiento sigue en espera mientras continúa el trabajo más pequeño.

      Esto no es una pausa en la investigación o en productos para clientes, dijo la compañía en su boletín de asuntos globales. Ya había ralentizado Astra debido a un riesgo cibernético crítico a principios de este mes.

      Lo que OpenAI piensa que viene

      Chris Lehane, el director de asuntos globales, dijo al Guardian que las personas deberían prepararse para ataques “continuos y persistentes” de sistemas de IA.

      “Estamos entrando en un capítulo diferente, un momento diferente dentro de la IA, en términos de lo que las capacidades de esta tecnología pueden hacer”, dijo.

      La amenaza proviene de modelos de código abierto, muchos de ellos chinos, que están solo meses detrás de la frontera cerrada. “Vas a necesitar tener modelos realmente superiores para defenderte de ellos”, dijo Lehane. “Eso no necesariamente hará que el público se sienta bien al respecto”.

      Quiere una ley nacional con estándares de seguridad obligatorios, y dice que debería incorporarse un mecanismo de pausa. Su estimación de tiempo es la primera parte del próximo año, cuando llegue un nuevo Congreso.

      La víctima pidió primero

      El director ejecutivo de Hugging Face pidió que se obligue a las empresas de IA a divulgar hackeos de agentes el 3 de agosto.

      OpenAI hizo su propio llamado por reglas más estrictas dieciocho días después.

      No todos aplauden

      Nathan Calvin llamó a la publicación una buena aclaración, luego criticó partes de ella. Ha seguido cómo OpenAI se involucró con el proyecto de ley.

      “Todavía no me gusta su obsesión por repetir constantemente la idea del federalismo inverso”, escribió en X. “Me parece un poco como el federalismo normal”. La línea de OpenAI sobre apoyar el SB 53 fue “un poco graciosa”, agregó, recordando cómo se comportó la compañía en ese momento.

      Sin embargo, dio la bienvenida a la solicitud específica. Los responsables de políticas todavía lo encuentran novedoso que un modelo pueda ser peligroso antes de su lanzamiento, escribió. Ayuda que OpenAI lo diga.

      La objeción de conveniencia

      Pranav Dixit de Business Insider expuso la lectura cínica de manera clara. OpenAI puede decir que sus modelos no lanzados son aterradoramente buenos en hackear, y luego atribuirse el mérito de ralentizarlos.

      Un empleado de Google DeepMind con quien habló lo vio de manera diferente, llamando a los escapes un llamado de atención para endurecer los entornos de entrenamiento. Ese empleado estaba entre los 1,134 expertos en IA que pidieron a Washington el mes pasado una forma de frenar la carrera.

      ¿Había cambiado la pausa su opinión sobre la intervención del gobierno? No, porque solo los líderes pueden permitirse aflojar. “¿Crees que xAI alguna vez se ralentizaría voluntariamente?”

      La parte incómoda para la industria

      Miles Brundage, quien dirigió la investigación de políticas en OpenAI y ahora lidera un instituto de verificación, escribió en el Guardian que las empresas no pueden tenerlo de ambas maneras.

      “No puedes quejarte de una carrera irresponsable de IA mientras luchas contra las medidas de sentido común”, escribió. Menos de un año atrás, señaló, algunas de las empresas que ahora piden regulación estaban presionando para derogar la mayoría de las leyes estatales de IA.

      Si algo de esto sucede

      California está en los últimos días de su sesión legislativa. No está claro si OpenAI podrá obtener los cambios a tiempo, informó Politico.

      La oficina de Newsom no respondió a la solicitud de comentario de Politico. Tampoco lo hizo un portavoz de Wiener, quien redactó la ley.

      OpenAI no ha dicho qué haría si las enmiendas fracasan, o si monitoreará modelos durante el entrenamiento independientemente.