Anthropic quiere que los gobiernos tengan el poder de bloquear implementaciones de IA peligrosas.

      TL;DRAnthropic propuso otorgar a los gobiernos la autoridad legal para bloquear modelos de IA peligrosos, con multas vinculadas a los ingresos globales. Un segundo marco cubre las protecciones para los trabajadores.

      Anthropic ha publicado dos marcos de políticas que piden a los gobiernos tener la autoridad legal para bloquear implementaciones de IA peligrosas y para establecer salvaguardias económicas que protejan a los trabajadores a medida que la IA transforma el mercado laboral. El Marco de IA Avanzada cubre la regulación de seguridad. El Marco de Política Económica aborda el desplazamiento, la distribución de capital y la red de seguridad social.

      El marco de seguridad es el más agresivo de los dos. Anthropic quiere que los gobiernos puedan bloquear o disuadir la implementación de modelos que representen un “riesgo significativo de daño catastrófico”, con sanciones civiles vinculadas a los ingresos anuales globales que aumentan con violaciones repetidas. Se aplicaría solo a modelos entrenados utilizando más de 10²⁵ operaciones de punto flotante, desarrollados por empresas que ganan más de $500 millones en ingresos por IA o gastan más de $1 mil millones en I+D de IA.

      Ese umbral captura un pequeño número de empresas: Anthropic misma, OpenAI, Google DeepMind, xAI y potencialmente Meta. Anthropic está pidiendo una regulación que se aplique directamente a su propio negocio, una posición que ha utilizado antes para diferenciarse de los competidores que hacen lobby en contra de la supervisión.

      El marco identifica cuatro categorías de riesgo catastrófico: desarrollo de armas biológicas, descubrimiento de vulnerabilidades cibernéticas a gran escala, pérdida de control sobre sistemas autónomos y IA que automatiza su propia I+D. Anthropic señaló su propia experiencia con Mythos Preview, que descubrió miles de vulnerabilidades de alta gravedad en cada sistema operativo y navegador importante, como evidencia de que estos riesgos no son hipotéticos.

      El 💜 de la tecnología de la UE

      Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora!

      Los desarrolladores de Frontier tendrían que probar sus modelos, publicar resúmenes de los resultados, someterse a evaluaciones independientes, mantener programas de seguridad y publicar informes de riesgo regulares. Anthropic dice que la transparencia por sí sola ya no es suficiente. “Las capacidades de IA van a mejorar rápidamente en los próximos meses”, escribió la empresa. “Su gobernanza necesita mantenerse al día.”

      Sobre la preempción, Anthropic lanza un ataque directo a la presión de la Casa Blanca para bloquear las leyes estatales de IA. “No creemos que el Congreso deba preemptar la ley estatal a menos que promulgue una ley federal que sea al menos tan fuerte como el marco que estamos proponiendo hoy”, dijo la empresa. Pide que la preempción sea “quirúrgica”, permitiendo a los estados regular sobre la seguridad infantil, la protección del consumidor y otros temas fuera del alcance de una ley federal de seguridad.

      El marco económico es menos detallado pero aborda la cuestión del desplazamiento que los estudiantes graduados han estado abucheando en las ceremonias de graduación. Incluye propuestas para cuentas de capital, seguros de salario, incentivos fiscales y una red de seguridad social ampliada. El objetivo es asegurar que los beneficios financieros de la IA sean “ampliamente compartidos”, aunque los detalles sobre financiamiento e implementación se dejan para un debate futuro.

      El momento es deliberado. Anthropic está luchando contra el Pentágono en los tribunales por su inclusión en la lista negra como un riesgo de cadena de suministro. Se está preparando para una OPI. Y está observando cómo el Congreso negocia un acuerdo que intercambiaría la preempción estatal de IA por legislación de seguridad en línea. Al publicar su propio marco, Anthropic está tratando de establecer los términos de un debate regulatorio que se está moviendo rápidamente y en gran medida sin su aporte.