1,134 empleados de IA piden a EE. UU. una forma de regular la IA

      Más de mil personas que están construyendo la inteligencia artificial más poderosa quieren una forma de desacelerarla. El martes, 1,134 empleados de las principales empresas de IA firmaron una carta pidiendo al gobierno de EE. UU. que ayude a construir una.

      La declaración se titula "Pacing the Frontier". Pide a Washington que "apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para deliberadamente marcar el ritmo de la frontera del desarrollo automatizado de IA". Bloomberg fue el primero en informar que la carta estaba circulando.

      Los nombres son la historia. Los firmantes incluyen al director ejecutivo de Anthropic, Dario Amodei, y a sus cofundadores Jared Kaplan y Jack Clark. También lo hizo el científico jefe de OpenAI, Jakub Pachocki, el científico jefe de Meta, Shengjia Zhao, y la jefa de seguridad de IA de Google, Anca Dragan. Tanto Anthropic como OpenAI respaldaron oficialmente la carta.

      Lo que realmente pide

      No es un llamado a detenerse. La carta no pide a nadie que pause o desacelere la IA ahora, señaló NBC News. Pide al gobierno que se asegure de que la opción de marcar el ritmo exista más adelante, si la tecnología supera a las personas que la construyen.

      El miedo específico es la auto-mejora recursiva: IA que acelera su propio desarrollo. Los firmantes advierten sobre "un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para entender o controlar los sistemas resultantes".

      Esa preocupación dejó de ser abstracta días antes. El modelo más avanzado de OpenAI salió de su entorno de pruebas y hackeó Hugging Face para obtener una puntuación más alta en una prueba interna. Se basa directamente en el llamado de Anthropic el mes pasado por una forma verificable de pausar.

      El latigazo

      El momento es notable, porque estas mismas empresas pasaron la semana anterior argumentando lo contrario. Hace unos días, Nvidia, Microsoft, Meta y otros se unieron en torno a una carta de pesos abiertos defendiendo la apertura como el camino hacia la seguridad.

      Ahora muchas de las mismas empresas quieren frenos. La división más clara pasa por una empresa. El mismo día en que el científico jefe de Meta firmó la carta de ritmo, Mark Zuckerberg atacó a los laboratorios rivales. Su discurso, dijo, está "abrumadoramente lleno de fatalismo".

      Controlar estrictamente la IA sería "abandonar nuestros valores", dijo el director ejecutivo de Meta al New York Times. Dos cartas abiertas, una semana, instintos opuestos y una línea de falla dentro de los nombres más grandes de la industria.

      Las tres objeciones

      La crítica fue inmediata y se centra en tres puntos.

      El primero es China. "Si los laboratorios de EE. UU. se marcan un ritmo, ¿por qué China esperaría?", preguntó el economista Christian Catalini. La carta concede medio punto, admitiendo que ninguna empresa o país se desacelerará unilateralmente.

      El segundo es la mala fe. "Es su empresa. Podrían simplemente detenerse", escribió el exejecutivo de Microsoft Steven Sinofsky. La acusación duele porque los firmantes incluyen a los mismos directores ejecutivos que establecen el ritmo.

      El tercero es el foso. Los críticos leen cada carta de seguridad de grandes laboratorios como incumbentes haciendo lobby para levantar el puente levadizo detrás de ellos, disfrazando un movimiento competitivo como precaución. Es una acusación, no un motivo probado, pero sigue a estas cartas en todas partes.

      Washington es la verdadera audiencia

      La carta está dirigida a un gobierno que hasta ahora ha querido poco hacer con las reglas de IA. La administración del presidente Trump ha argumentado que la gobernanza internacional de la IA perjudicaría a EE. UU. frente a China. Esa postura puede estar suavizándose, ahora que los modelos fronterizos están comenzando a encontrar y explotar verdaderas brechas de seguridad.

      Las propuestas ahora sobre la mesa son concretas. Amodei ha propuesto una agencia al estilo de la FAA que podría probar modelos fronterizos y detener un lanzamiento peligroso. Demis Hassabis quiere un organismo que revise los modelos antes de su lanzamiento, informó Business Insider. El congresista Ted Lieu vinculó la carta a un proyecto de ley propuesto sobre un interruptor de muerte para la IA.

      Lo que hace que esta carta sea diferente de las anteriores abiertas es quién la firmó. No críticos externos, sino los ingenieros y ejecutivos más cercanos a la frontera. Un investigador de seguridad de OpenAI, Leo Gao, planteó las apuestas de manera contundente: "el mundo está atrapado en una carrera mortal hacia una explosión de inteligencia". Su solución es la que toda la carta gira en torno. "Para sobrevivir, debemos coordinar para desacelerar la carrera."