Hassabis quiere un árbitro al estilo de FINRA para la IA de frontera
El hombre detrás de la IA de Google piensa que el mundo necesita un árbitro. Y ha redactado las reglas. Demis Hassabis quiere un organismo de vigilancia liderado por EE. UU. que evalúe los modelos de frontera antes de su lanzamiento. Está modelado a imagen del policía de Wall Street, y podría ralentizar toda la industria.
Demis Hassabis no suele sonar la alarma. El martes lo hizo.
El jefe de Google DeepMind y premio Nobel publicó un manifiesto en X. En él, argumenta que la inteligencia general artificial está “probablemente a solo unos pocos años de distancia”. El mundo, dice, no está listo. Llama a esto una “ventana preciosa” antes de que llegue la AGI, y se está cerrando.
Su solución es inusualmente concreta. Quiere que EE. UU. construya un nuevo Organismo de Normas de IA. Su plantilla es FINRA, el organismo de vigilancia financiado por la industria que supervisa Wall Street bajo la supervisión del gobierno.
El 💜 de la tecnología de la UE Las últimas vibraciones de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Regístrate ahora! El organismo sería una asociación público-privada, financiada principalmente por los propios laboratorios. Su junta estaría compuesta por expertos independientes, entre ellos ganadores del Premio Turing, además de voces de código abierto y del gobierno.
Su trabajo es probar los modelos más poderosos antes de que se envíen. Al principio, los laboratorios entregarían sus sistemas de forma voluntaria, hasta 30 días antes del lanzamiento. Las pruebas indagarían en lo peligroso: habilidades de ciberataque, riesgos biológicos y nucleares, y signos de engaño.
Una vez que el régimen funcione, se endurecería. Un modelo de “clase frontera” tendría que pasar antes de que pudiera llegar al mercado estadounidense. El organismo establecería los estándares y los actualizaría cada trimestre. Las reglas se aplicarían a cualquier modelo de este tipo, abierto o cerrado, donde sea que se construya. Las startups y los académicos quedarían exentos.
El poder de tirar del freno de mano
La parte más sorprendente es el freno. Hassabis dice que el organismo podría ser “ajustado” a medida que crezcan los riesgos. Eso incluye “coordinar una desaceleración en el desarrollo entre los Laboratorios de Frontera si se considera necesario”.
Es algo notable que un jefe de laboratorio proponga. Está pidiendo un mecanismo para hacer que su propia industria se detenga.
Le dijo a Axios, que rompió el plan, que los riesgos cibernéticos de hoy son solo “disparos de advertencia”. Dentro de 18 meses, advirtió, podrían surgir herramientas biológicas y nucleares mucho más graves. Podrían estar dentro de modelos de código abierto que ningún gobierno puede recordar. Su cronograma es agresivo. Quiere que el organismo esté funcionando antes de fin de año. Dice que ha informado a la administración Trump, a laboratorios rivales y a funcionarios europeos durante meses. Los “ruidos”, dijo, son “muy positivos”.
Por qué ahora
El momento no es un accidente. El mes pasado, la administración Trump congeló los modelos más poderosos de Anthropic de la noche a la mañana con una orden de exportación. Semanas de negociaciones tensas siguieron, sin un libro de reglas. Hassabis llamó a eso “un poco de llamada de atención”. OpenAI, temeroso del mismo destino, retuvo GPT-5.6 hasta que el gobierno dio su aprobación.
No está solo en querer reglas. Él y Dario Amodei de Anthropic pidieron una coalición liderada por EE. UU. en el G7. Amodei quiere una agencia al estilo de la FAA que pueda bloquear modelos inseguros. Los jefes de laboratorio ahora están de acuerdo en que Washington debería regularlos. Principalmente difieren en quién sostiene el mazo.
Hassabis enmarca todo esto en términos casi cósmicos. La AGI, escribe, es menos como internet que como el fuego o la electricidad. “Esencialmente hemos encontrado una manera de hacer que la arena piense. Es milagroso.” La pregunta más difícil es aquella a la que su plan no puede responder. ¿Puede un organismo financiado por los laboratorios, y que vigila el engaño en los modelos de los que obtienen ganancias, ser alguna vez el que diga alto?
Otros artículos
Las emisiones de Microsoft aumentaron un 25% a medida que crecen los centros de datos de IA.
Las emisiones de Microsoft aumentaron aproximadamente un 25% en 2025, alcanzando 20.3 millones de toneladas, impulsadas por los centros de datos de IA, alejando aún más su compromiso de ser carbono negativo para 2030.
Uber hace lobby para forzar los robotaxis en su aplicación
El cabildeo de Uber robotaxi en DC y Nueva Jersey impulsa una regla de “red híbrida” que haría que los coches sin conductor compartan una plataforma con conductores humanos.
Las emisiones de Microsoft aumentaron un 25% a medida que crecen los centros de datos de IA.
Las emisiones de Microsoft aumentaron aproximadamente un 25% en 2025, alcanzando las 20.3 millones de toneladas, impulsadas por los centros de datos de IA, alejando aún más su compromiso de ser carbono negativo para 2030.
Dimon dice que la IA ya ha eliminado entre el 30 y el 40 por ciento de los empleos en algunas divisiones de JPMorgan.
Jamie Dimon dijo a los analistas que la IA ya ha eliminado entre el 30 y el 40 por ciento de los empleos en algunas unidades de JPMorgan, pero la presión competitiva borrará las ganancias de margen.
La IA médica reemplazó a las enfermeras y eludió sus propios controles.
Dos casos en EE. UU. muestran el lado oscuro de la IA médica: enfermeras de Montefiore reemplazadas por software y un denunciante de la Clínica Mayo que alega un herramienta con una tasa de error del 67%.
Hassabis quiere un árbitro al estilo de FINRA para la IA de frontera
Demis Hassabis quiere un organismo de estándares de IA liderado por EE. UU., modelado en el FINRA de Wall Street, para evaluar los modelos de frontera antes de su lanzamiento y para ralentizar la industria si es necesario.