Claude Fable 5 restricciones: dirigidas a China, impactan a investigadores de IA

      Anthropic construyó las restricciones de Claude Fable 5 para mantener a los laboratorios de IA de China fuera de su modelo público más poderoso. Las quejas más ruidosas vinieron de su propio lado del cortafuegos.

      El 9 de junio, Anthropic lanzó Claude Fable 5, una versión domesticada y orientada al público de Mythos, el modelo que había retenido desde abril debido a su talento para encontrar y explotar fallos de seguridad.

      Fable 5, dijo la compañía, era “seguro para uso general.” Incorporaba un conjunto de clasificadores que señalaban solicitudes relacionadas con ciberseguridad, biología, química, destilación y desarrollo de modelos de frontera, y luego las redirigían silenciosamente al segundo mejor modelo de Anthropic, Claude Opus 4.8.

      La palabra que causó problemas fue “silenciosamente.” Según la propia tarjeta del sistema de Anthropic, las intervenciones que limitaban el “desarrollo de LLM de frontera” “no serían visibles para el usuario.” Los investigadores de IA dijeron que estaban siendo degradados en silencio, o prohibidos en la sombra, en el momento en que Fable 5 decidía que su trabajo de aprendizaje automático parecía demasiado un intento de construir un rival.

      “Se sentía como si Anthropic estuviera diciendo al público, no confiamos en nadie más para hacer investigación en IA,” dijo Will Brown, líder de investigación en Prime Intellect, a Wired. La firma de investigación SemiAnalysis dijo que el modelo estaba degradando su trabajo de inferencia en GPU.

      Las objeciones vinieron de defensores del código abierto que generalmente llaman a Anthropic demasiado cerrado, y de investigadores de seguridad que generalmente lo defienden.

      Anthropic dio marcha atrás en dos días. “Estamos cambiando las salvaguardias de Fable 5 para el desarrollo de LLM de frontera para hacerlas visibles,” dijo. “Hicimos el intercambio equivocado y nos disculpamos por no haber logrado el equilibrio correcto.” La solución fue la divulgación, sin embargo. La restricción se mantuvo.

      Lo que las restricciones de Claude Fable 5 aún hacen a China

      En cuanto al acceso, los expertos piensan que la restricción funciona. “Los desarrolladores de IA chinos podrían encontrar casi imposible ahora usar el último modelo de Anthropic para acelerar su propio desarrollo de modelos,” dijo Kyle Chan, un investigador del Brookings Institution, al South China Morning Post. Claude nunca ha sido vendido oficialmente en China, pero los desarrolladores allí han confiado durante mucho tiempo en soluciones alternativas.

      Los clasificadores de Fable 5 son mucho más difíciles de eludir.

      Anthropic dice que esas soluciones alternativas eran industriales. En febrero acusó a DeepSeek, Moonshot y MiniMax de realizar más de 16 millones de intercambios a través de aproximadamente 24,000 cuentas fraudulentas para destilar la codificación y el razonamiento de Claude. La Casa Blanca abordó el tema en abril, calificando las campañas de robo a escala industrial.

      La dependencia funciona en ambas direcciones

      Luego, la imagen se invierte. Las empresas estadounidenses están cada vez más recurriendo a DeepSeek de China porque es barato, mientras que los desarrolladores chinos siguen comprando Claude en el mercado gris a través de “estaciones de transferencia” proxy que lo revenden en Taobao y Telegram a tan solo una décima parte del precio de lista, según el Oxford China Policy Lab.

      Pekín está ocupado construyendo sus propias murallas: esta semana Meta comenzó a desmantelar su compra de $2 mil millones de Manus, la startup fundada en China y con sede en Singapur, después de que los reguladores ordenaran revertir el acuerdo cerrado.

      Los críticos ven menos principio que proteccionismo, señalando que Anthropic entrenó a Claude con texto extraído y protegido por derechos de autor antes de comenzar a vigilar la extracción de otros. Las restricciones también llegan mientras Anthropic se dirige al mercado público, habiendo presentado de manera confidencial para una OPI con una valoración de $965 mil millones.

      Un modelo demasiado abierto invita a la destilación; un modelo demasiado cerrado invita a la reacción que Fable 5 acaba de desencadenar. Anthropic ha trazado su línea. Si los clasificadores pueden mantenerla, cuando la primera versión duró apenas dos días, es la pregunta que sus rivales en ambos lados del Pacífico ya están probando.