Клод Фабль 5 ограничений: нацелены на Китай, ударили по исследователям ИИ

      Антропик создал ограничения Claude Fable 5, чтобы не допустить китайские ИИ-лаборатории к своей самой мощной публичной модели. Самые громкие жалобы поступили с их собственной стороны фаервола.

      9 июня Антропик выпустил Claude Fable 5, укрощенную, публичную версию Mythos, модель, которую он удерживал с апреля из-за ее способности находить и использовать уязвимости в безопасности.

      Fable 5, как заявила компания, была «безопасна для общего использования». В нее была встроена группа классификаторов, которые отмечали запросы, касающиеся кибербезопасности, биологии, химии, дистилляции и разработки передовых моделей, а затем тихо перенаправляли их на вторую по качеству модель Антропика, Claude Opus 4.8.

      Слово, которое вызвало проблемы, было «тихо». Согласно собственному системному документу Антропика, вмешательства, ограничивающие «разработку передовых LLM», «не будут видны пользователю». Исследователи ИИ заявили, что их тихо понижали в статусе или вводили в теневой бан в тот момент, когда Fable 5 решала, что их работа в области машинного обучения выглядит слишком похоже на попытку создать конкурента.

      «Создавалось впечатление, что Антропик говорит общественности: мы не доверяем никому другому в исследовании ИИ», — сказал Уилл Браун, руководитель исследований в Prime Intellect, изданию Wired. Исследовательская компания SemiAnalysis заявила, что модель ухудшает ее работу по GPU-инференсу.

      Возражения поступили от сторонников открытого кода, которые обычно называют Антропик слишком закрытым, и от исследователей безопасности, которые обычно его защищают.

      Антропик изменил свою позицию в течение двух дней. «Мы изменяем меры безопасности Fable 5 для разработки передовых LLM, чтобы сделать их видимыми», — заявила компания. «Мы сделали неправильный выбор и приносим извинения за то, что не нашли правильный баланс». Однако исправление заключалось в раскрытии информации. Ограничение осталось.

      Что ограничения Claude Fable 5 все еще делают для Китая

      Что касается доступа, эксперты считают, что ограничение работает. «Китайским разработчикам ИИ сейчас может быть почти невозможно использовать последнюю модель Антропика для ускорения разработки своих собственных моделей», — сказал Кайл Чан, научный сотрудник Брукингского института, изданию South China Morning Post. Claude никогда официально не продавался в Китае, но разработчики там долго полагались на обходные пути.

      Классификаторы Fable 5 гораздо труднее обойти.

      Антропик утверждает, что эти обходные пути были промышленными. В феврале он обвинил DeepSeek, Moonshot и MiniMax в том, что они провели более 16 миллионов обменов через примерно 24 000 мошеннических аккаунтов, чтобы извлечь кодирование и логическое мышление Claude. Белый дом поднял эту тему в апреле, назвав кампании промышленным масштабом кражи.

      Зависимость работает в обе стороны

      Затем картина переворачивается. Американские компании все чаще обращаются к китайскому DeepSeek, потому что он дешевый, в то время как китайские разработчики продолжают покупать серый рынок Claude через прокси «трансферные станции», которые перепродают его на Taobao и Telegram по цене, в десять раз ниже розничной, согласно Oxford China Policy Lab.

      Пекин занят строительством собственных стен: на этой неделе Meta начала демонтаж своей покупки за 2 миллиарда долларов компании Manus, основанной в Китае и базирующейся в Сингапуре, после того как регуляторы приказали отменить закрытую сделку.

      Критики видят в этом меньше принципа, чем протекционизма, отмечая, что Антропик обучил Claude на собранном, защищенном авторским правом тексте, прежде чем начал контролировать извлечение данных другими. Ограничения также накладываются на Антропик, который движется к публичному рынку, подав конфиденциальную заявку на IPO с оценкой в 965 миллиардов долларов.

      Слишком открытая модель приглашает дистилляцию; слишком закрытая модель вызывает ответную реакцию, которую только что вызвал Fable 5. Антропик провел свою черту. Сможет ли классификатор удержать ее, когда первая версия продержалась едва два дня, — это вопрос, который его соперники с обеих сторон Тихого океана уже тестируют.