США приказывают Anthropic закрыть Fable 5 и Mythos 5

      TL;DRПравительство США издало директиву по контролю за экспортом 12 июня, приказывая Anthropic приостановить доступ к Fable 5 и Mythos 5, ссылаясь на опасения по поводу национальной безопасности из-за сообщения о jailbreak. Anthropic согласилась, но публично выступила против, назвав действие несоразмерным и предупредив, что приостановит все развертывания моделей на переднем крае, если это будет применено по всей отрасли. Беспрецедентный отзыв произошел всего через три дня после запуска Fable 5.

      Правительство США приказало Anthropic приостановить доступ к двум ее наиболее мощным моделям ИИ, Fable 5 и Mythos 5, что, похоже, является первым случаем, когда Вашингтон заставил коммерческий продукт ИИ отключиться. Директива, которую Anthropic утверждает, что получила в 17:21 по восточному времени 12 июня, ссылается на органы национальной безопасности и требует от компании отключить всех иностранных граждан, включая собственных сотрудников.

      Поскольку Anthropic не может надежно различать иностранных граждан и местных пользователей в реальном времени, практическим результатом является жесткое отключение обеих моделей для каждого клиента по всему миру. Доступ ко всем другим моделям Anthropic остается неизменным.

      Три дня от запуска до отключения

      Anthropic запустила Fable 5 9 июня как свою первую модель «класса Mythos», доступную широкой публике. Fable 5 — это версия для общественности, с классификаторами безопасности, которые перенаправляют отмеченные запросы к более слабой Claude Opus 4.8, в то время как Mythos 5, та же основная модель с снятыми киберзащитами, была ограничена для проверенных специалистов по кибербезопасности и операторов критической инфраструктуры.

      💜 технологий ЕСПоследние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!Обе модели уже находились в прицеле администрации Трампа, которая ранее пыталась заблокировать более широкое развертывание Mythos от Anthropic. Компания предложила Fable 5 бесплатно для подписчиков Pro, Max, Team и Enterprise до 22 июня.

      Спор о jailbreak

      Министерство торговли, как сообщается, действовало после того, как неназванная компания заявила, что нашла способ jailbreak для Mythos, согласно Axios. Anthropic утверждает, что получила только устные доказательства узкого, неуниверсального jailbreak, который в основном заключается в том, чтобы попросить модель прочитать конкретную кодовую базу и исправить программные ошибки.

      Anthropic рассмотрела эту технику и заявляет, что выявленные уязвимости были незначительными и уже известными общественности. Она утверждает, что другие модели, включая GPT-5.5 от OpenAI, могут обнаруживать те же недостатки без каких-либо обходов, хотя TNW не смогла независимо подтвердить это конкретное сравнение.

      Компания проводит четкое различие между узкими jailbreak, которые могут извлекать некоторую информацию в специфических обстоятельствах, и универсальными jailbreak, которые в целом обходят защитные механизмы модели. Anthropic утверждает, что ни один тестировщик еще не нашел универсальный jailbreak для Fable 5, хотя Институт безопасности ИИ Великобритании действительно разработал частичный jailbreak для одноразовых уязвимостей в течение нескольких часов тестирования.

      Тысячи часов тестирования, и вот это

      Перед запуском Anthropic утверждает, что работала с правительством США, UK AISI и несколькими частными третьими организациями, чтобы протестировать защитные механизмы Fable в течение тысяч часов. Внешняя программа по поиску ошибок, как сообщается, не выявила универсальных jailbreak за более чем 1000 часов тестирования.

      Компания также приняла спорную политику обязательного хранения данных на 30 дней для всего трафика Fable и Mythos, отменив существующие соглашения о нулевом хранении с клиентами. Anthropic утверждает, что хранение необходимо для выявления паттернов злоупотребления, которые становятся видимыми только при множественных запросах.

      Anthropic отвечает

      В необычно агрессивном публичном заявлении Anthropic заявила, что не согласна с тем, что узкий потенциальный jailbreak должен быть «причиной для отзыва коммерческой модели, развернутой для сотен миллионов людей». Она предупредила, что применение этого стандарта по всей отрасли «фактически остановит все новые развертывания моделей для всех поставщиков моделей на переднем крае».

      Компания призвала любую государственную власть, чтобы заблокировать небезопасные развертывания, основываться на «законодательном процессе, который является прозрачным, справедливым, ясным и основанным на технических фактах». Она заявила, что это действие не соответствует этому тесту.

      Паттерн напряженности

      Директива появляется на фоне нарастающего трения между Anthropic и Вашингтоном. Пентагон ранее в этом году занес Anthropic в черный список как угрозу национальной безопасности в цепочке поставок, даже несмотря на то, что АНБ продолжало использовать Claude, поскольку альтернатив не существовало.

      Anthropic подала в суд на правительство по поводу этого обозначения. Тот же администратор, который назвал компанию риском безопасности, также призвал банки принять ее технологии и уполномочил АНБ продолжать использовать Mythos в закрытых сетях.

      Противоречие подчеркивает собственную неопределенность правительства относительно того, как обращаться с компанией, чьи возможности ИИ оно одновременно боится и зависит от них.

      Что это значит для отрасли

      Если прецедент сохранится, любая модель ИИ на переднем крае может столкнуться с аналогичным отзывом из-за одного сообщения о jailbreak, независимо от его серьезности. Эта перспектива, вероятно, вызовет тревогу в отрасли, которая в прошлом году стремилась развернуть все более мощные модели с растущим вниманием со стороны правительства.

      Anthropic утверждает, что считает директиву недоразумением и работает над восстановлением доступа как можно скорее. Она пообещала предоставить больше деталей в течение 24 часов.