Почему ЕС теперь требует доступа к Mythos от Anthropic

      Модель ИИ Anthropic, способная находить нулевые уязвимости в каждой крупной операционной системе, стала геополитическим и пруденциальным вопросом. Еврозона встретилась в Брюсселе в понедельник без готового ответа.

      Брюссель в понедельник утром в начале мая традиционно не является местом, где обсуждается самая мощная модель ИИ в мире. Еврозона собирается в красивом, но функциональном зале. Министры финансов обмениваются позиционными документами.

      Повестка дня в значительной степени сосредоточена на операционной устойчивости, тайнах банковского союза и точной формулировке выводов Совета. Это не то место, где обычно появляются заголовки.

      4 мая в зале говорили о чем-то другом. Bloomberg подтвердил, что министры финансов еврозоны собрались, чтобы обсудить модель ИИ Mythos от Anthropic и что делать с тем фактом, что ни одно европейское правительство в настоящее время не имеет к ней доступа. Модель, представленная Anthropic 7 апреля, может выявлять и, в принципе, использовать нулевые уязвимости в каждой крупной операционной системе и веб-браузере.

      Белый дом последние несколько недель блокировал предложение Anthropic о расширении доступа примерно для 70 дополнительных организаций.

      Тем временем банковские регуляторы Европы подсчитывали, что это означает для финансовой системы.

      Собственное описание системы Anthropic, изложенное в объявлении о проекте Glasswing 7 апреля, не преуменьшает ситуацию. Mythos Preview — это передовая модель, чья способность к кодированию пересекла порог: она может находить уязвимости программного обеспечения с такой скоростью и глубиной, которые превосходят все, кроме самых опытных человеческих исследователей.

      Тысячи уязвимостей высокой степени серьезности были найдены за несколько дней, включая 27-летний баг в OpenBSD, 16-летний недостаток удаленного выполнения кода в FreeBSD и 271 отдельную уязвимость Firefox, исправленную Mozilla после единственной оценки.

      Что это означает для защитников, по анализу криптографа Брюса Шнайера и других, пишущих о стратегическом значении модели, однозначно. Модель с такой способностью, используемая в наступательных целях, дает атакующему структурное преимущество, которое защитники не могут компенсировать без сопоставимого доступа.

      Следствием является то, что защитники без сопоставимого доступа теперь находятся в значительном отставании. Это и есть расчет, который проводили банковские надзорные органы Европы.

      Бундесбанк первым сделал шаг. В конце апреля центральный банк Германии публично призвал ЕС потребовать доступ к Mythos, утверждая, что без него европейские банки не могут реалистично тестировать свою собственную инфраструктуру на предмет угроз, которые противник с моделью мог бы создать.

      Европейский центральный банк, тем временем, провел звонки с главными риск-менеджерами кредиторов еврозоны и начал собирать информацию о том, как банки готовятся к кибератакам с использованием ИИ.

      Кристин Лагард, президент ЕЦБ, охарактеризовала Anthropic как ответственного оператора, одновременно предостерегая, что модель в неправильных руках «может быть действительно плохой».

      Регулятор Швейцарии пошел дальше. FINMA предупредила в апреле, что немедленный, широкий доступ к Mythos сам по себе создаст системный риск для швейцарских банков: не потому, что модель злонамеренная, а потому, что развертывание наступательных возможностей безопасности такого рода без оборонительной инфраструктуры для поглощения ее выходов может перегрузить внутренние системы реагирования на инциденты.

      ASIC, австралийский регулятор, отдельно присоединился к усилиям по мониторингу, а Кристалина Георгиева, управляющий директор МВФ, сообщила репортерам на весенних заседаниях Фонда, что международная финансовая система еще не имеет тех защит, которые ей понадобятся против устойчивого киберинцидента с использованием ИИ.

      Ни одно из этих заявлений не является новшеством в политике. Новым является скорость, с которой они выстраиваются вокруг одного продукта.

      Почему Белый дом говорит «нет»?

      Позиция администрации Трампа заключается в том, что более широкий доступ к Mythos вызывает две отдельные проблемы. Первая — это злоупотребление: модель, способная писать эксплойты, не может, по определению, быть безопасно распространена.

      Вторая — операционная: инфраструктура, необходимая для поддержки более широкого развертывания, очищенные объекты, контроль доступа и мониторинг, по мнению администрации, еще не существует для более широкой базы пользователей, которую предлагает Anthropic.

      Существует также более тихая, более неловкая динамика. Национальное управление безопасности уже использует Mythos через соглашения, которые предшествуют публичному спору, даже несмотря на то, что Пентагон отдельно обозначил Anthropic как риск цепочки поставок в связанном вопросе закупок.

      Министерство финансов США также запросило доступ к Mythos, чтобы помочь найти недостатки в своих собственных системах. Позиция администрации, другими словами, ограничительна в отношении внешнего распространения и разрешительна в отношении собственного использования, что является внутренне последовательной, но стратегически деликатной позицией, когда речь идет о союзниках, которые в любом нормальном контрразведывательном расчете ожидают быть внутри такого соглашения.

      Именно эта асимметрия, а не сама модель, вызвала реакцию Европы.

      Что на самом деле сказала и не сказала Anthropic

      Публичная позиция Anthropic была тщательно сформулирована. Компания признала, что возможности Mythos требуют новых мер безопасности, которые проект Glasswing был призван обеспечить, и запустила инициативу с AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Фондом Linux, Microsoft, NVIDIA и Palo Alto Networks в качестве первоначальных партнеров.

      Представительство финансовых услуг невелико: JPMorgan Chase — единственный банк, который явно назван. Goldman Sachs и Citigroup, по отдельным сообщениям, оценивают модель внутри компании. Ни один европейский банк не входит в список запуска.

      Частным образом Anthropic сообщила чиновникам, что доступ для Европы будет предоставлен «скоро», стандартная временная оговорка в коммерческой дипломатии. Никакое формальное соглашение не было подписано. Еврозона в понедельник не произвела его. То, что она произвела, — это более четкий коллективный сигнал о том, что европейские надзорные органы ожидают эквивалентного обращения и намерены эскалировать, если это не будет предоставлено.

      Сложный вопрос, вокруг которого вращается встреча

      Структурная проблема на самом деле не связана с Anthropic или с Mythos в частности, хотя оба являются непосредственными триггерами. Мы отслеживаем более широкую картину: передовые модели с возможностями наступательной безопасности теперь перемещаются между правительствами быстрее, чем регулирующая инфраструктура, предназначенная для их надзора.

      Рамки экспортного контроля, которые исторически регулировали такого рода возможности, предназначенные для спутниковых компонентов и ядерных материалов, не были созданы для программного обеспечения, которое обновляется ежемесячно и может быть эксфильтровано любым, у кого есть достаточные полномочия.

      Собственный опыт Anthropic подчеркивает эту точку. Неавторизованные пользователи смогли получить доступ к Mythos через частные каналы вскоре после его ограниченного запуска, что демонстрирует трудности с контролем высоко востребованных ИИ-систем с наступательными приложениями.

      Нарушение было небольшим, но поучительным: даже Anthropic, с самой сильной культурой безопасности среди передовых лабораторий, не может полностью контролировать распространение такой способной модели.

      Европейские надзорные органы, наблюдая за этим, пришли к выводу, о котором они не стали бы говорить вслух на пресс-конференции. Модель существует. Враждебные акторы рано или поздно получат доступ через один канал или другой. Защитникам нужен параллельный доступ не потому, что они хотят использовать Mythos наступательно, а потому, что без него защитная сторона торговли структурно коротка.

      Ранее освещение этой дискуссии Еврозоны в TNW было точно таким образом. Встреча в понедельник не продвинула ответ. Она прояснила вопрос.

      Куда это указывает?

      Существует три правдоподобных исхода. Первый — двусторонний: Соединенные Штаты и ЕС тихо соглашаются на соглашение о контролируемом доступе, которое отражает то, как некоторые другие возможности обмена разведывательной информацией исторически распределялись. Это решит нем