Ранние пользователи Mythos от Anthropic по-прежнему имеют доступ после приказа США

      Когда Вашингтон приказал Anthropic отключить доступ к своей самой продвинутой модели ИИ, он не отключил всех. Некоторые организации, которые Anthropic выбрала для раннего тестирования Mythos, сохранили доступ к предварительному просмотру системы, даже когда другие версии стали недоступны в соответствии с указанием США по экспорту, согласно отчету Bloomberg.

      Механика здесь имеет значение. Anthropic ограничила то, что она называет Mythos Preview, примерно 200 организациями, включая правительство США, в рамках своей программы Glasswing, после того как модель продемонстрировала необычную способность: она выявила тысячи уязвимостей в программном обеспечении.

      Менее мощная версия Mythos была выпущена более широко, а затем отключена, когда Министерство торговли приказало Anthropic приостановить доступ для всех иностранных граждан по соображениям национальной безопасности. Предварительный просмотр для некоторых выжил.

      Две названные компании подтвердили, что сохранили доступ. Dragos, компания в области промышленной кибербезопасности, в которую Accenture сейчас приобретает контрольный пакет акций, и Cisco Systems обе сообщили Bloomberg, что у них все еще есть Mythos Preview.

      💜 технологий ЕС Последние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Этот факт показателен: организации, сохраняющие доступ, как раз те, кто использует модель для работы по обеспечению безопасности, случай использования, который Anthropic поставила в центр своего аргумента о том, почему передовой ИИ в проверенных руках является общественным благом, а не опасностью.

      Контраст с Европой резкий. Европейское агентство кибербезопасности ENISA, которое было приглашено присоединиться к Glasswing до блока Вашингтона, в пятницу было сообщено, что доступ больше не будет предоставлен. Это отменяет соглашение, которое было предметом встречи всего несколько дней назад, и прямо отвечает на вопрос, который оставила открытым та встреча: может ли европейское агентство соответствовать американскому приказу по экспорту. Ответ, на данный момент, — нет.

      То, что этот эпизод обнажает, это то, сколько свободы действий есть у Anthropic в пробеле, оставленном указом. Приказ по экспорту нацелен на иностранных граждан, но, похоже, не диктует, организация за организацией, кто из существующих членов Glasswing сохраняет работающий предварительный просмотр.

      Не было сразу ясно, как Anthropic определяла индивидуальный доступ, что означает, что компания фактически принимает решения по каждому случаю о том, кто может использовать одну из самых мощных моделей безопасности, существующих на данный момент.

      Это неудобная позиция для любого поставщика и откровенная. Anthropic провела год, предупреждая о рисках продвинутого ИИ, утверждая, что такие модели, как Mythos, должны быть доступны защитникам. Указ заставил ее сделать выбор, и схема, по которой доступ сохранили американские компании по безопасности, а европейское агентство исключили, отражает контуры экспортного правила, а не какое-либо суждение о заслугах.

      Модель, лежащая в основе этого, действительно мощная, что и является всей проблемой. Система, которая может находить тысячи уязвимостей, так же полезна для нападающего, как и для защитника, и это качество двойного назначения именно то, почему Министерство торговли решило ограничить ее. Тот же потенциал, который заставляет Dragos и Cisco хотеть продолжать доступ, именно тот, который заставляет Вашингтон нервничать о том, кто еще может его получить.

      Результат с разделенным экраном также поднимает вопрос о том, кто управляет доступом к ИИ двойного назначения. Когда одна компания решает, в пространстве, оставленном правительственным приказом, какие команды безопасности сохраняют передовую модель, а какие теряют ее, практическая власть над инструментом, имеющим значение для национальной безопасности, оказывается у частного поставщика, а не у публичного органа.

      Это много свободы действий, чтобы доверить одной фирме, и несоответствие между сохраненными американскими фирмами и исключенным европейским агентством делает эту свободу действий видимой таким образом, который вызывает вопросы.

      Anthropic не детализировала свои критерии доступа, и ситуация остается в состоянии неопределенности, поскольку компания маневрирует между указом своего правительства и своими клиентами. Что ясно, так это то, что отключение не было полным, что выжившие сосредоточены среди пользователей американской оборонной безопасности, и что первым европейцем, которому разрешили доступ, теперь стал первым, кого показали наружу.