Мнение: Кто решает, кто может использовать программное обеспечение?

      Письмо пришло в 5:21 вечера по восточному времени в пятницу, в час, когда официальные лица Вашингтона обычно прекращают отвечать на звонки, и новостной цикл замедляется на выходные. Оно пришло из Министерства торговли, состояло из нескольких абзацев и сделало то, что ни один американский документ никогда прежде не делал.

      К тому времени, как Восточное побережье закончило ужин, две из самых мощных моделей искусственного интеллекта на планете отключились. Не ограниченные, не исправленные, не тихо деградированные. Отключены. Исследователь в Берлине, который был в середине предложения с этой моделью, обнаружил, что она исчезла. То же самое произошло с финансовым аналитиком в Сингапуре, командой разработчиков в Бангалоре и, в детали, которая была бы смешной, если бы не была самой сутью, с несколькими инженерами Anthropic, которые оказались с неправильным паспортом.

      Директива велела Anthropic запретить доступ к Fable 5 и Mythos 5 любому иностранному гражданину, где бы он ни находился на Земле, включая не граждан, сидящих за столами в Калифорнии. Нет чистого способа применить такое правило к работающему продукту, поэтому компания сделала единственное, что позволила ей сделать директива. Она отключила оба модели для всех, как для граждан, так и для иностранцев, и извинилась за нарушение, которое не выбрала.

      Я хочу быть осторожным в том, что является фактом, а что — моим мнением, потому что эти два понятия быстро размываются в такой истории. Факты не оспариваются. Anthropic подтвердила, что получила директиву, подтвердила ее объем и подтвердила, что отключила модели в ответ, оставив свою более старую модель Claude Opus 4.8 работающей.

      💜 технологий ЕС Последние слухи из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Fortune и Al Jazeera оба сообщили, что это первый случай, когда США использовали экспортные контрольные меры национальной безопасности против коммерческой модели ИИ. Заявленная причина — это кибербезопасность. Официальные лица сказали Anthropic, что узнали о технике обхода защит Fable 5 и доступа к сырым возможностям кибератак Mythos, модели, лежащей в ее основе.

      Anthropic называет это «узким потенциальным побегом» и весь эпизод «недоразумением». Al Jazeera, ссылаясь на Semafor, сообщила, что подозрение в доступе со стороны группы, связанной с Китаем, было частью триггера, при этом отметив, что не смогла самостоятельно подтвердить эту деталь.

      Что касается фактов, но вот мнение. Аргумент безопасности, каковы бы ни были его достоинства, не является частью этой истории, которая должна распространяться. Часть, которая должна распространяться, — это механизм, потому что именно механизм будет повторно использоваться: экспортные контрольные меры — это старый инструмент. Они управляли ракетами, центрифугами, шифрованием и физическими чипами, на которых работает ИИ.

      Что нового в этот раз, так это объект. Модель на переднем крае — это не аппаратное обеспечение, которое можно перехватить в порту. Это услуга, к которой можно получить доступ через браузер, уже вплетенная в повседневную работу компаний и учреждений, которые не имеют ничего общего с американской национальной безопасностью. Al Jazeera отметила, что клиенты рейтинговой компании S&P используют Claude для запроса своих баз данных; исследовательские лаборатории строят на ней; иностранный персонал внутри американских компаний зависит от нее для выполнения своих задач. Когда государство может отключить это для всего мира с одного вечера на следующий, «экспортный контроль» перестает описывать границу и начинает описывать выключатель.

      Это прецедент, и прецеденты не остаются в своей коробке. Как только правительство показало, что может заставить компанию отозвать коммерческий продукт у миллионов пользователей за несколько часов, этот инструмент существует для каждой будущей администрации и каждой будущей обиды. Критерий, использованный в этот раз, «иностранный гражданин», настолько широк, что почти не имеет смысла.

      Кун Чен, бывший инженер в Meta и Microsoft, указал, что это не подлежит исполнению на практике и легко обойти для любого с истинным злым намерением, при этом охватывая миллионы обычных пользователей и даже собственный персонал американских компаний. Мера, которая промахивается по цели и попадает в остальных, не является точной. Это демонстрация охвата.

      Существует разумный контраргумент, и он заслуживает справедливого рассмотрения, а не соломенного человека. Государства всегда заявляли право останавливать распространение опасных технологий, и если модель действительно может быть превращена в автоматическое оружие для взлома банков, у государства есть законный интерес в этом. В конце концов, Anthropic потратила годы, описывая свои самые мощные системы как слишком опасные для свободного выпуска.

      Она назвала Mythos слишком мощным для широкого запуска, а затем построила Fable на основе защит, которые громко рекламировала. Если вы создаете что-то и называете это опасностью, вы вряд ли будете шокированы, когда регулятор будет рассматривать это как таковое.

      Исследователь в области кибербезопасности Питер Гирнус выразил это резко: «Если вы описываете свой продукт как боеприпас в каждом пресс-релизе, в конечном итоге правительство принимает вас за слово. Они сами написали юридическую основу и назвали это брендом».

      Я считаю этот аргумент честным и неполным. Честным, потому что опасность не является чисто вымышленной, и Anthropic действительно помогла написать сценарий. Неполным, потому что он отвечает на вопрос, который никто на самом деле не задает. Проблема не в том, может ли государство регулировать действительно опасные возможности. Конечно, может. Проблема в том, должно ли оно иметь возможность делать это, выходя за пределы компании и в продукт, единолично, без прозрачного процесса, без апелляции и с последствиями, которые в основном ложатся на людей в других странах, которые не имели голоса и не получили предупреждения.

      Сам Anthropic провел именно эту черту, утверждая, что правительство должно иметь возможность блокировать небезопасные развертывания, но только через процесс, который «прозрачный, справедливый, ясный и основанный на технических фактах», и что это действие не соответствовало ни одному из этих критериев. По этому узкому пункту я думаю, что компания права, как бы она ни ошибалась в остальном.

      Что делает прецедент более трудным для защиты, так это компания, с которой она держится. В январе та же администрация изменила многолетнюю политику и разрешила продажу продвинутых чипов H200 от Nvidia в Китай. Дин Болл, который кратко работал в администрации над политикой ИИ, уловил противоречие в одной строке: правительство, готовое экспортировать свои лучшие чипы сопернику, теперь хочет запретить Британии и каждому другому неамериканцу на Земле использовать свои лучшие модели. «У меня нет слов», — написал он.

      Аппаратное обеспечение идет к конкуренту; программное обеспечение отгорожено от союзников. Как политика безопасности, это не согласуется. Как демонстрация того, кто держит переключатель, это совершенно ясно.

      И вот часть, которая Вашингтону понравится меньше всего. Урок ложится тяжелее именно там, где он меньше всего этого хочет. Сридхар Вембу, соучредитель индийской программной группы Zoho, выразил это прямо: «Национальный суверенитет, национальная безопасность — все это теперь связано с технологиями». Он имел в виду это как стимул, и стимул уже работает. Отключение дало движению суверенного ИИ Индии его самый сильный аргумент на сегодняшний день. Европа, которая годами мучилась над своим собственным суверенитетом в области ИИ, пока американские гипермасштаберы тихо захватили около 70% ее облачного рынка, теперь имеет пример, который она не могла бы лучше прописать.

      Гэри Маркус, давний критик отрасли, указал на более глубокое самоповреждение: такая директива дает многим иностранным исследователям в американских лабораториях повод вернуться домой и дает инвесторам повод задуматься, являются ли