Генеральный директор Amazon, как сообщается, инициировал правительственное преследование, которое закрыло самый мощный ИИ Anthropic.

      TL;DRГлава Amazon Эндрю Джасси, как сообщается, сказал правительству, что исследователи использовали Fable 5 для получения информации о кибератаках. Это вызвало приказ о закрытии Fable 5 и Mythos 5.

      Генеральный директор Amazon Энди Джасси, как сообщается, стал источником опасений по поводу безопасности, которые привели к тому, что правительство США заставило Anthropic закрыть Fable 5 и Mythos 5 для всех клиентов в пятницу. The Wall Street Journal сообщил, что Джасси сказал министру финансов Скотту Бессенту и другим чиновникам, что исследователи Amazon использовали Fable 5 для получения информации, которая может быть использована в кибератаках. Затем правительство наложило запрет на экспорт обеих моделей.

      Это откровение добавляет неудобное измерение к истории. Amazon является одним из крупнейших инвесторов Anthropic, вложив миллиарды и получив в ответ обязательство по расходам на облачные услуги в размере 100 миллиардов долларов. Компания, финансирующая инфраструктуру Anthropic, также является той, которая сообщила правительству, что ее модели опасны.

      Представитель Amazon сказал, что «не редкость, когда правительства обращаются к нам за консультациями по потенциальным рискам безопасности», но отказался делиться деталями обсуждений. Представитель также указал на обновление статуса AWS, подтверждающее, что собственная облачная платформа Amazon пострадала от закрытия модели.

      Дэвид Сакс, бывший царь ИИ Трампа, который теперь совместно возглавляет Совет президента по науке и технологиям, предложил другую версию событий. Он сказал: «Достоверный и надежный партнер как Anthropic, так и правительства США вышел с информацией о jailbreak». Сакс добавил: «Администрация попросила Дарио исправить jailbreak или отключить модель. Дарио отказался».

      Версия Anthropic отличается. Компания заявила, что изучила технику jailbreak и обнаружила, что она выявила «небольшое количество ранее известных, незначительных уязвимостей». Она назвала ответ правительства несоразмерным и заявила, что возможности, вызывающие беспокойство, уже доступны в других общедоступных моделях. Закрытие затронуло каждого клиента по всему миру, поскольку Anthropic не может фильтровать иностранных граждан от пользователей из США в реальном времени.

      Последствия важны для индустрии ИИ. Amazon вложила миллиарды в Anthropic. Anthropic создала модели на AWS. Генеральный директор Amazon сообщил правительству, что эти модели представляют собой риски безопасности. Правительство использовало экспортные ограничения, чтобы заставить их отключить. Затем AWS пострадала от закрытия. Это замкнутый круг корпоративной зависимости и регуляторного ответа.

      Для Anthropic немедленный вопрос заключается в том, как быстро она сможет восстановить доступ. Для более широкой индустрии важен прецедент. Если крупный облачный провайдер может инициировать действие по контролю за экспортом против своей портфельной компании, подняв вопросы перед министром финансов, конкурентная динамика рынка ИИ только что получила новое оружие. Mythos используется банками и государственными учреждениями для обнаружения уязвимостей. Каждый из этих клиентов потерял доступ из-за спора между крупнейшим инвестором Anthropic и правительством, за которое ее генеральный директор лоббировал больше регуляторной власти.