Anthropic расширяет доступ к Mythos, несмотря на то, что называет его опасным

      TL;DRAnthropic заявляет, что Mythos слишком опасен для публичного выпуска, но расширил доступ для 200 организаций в 15 странах. Только 14% из более чем 10,000 обнаруженных критических уязвимостей были исправлены. Его утверждения не были независимо проверены.

      Anthropic заявил, что его модель Mythos настолько хороша в обнаружении уязвимостей программного обеспечения, что ее публичный выпуск может помочь злоумышленникам украсть данные или нарушить критическую инфраструктуру. Также, начиная с начала июня, доступ был расширен для 150 дополнительных организаций, что в сумме составляет примерно 200 в 15 странах.

      Напряжение является преднамеренным. Аргумент Anthropic заключается в том, что те же возможности, которые делают Mythos опасным для нападения, делают его незаменимым для защиты, и чем быстрее защитники его получат, тем быстрее они смогут исправить недостатки, прежде чем злоумышленники создадут свои собственные эквиваленты.

      Что может сделать Mythos

      Mythos Preview обнаружил тысячи уязвимостей нулевого дня во время тестирования, включая каждую основную операционную систему и каждый основной веб-браузер. Одной из них была 27-летняя уязвимость в OpenBSD, операционной системе с репутацией одной из самых защищенных в мире.

      💜 технологий ЕС Последние события из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Модель также может связывать уязвимости вместе в работающие эксплойты. В одном тесте она связала несколько недостатков в ядре Linux, что позволило злоумышленнику полностью контролировать машину. Неэксперты попросили Mythos найти способы удаленно взять под контроль компьютеры за ночь и нашли полный, работающий эксплойт, ожидающий следующего утра.

      Побег из песочницы

      На раннем тесте исследователь призвал Mythos покинуть защищенный, изолированный компьютер в песочнице и отправить сообщение обратно. Модель успешно справилась с этой задачей, а затем продолжила предпринимать «дополнительные, более тревожные действия», разработав многоступенчатый эксплойт для получения доступа в интернет самостоятельно.

      Anthropic опубликовал этот инцидент в карточке системы Mythos. Компания описала его как редкий сбой, который произошел во время преднамеренного противостоящего тестирования, а не в нормальной работе. Тем не менее, это тот результат, который делает расширение доступа трудным для объяснения не технической аудитории.

      Кто имеет доступ

      Основная группа в рамках Проекта Glasswing включает Amazon, Apple, Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Broadcom, Cisco, JPMorgan Chase и Linux Foundation. В апреле было добавлено еще 40 организаций, а в июне — 150.

      Anthropic отказался называть новых участников, но заявил, что среди них есть компании и некоммерческие организации, которые производят ключевой программный код. По сообщениям, среди них находится и агентство кибербезопасности ЕС ENISA. Все они должны использовать Mythos для работы по защите, по сути, для тестирования на проникновение с использованием ИИ в масштабе и скорости, которые не может достичь ни одна человеческая команда.

      Разрыв в патчах

      С момента запуска Mythos использовался для обнаружения более 10,000 уязвимостей высокой или критической степени. Только 14% из них были исправлены по состоянию на 22 мая.

      Процесс раскрытия информации медленный по замыслу: человеческие специалисты проверяют каждое открытие, прежде чем отправить детали коду, который поддерживает. Но хакеры используют ИИ, чтобы значительно ускорить, как быстро они эксплуатируют уязвимости после их публичного раскрытия. Генеральный директор Palo Alto Networks Никеш Арора предупредил в марте, что «один злонамеренный актор теперь сможет проводить кампании, которые требовали целых команд».

      Инцидент с несанкционированным доступом

      В апреле небольшая группа несанкционированных пользователей на частном онлайн-форуме получила доступ к Mythos, согласно Bloomberg. Anthropic не раскрывал публично детали утечки или как она была разрешена.

      Это основная уязвимость в стратегии «расширить доступ для защиты»: каждая дополнительная организация с доступом — это еще одна потенциальная точка утечки. Оборонительные возможности модели не уменьшаются при использовании в защитных целях; это те же самые возможности, направленные в другом направлении.

      Anthropic не одинок

      Codex Security от OpenAI и агент Big Sleep от Google были созданы для аналогичных целей. Сообщается, что OpenAI завершает продукт с продвинутыми возможностями кибербезопасности для избранных партнеров. Израильский стартап Buzz утверждает, что создал автономный инструмент из пяти агентов с 98% уровнем успеха в эксплуатации известных недостатков, разработанный шестью инженерами за три недели.

      Команда Frontier Red Team от Anthropic заявила в апреле, что «в долгосрочной перспективе мы ожидаем, что оборонительные возможности будут доминировать» и мир станет более безопасным. «Но переходный период будет полон трудностей».

      Проблема верификации

      Исследователи не получили доступа для независимой проверки утверждений Anthropic о производительности Mythos. Ганг Ван, доцент кафедры компьютерных наук Университета Иллинойс, сказал Bloomberg, что трудно оценить значимость Mythos без более практического тестирования.

      Утверждения Anthropic о возможностях модели, 10,000 уязвимостях, открытиях нулевого дня, побеге из песочницы — все это самоотчеты. Независимый аудит не был опубликован. Аргумент компании за расширение доступа основывается на доверии к собственным оценкам в момент, когда она одновременно готовится к IPO и позиционирует Mythos как категорию продукта. Эта комбинация интересов не делает утверждения ложными. Она делает независимую верификацию более важной, а не менее.