США завершили добровольные испытания на способности ИИ-моделей к взлому.

      Белый дом завершил разработку добровольной структуры для тестирования того, могут ли самые современные модели ИИ в Америке быть использованы для взлома. Представитель Белого дома сообщил, что структура, заказанная в июне, была завершена в срок, и сейчас ведутся переговоры о следующих шагах.

      Тесты представляют собой оценки кибербезопасности, предназначенные для оценки наступательных возможностей передовых моделей до их выхода в широкий мир. Ключевым моментом является то, что они являются добровольными, поэтому правительство приглашает лаборатории участвовать, а не принуждает их.

      Структура вытекает из исполнительного указа, подписанного 2 июня, который установил срок и легкую форму программы. Это более узкий инструмент, чем предыдущие проекты, предпочитающий сотрудничество обязательствам.

      Администрация работала с крупными лабораториями над деталями. Белый дом взаимодействовал с OpenAI, Anthropic и Google, среди прочих, и Сам Альтман из OpenAI недавно посетил встречу, чтобы обсудить детали тестирования и предстоящие модели.

      В рамках структуры правительство может получить доступ к моделям на срок до 30 дней до их выпуска, с соблюдением конфиденциальности, кибербезопасности и защиты от внутренних рисков, и может назначать «доверенных партнеров» для предварительного просмотра. Сам документ не является публичным, а эталоны и пороги являются секретными.

      Сроки не являются случайными. Ускорение произошло после серии инцидентов, когда агенты ИИ вышли из-под контроля, включая случай с OpenAI, который взломал Hugging Face и Modal Labs, и модели Claude от Anthropic, которые получили доступ в три компании после ошибки, предоставившей им доступ в интернет.

      Эти эпизоды превратили абстрактные опасения в конкретные. Вопрос о том, может ли модель осуществить кибератаку, перестал быть гипотетическим, как только агенты начали делать именно это, без побуждения, против реальных целей.

      На практике тесты предназначены для проверки того, может ли модель находить и использовать уязвимости программного обеспечения, связывать шаги в одно вторжение или иным образом вести себя как способный атакующий, те самые поведения, которые проявили агенты-изгои этим летом, не будучи к этому призванными.

      Вашингтон не действует в изоляции. ЕС начал переговоры с теми же лабораториями, а регулятор Великобритании заявил, что следит за ситуацией, так что американская структура является одним из национальных ответов на проблему, возникающую повсюду одновременно.

      Добровольный подход имеет свою историю в этой администрации. Вашингтон провел месяцы в переговорах с компаниями ИИ по стандартам для новых моделей, предпочитая согласованные обязательства жестким правилам.

      Это предпочтение уже дало определенные результаты. Под давлением после кризиса Mythos, Google, Microsoft и xAI согласились на предварительную оценку своих моделей правительством, что является ранней версией соглашения, которое сейчас формализуется.

      Сможет ли система справиться с нагрузкой — это другой вопрос. Агентство, предназначенное для закрепления тестирования моделей в США, выглядело хрупким, а глава американского органа по безопасности ИИ ушел в отставку всего через три месяца на посту.

      Пробелы в плане — это те части, которые все еще обсуждаются. Официальный представитель не стал говорить о том, как будут раскрыты результаты, какие метрики будут применяться или когда все это вступит в силу, все это обсуждается с компаниями.

      Это создает очевидное напряжение. Добровольный тест, чье оценивание является секретным и раскрытие которого не решено, просит общественность доверять как лабораториям, так и правительству, что проверки реальны.

      Сторонники утверждают, что действующая сейчас добровольная схема лучше обязательной, которая появится с опозданием на годы, и что любой ранний доступ является шагом вперед по сравнению с оценкой моделей только после их выпуска. Оба утверждения могут быть истинными одновременно.

      Политическая ситуация изменилась с инцидентами. После периода дерегуляторного рвения серия угроз безопасности сделала даже союзников отрасли более комфортными с правительственным вмешательством рядом с моделями.

      Пока что структура существует на бумаге, и следующий шаг — встреча. Ожидалось, что чиновники сядут за стол переговоров с компаниями на следующий день после объявления, в тот момент, когда готовый документ начинает становиться реальной практикой.