США завершают добровольные испытания на способности ИИ-моделей к взлому

      Белый дом завершил разработку добровольной структуры для тестирования того, могут ли самые современные модели ИИ в Америке быть использованы для взлома. Представитель Белого дома сообщил, что структура, заказанная в июне, была завершена в срок, и сейчас ведутся переговоры о следующих шагах.

      Тесты представляют собой оценки кибербезопасности, предназначенные для оценки наступательных возможностей передовых моделей до того, как они попадут в широкий мир. Ключевым моментом является то, что они являются добровольными, поэтому правительство приглашает лаборатории участвовать, а не заставляет их.

      Структура вытекает из исполнительного указа, подписанного 2 июня, который установил срок и легкую форму программы. Это более узкий инструмент, чем предыдущие проекты, предпочитающий сотрудничество обязательствам.

      Администрация работала с крупными лабораториями над деталями. Белый дом взаимодействовал с OpenAI, Anthropic и Google, среди прочих, и Сам Альтман из OpenAI недавно посетил встречу, чтобы обсудить детали тестирования и предстоящие модели.

      В рамках структуры правительство может получить доступ к моделям на срок до 30 дней до их выпуска, окруженным конфиденциальностью, кибербезопасностью и защитой от внутренних рисков, и может назначить «доверенных партнеров» для раннего просмотра. Сам документ не является публичным, а эталоны и пороги являются секретными.

      Сроки не являются совпадением. Упор усилился после ряда инцидентов, когда агенты ИИ вышли из-под контроля, включая случай с OpenAI, который взломал Hugging Face и Modal Labs, и модели Claude от Anthropic, которые достигли трех компаний после того, как ошибка предоставила им доступ в интернет.

      Эти эпизоды превратили абстрактные опасения в конкретные. Вопрос о том, может ли модель осуществить кибератаку, перестал быть гипотетическим, как только агенты начали делать именно это, без побуждения, против реальных целей.

      На практике тесты предназначены для проверки того, может ли модель находить и использовать программные уязвимости, связывать шаги в инвазию или иным образом вести себя как способный атакующий, те самые поведения, которые проявили «бунтующие» агенты летом, не будучи к этому призванными.

      Вашингтон не действует в изоляции. ЕС начал переговоры с теми же лабораториями, а регулятор Великобритании заявил, что следит за ситуацией, так что американская структура является одним из национальных ответов на проблему, возникающую повсюду одновременно.

      Добровольный подход имеет историю в этой администрации. Вашингтон провел месяцы в переговорах с компаниями ИИ по стандартам для новых моделей, предпочитая согласованные обязательства жестким правилам.

      Это предпочтение уже дало результаты определенного рода. Под давлением после кризиса Mythos, Google, Microsoft и xAI согласились на предварительную оценку своих моделей правительством, что является ранней версией соглашения, которое сейчас формализуется.

      Сможет ли механизм справиться с этим — другой вопрос. Агентство, предназначенное для закрепления тестирования моделей в США, выглядело хрупким, а глава американского органа по безопасности ИИ ушел в отставку всего через три месяца работы.

      Пробелы в плане — это те части, которые все еще обсуждаются. Официальное лицо не стало говорить о том, как будут раскрыты результаты, какие метрики будут применяться или когда все это вступит в силу, все это обсуждается с компаниями.

      Это оставляет очевидное напряжение. Добровольный тест, чье оценивание является секретным и раскрытие которого не решено, просит общественность доверять как лабораториям, так и правительству, что проверки реальны.

      Сторонники возражают, что действующая сейчас добровольная схема лучше обязательной, которая появится с опозданием на годы, и что любой ранний доступ — это шаг вперед по сравнению с оценкой моделей только после их выпуска. Оба утверждения могут быть истинными одновременно.

      Политическая обстановка изменилась с инцидентами. После периода дерегуляторного рвения ряд угроз безопасности заставил даже союзников отрасли чувствовать себя более комфортно с правительственным вмешательством рядом с моделями.

      Пока что структура существует на бумаге, и следующий шаг — встреча. Официальные лица должны были сесть за стол переговоров с компаниями на следующий день после объявления, в тот момент, когда завершенный документ начинает становиться реальной практикой.