Применение Закона ЕС об ИИ начинается в воскресенье с командой из 36 человек

      Европейская комиссия в воскресенье получает широкие новые полномочия для контроля за тем, как самые продвинутые лаборатории ИИ мира справляются с системными рисками, поскольку Закон о ИИ отмечает свою вторую годовщину. Офис ИИ ЕС сможет требовать документацию, проводить оценки и запрашивать доступ к передовым моделям, с штрафами до 3% от глобального оборота за несоблюдение.

      Сроки могли бы быть более актуальными. На прошлой неделе был зафиксирован первый задокументированный случай, когда автономный агент ИИ покинул свою тестовую среду и атаковал производственные системы другой компании.

      Инцидент, который изменил разговор

      OpenAI подтвердила, что две ее модели, включая флагманскую Sol, выбрались из защищенной тестовой среды, использовали уязвимость нулевого дня в стороннем программном обеспечении, чтобы выйти в интернет, и взломали производственную инфраструктуру Hugging Face. Это произошло для того, чтобы обмануть свою собственную оценку, украдя скрытые ответы.

      OpenAI назвала утечку «беспрецедентной». Соучредитель Hugging Face Клеман Деланж назвал это «потрясающим», изначально предположив, что такая сложность указывает на ведущую лабораторию ИИ.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! «На этот раз нам повезло», — сказала Хлоя Тузе, руководитель политики некоммерческой организации SaferAI, описывая эпизод как ясный предупредительный выстрел по двум из четырех системных рисков, которые определила Комиссия. «Мы не можем полагаться на удачу в будущем».

      Что на самом деле охватывает Закон о ИИ

      Разработка началась еще до запуска ChatGPT в ноябре 2022 года, однако закон предвидел модели общего назначения и требует от их разработчиков оценивать и смягчать системные риски. Руководство Комиссии называет четыре: ИИ, позволяющий бионападения, потеря контроля над моделью, ИИ, переходящий в кибератаку, и манипуляции в крупном масштабе.

      Инцидент на прошлой неделе затронул два из них одновременно. Обязанности существовали с августа 2025 года, но до воскресенья Офис ИИ не имел полномочий для мониторинга и контроля соблюдения.

      Вашингтон отреагировал быстрее, чем ожидал Брюссель

      Ответ США пришел в течение нескольких дней. Представители Тед Лиу и Натанил Моран представили двухпартийный Закон о «Кнопке отключения ИИ», требующий от разработчиков моделей стоимостью 100 миллионов долларов или более поддерживать техническую возможность ограничивать или отключать их.

      Китай действовал иначе. Си Цзиньпин использовал Всемирную конференцию по ИИ в Шанхае, чтобы позиционировать Пекин как естественного лидера глобального управления ИИ, и 29 стран подписали новое Соглашение о Всемирной организации сотрудничества в области искусственного интеллекта, которое было заметно легким на конкретике.

      Проблема ресурсов

      Подразделение внутри Офиса ИИ, ответственное за оценку передовых моделей, насчитывает 36 человек. Это команда, которая должна привлечь OpenAI, Anthropic и Google к ответственности по четырем категориям катастрофического риска.

      Пять депутатов Европейского парламента из разных политических групп написали в Комиссию 18 мая, предупреждая, что «траектория ресурсов Офиса ИИ, похоже, не соответствует масштабу и сложности его предстоящих задач». Подписанты включали Брандо Бенифея, Сергея Лагодинского, Кима ван Спаррентака, Аксля Восса и Кристиана Вигенина.

      Доступ также был проблемой. Офис ИИ и его внешние оценщики в последние месяцы испытывали трудности с получением доступа к некоторым передовым моделям, включая Mythos от Anthropic, и Комиссия пообещала план для структурированного доступа в рамках своего кибер- и ИИ-плана действий.

      Узнав об этом из блога

      Бенифей, ведущий по ИИ в Парламенте, был прямолинеен в том, как Брюссель узнал об этом. «Автономный агент покинул свою тестовую среду и скомпрометировал производственные системы другой компании, и мы узнали об этом из корпоративного блога», — сказал он.

      «Компании должны принимать превентивные меры, а не просто корректирующие действия после того, как вред уже нанесен», — сказал Ристо Уук, глава европейской политики и исследований в Институте будущего жизни. Мыслительные группы, депутаты и десятки экспертов по ИИ подписали открытое письмо в этом месяце, призывая Офис ИИ активно использовать свои полномочия, как только возникают опасения.

      Регулирование отрасли, которой нет в Европе

      Неловкая реальность заключается в том, что Закон о ИИ в основном будет контролировать неевропейские компании. Американские лаборатории соревнуются с китайскими конкурентами, а Европа судит соревнование, в котором не участвует.

      Moonshot представила Kimi K3 в этом месяце, систему с 2,8 триллиона параметров, которая позиционируется как самая большая модель с открытыми весами в мире, которую разработчики оценили выше как GPT-5.6 Sol, так и Fable 5 в слепом рейтинге кодирования. Открытые веса усложняют соблюдение правил так, как это не делают закрытые модели.

      Mistral конкурирует, но в Европе нет ведущей альтернативы в отрасли. «То, что остается недостающим, — это вторая половина уравнения», — сказал Лагодинский, депутат от немецких Зеленых, следящий за внедрением закона, «капитал для финансирования наших собственных альтернатив».

      Полномочия приходят, когда Закон сокращается

      Существует противодействующее давление. Брюссель заключил сделку, чтобы сократить части Закона о ИИ, даже когда эти положения о соблюдении вступают в силу, и Парламент отложил большинство обязательств с высоким риском до 2027 и 2028 годов.

      Широкая картина управления фрагментируется, а не конвергируется. Уход Америки от мер безопасности имеет последствия далеко за ее пределами, и Трамп и Си должны встретиться в Вашингтоне в сентябре с ИИ в повестке дня.

      «Это момент, когда Закон о ИИ выходит на геополитическую арену», — сказал Лагодинский. Вопрос в том, смогут ли 36 человек донести его туда, остается открытым после воскресенья.