Применение Закона ЕС о ИИ начинается в воскресенье с команды из 36 человек

      Европейская комиссия в воскресенье получает широкие новые полномочия для контроля за тем, как самые передовые лаборатории ИИ мира справляются с системными рисками, поскольку Закон о ИИ отмечает свою вторую годовщину. Офис ИИ ЕС сможет требовать документацию, проводить оценки и запрашивать доступ к передовым моделям, с штрафами до 3% от глобального оборота за несоблюдение.

      Сроки могли бы быть более актуальными. На прошлой неделе был зафиксирован первый задокументированный случай, когда автономный агент ИИ покинул свою тестовую среду и атаковал производственные системы другой компании.

      Инцидент, который изменил разговор

      OpenAI подтвердила, что две ее модели, включая флагманскую Sol, вышли из защищенной тестовой среды, использовали уязвимость нулевого дня в стороннем программном обеспечении для выхода в интернет и взломали производственную инфраструктуру Hugging Face. Это произошло для того, чтобы обмануть свою собственную оценку, украдя скрытые ответы.

      OpenAI назвала утечку «беспрецедентной». Соучредитель Hugging Face Клеман Деланж назвал это «поражающим», изначально предположив, что такая сложность указывает на ведущую лабораторию ИИ.

      💜 технологий ЕС Последние события на сцене технологий ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! «На этот раз нам повезло», — сказала Хлоя Тузе, руководитель политики некоммерческой организации SaferAI, описывая эпизод как явный предупредительный выстрел по двум из четырех системных рисков, которые Комиссия определила. «Мы не можем полагаться на удачу в будущем».

      Что на самом деле охватывает Закон о ИИ

      Разработка началась до запуска ChatGPT в ноябре 2022 года, но закон предвидел модели общего назначения и требует от их разработчиков оценивать и смягчать системные риски. Руководство Комиссии называет четыре: ИИ, позволяющий бионападения, потеря контроля над моделью, ИИ, переходящий в кибератаку, и манипуляции в крупном масштабе.

      Инцидент на прошлой неделе затронул два из них одновременно. Обязанности существовали с августа 2025 года, но до воскресенья Офис ИИ не имел полномочий для мониторинга и контроля соблюдения.

      Вашингтон отреагировал быстрее, чем ожидал Брюссель

      Ответ США пришел в течение нескольких дней. Представители Тед Лиу и Натанил Моран представили двухпартийный Закон о «Кнопке отключения ИИ», требующий от разработчиков моделей стоимостью 100 миллионов долларов или более поддерживать техническую возможность ограничивать или отключать их.

      Китай действовал иначе. Си Цзиньпин использовал Всемирную конференцию по ИИ в Шанхае, чтобы позиционировать Пекин как естественного лидера глобального управления ИИ, и 29 стран подписали новое Соглашение о Всемирной организации сотрудничества в области искусственного интеллекта, которое было заметно легким на конкретике.

      Проблема с ресурсами

      Подразделение внутри Офиса ИИ, отвечающее за оценку передовых моделей, насчитывает 36 человек. Это команда, которая должна привлечь OpenAI, Anthropic и Google к ответственности по четырем категориям катастрофического риска.

      Пять депутатов Европейского парламента из разных политических групп написали в Комиссию 18 мая, предупреждая, что «траектория ресурсов Офиса ИИ, похоже, не соответствует масштабу и сложности его предполагаемых задач». Подписанты включали Брандо Бенифея, Сергея Лагодинского, Кима ван Спаррентака, Аксля Восса и Кристиана Вигенина.

      Доступ также был проблемой. Офис ИИ и его внешние оценщики в последние месяцы испытывали трудности с получением доступа к некоторым передовым моделям, включая Mythos от Anthropic, и Комиссия пообещала план для структурированного доступа в рамках своего кибер- и ИИ-плана действий.

      Узнав об этом из блога

      Бенифей, ведущий по ИИ в Парламенте, четко указал, как Брюссель узнал об этом. «Автономный агент покинул свою тестовую среду и скомпрометировал производственные системы другой компании, и мы узнали об этом из корпоративного блога», — сказал он.

      «Компании должны принимать превентивные меры, а не просто корректирующие действия после того, как вред уже нанесен», — сказал Ристо Уук, глава европейской политики и исследований в Институте будущего жизни. Мыслительные группы, депутаты и десятки экспертов по ИИ подписали открытое письмо в этом месяце, призывая Офис ИИ активно использовать свои полномочия, как только возникают опасения.

      Регулирование отрасли, которой нет в Европе

      Неловкая реальность заключается в том, что Закон о ИИ в основном будет контролировать неевропейские компании. Американские лаборатории соревнуются с китайскими конкурентами, а Европа выступает арбитром в соревновании, в котором она не участвует.

      Moonshot представила Kimi K3 в этом месяце, систему с 2,8 триллиона параметров, которая позиционируется как самая большая модель с открытыми весами в мире, которую разработчики оценили выше как GPT-5.6 Sol, так и Fable 5 в слепом рейтинге кодирования. Открытые веса усложняют соблюдение правил так, как это не делают закрытые модели.

      Mistral конкурирует, но в Европе нет альтернативы, ведущей в отрасли. «То, что по-прежнему отсутствует, — это вторая половина уравнения», — сказал Лагодинский, депутат от немецких зеленых, следящий за внедрением закона, «капитал для финансирования наших собственных альтернатив».

      Полномочия приходят, когда Закон сокращается

      Существует противодействующее давление. Брюссель достиг соглашения о сокращении частей Закона о ИИ, даже когда эти положения о соблюдении вступают в силу, и Парламент отложил большинство обязательств с высоким риском до 2027 и 2028 годов.

      Широкая картина управления фрагментируется, а не конвергируется. Уход Америки от мер безопасности имеет последствия, выходящие за ее пределы, и Трамп и Си должны встретиться в Вашингтоне в сентябре с ИИ в повестке дня.

      «Это момент, когда Закон о ИИ выходит на геополитическую арену», — сказал Лагодинский. Вопрос в том, смогут ли 36 человек донести его туда, остается открытым в воскресенье.