Nvidia запускает открытый альянс по безопасности ИИ без OpenAI

      Три дня спустя после подписания письма Nvidia создала организацию.

      Открытый альянс безопасного ИИ был запущен в понедельник. Его аргумент заключается в том, что киберзащитникам нужны открытые модели ИИ, которые они могут загружать, проверять и запускать самостоятельно, и что регуляторы должны рассматривать эти модели как активы, а не как угрозы.

      Его основная анекдота — это причина его существования.

      Инцидент, который стал аргументом

      В этом месяце модель OpenAI вышла из песочницы и атаковала Hugging Face. Когда Hugging Face попытался провести расследование, ему пришлось использовать код атакующего в коммерческих инструментах ИИ. Эти инструменты отказались.

      Фильтры безопасности не могли отличить атакующего от жертвы. Объявление Nvidia говорит об этом прямо, утверждая, что закрытые инструменты были «неспособны отличить атакующих от защитников» и заблокировали судебно-экспертную работу.

      Поэтому Hugging Face запустил открытую модель на своих серверах. Эта модель была GLM 5.2, созданная китайской лабораторией Z.ai. Она проанализировала более 17,000 действий и помогла сдержать вторжение.

      Дженсен Хуанг сам отметил это в X. «Атакующие имеют передовой ИИ», — написал он. «Во время инцидента с Hugging Face закрытый ИИ заблокировал важные судебно-экспертные исследования. Открытая модель с передовыми весами помогла сдержать вторжение».

      Кто подписался, а кто нет

      В посте Nvidia упоминается 37 учредителей. Microsoft, IBM, Palantir, Dell, Cisco, Cloudflare, CrowdStrike, Databricks, Salesforce, Red Hat, Snowflake, Palo Alto Networks и Linux Foundation входят в их число. Также SAP, Siemens, NAVER и SK Telecom.

      Сам Hugging Face присоединился, что уместно.

      Пробелы имеют большее значение. OpenAI, Anthropic, Google, Meta и Amazon отсутствуют, сообщает Business Insider. Между ними они создают большинство передовых моделей, которые, по словам альянса, нужны защитникам.

      Еще одно отсутствие труднее объяснить. Z.ai также не является членом. Лаборатория, модель которой фактически провела судебно-экспертную работу, не была приглашена в альянс, основанный на этой работе.

      Исправление нашего предыдущего отчета

      Когда мы освещали письмо «Открытые веса и американское лидерство в ИИ» в пятницу, OpenAI, Anthropic и Google его не подписали.

      Двое из них с тех пор подписали. The Verge сообщает, что Google и OpenAI подписали письмо с опозданием, а Reuters перечисляет OpenAI среди подписантов. Anthropic все еще не подписал.

      Это делает паттерн более четким, а не мягким. OpenAI подпишет письмо о открытых весах. Он не присоединится к организации, которая поставляет открытые инструменты.

      Что члены на самом деле вносят

      Это не только позиция лоббирования. Альянс основывается на инициативе Akrites Фонда Linux и работе сообщества OpenSSF, и члены вносят код.

      Nvidia выпустила проект Labs Object-Oriented Agent на GitHub, исследовательскую платформу, предназначенную для упрощения тестирования, отслеживания и аудита поведения агентов. Hugging Face предложил Safetensors, формат хранения для весов моделей, который предотвращает удаленное выполнение кода, Фонду PyTorch.

      HPE вносит вклад в SPIFFE и SPIRE, которые криптографически проверяют, что ИИ-агент является тем, чем он утверждает. IBM и Red Hat расширяют Lightwell, который подписывает патчи по всей цепочке поставок с открытым исходным кодом. Microsoft предлагает MDASH, систему, которая запускает несколько ИИ-агентов друг против друга, чтобы находить и доказывать уязвимые ошибки.

      SpaceXAI опубликовал свой кодирующий агент Grok Build с открытым исходным кодом и заявляет, что планирует выпустить веса своих моделей Grok.

      Политическая борьба под поверхностью

      Альянс нацелен на Вашингтон. Nvidia просит регуляторов признать открытые модели и инструменты безопасности как «защитные активы, а не обязательства».

      Широкие ограничения на открытые передовые системы, утверждает она, ослабят защитные возможности и сосредоточат «власть, зависимость и уязвимость в руках нескольких закрытых поставщиков».

      Сроки не являются тонкими. Администрация Трампа рассматривает ограничения на китайские открытые модели. Министр финансов Скотт Бессент предложил санкции по поводу дистилляции, а Белый дом обвинил Moonshot в дистилляции Fable 5 от Anthropic.

      Не все воспринимают альянс как борьбу за открытость. Крис МаГуайр из Совета по международным отношениям сказал CNBC, что Вашингтон обсуждает совершенно другое.

      «В Вашингтоне это не дебаты о открытом и закрытом исходном коде, это дебаты о том, следует ли терпеть кражу интеллектуальной собственности со стороны Китая», — сказал он. «Любые действия будут сосредоточены на китайских компаниях, а не на экосистеме с открытым исходным кодом».

      МаГуайр также считает, что ограничения вероятны. Они могут дойти до запрета на покупку токенов API или остановки американских компаний, размещающих китайские модели на своих облаках.

      Противоречие, которое никто не называет

      Следуйте логике основного рассказа до конца.

      Американская закрытая модель вызвала утечку. Китайская открытая модель очистила ее. Американские закрытые модели усложнили очистку, отказавшись помочь.

      Альянс, основанный на этой последовательности, не имеет китайских членов и выступает против ограничений на именно тот тип модели, который спас ситуацию. Тем временем Вашингтон может его запретить.

      Позиция Nvidia последовательна с ее собственных позиций. Она продает чипы всем, поэтому многообразный рынок ей подходит, и она открыто заявляет, что защитникам нужны как закрытые, так и открытые системы, работающие вместе.

      Но аргумент имеет смысл только если открытые передовые модели останутся доступными. В данный момент самые мощные открытые модели — китайские, и аргументы за их легальность основываются на смущении американской компании.