Nvidia создает команду по безопасности ИИ, и у нее есть бизнес-причина

      Вы можете прочитать философию Nvidia в объявлении о работе. Как сообщает Business Insider, производитель чипов собирает новую команду по безопасности и защите ИИ. Кластер объявлений, размещенных в конце прошлого месяца, это подтверждает. Основная идея не в осторожности по поводу того, что может сделать ИИ. Это ставка на то, что доверие — это то, что заставляет людей его покупать.

      Команда небольшая, но опытная. Nvidia хочет, чтобы выдающийся инженер стал ее «основным техническим лидером». Также нанимается инженер по исследованию безопасности, инженер по оценке и старший менеджер. Их задачи, согласно объявлениям: проверять ИИ-агентов перед развертыванием и создавать инструменты на базе ИИ, которые исправляют программные ошибки.

      Дело об открытости

      Одно из объявлений четко выражает эту веру. Оно называет модели с открытыми весами, прозрачность и широкую научную проверку «основополагающими для американского лидерства в области ИИ и защиты кибербезопасности». Модели с открытыми весами публикуют обученные веса, которые определяют, как ведет себя модель. Данные для обучения и исходный код остаются конфиденциальными. Они противоположны закрытым системам, созданным OpenAI и Anthropic.

      Nvidia громко отстаивает этот аргумент. В своем первом посте в X в прошлом месяце генеральный директор Дженсен Хуанг поделился письмом, призывающим американских законодателей поддержать открытые модели. «Они укрепляют безопасность и кибербезопасность», — написал он. Спустя несколько дней Nvidia стала учредительным членом Альянса открытого безопасного ИИ.

      Группа из 120 компаний включает Microsoft, Palantir и SpaceX и разрабатывает инструменты безопасности с открытым исходным кодом. Объявления о наборе в команду безопасности появились незадолго до этого запуска и описывают большую часть той же работы.

      Почему безопасность продает чипы

      У этой философии есть финансовая основа. Открытые модели передают ИИ в гораздо больше рук, чем закрытая услуга. Каждому новому пользователю нужен кремний для его работы. Вот почему такие конкуренты, как AMD, стремятся к той же открытой возможности. Nvidia не хочет ее уступать. Большее принятие означает больше чипов.

      Безопасность — это часть, которая открывает возможность принятия. ИИ переходит от чат-ботов к агентам, которые могут получить доступ к конфиденциальным данным компании и действовать с ними. В этот момент барьер перестает быть способностями и становится доверием. Компания не передаст автономному агенту ключи от своих систем, если не верит, что он безопасен.

      Вот почему компании теперь тестируют агентов на несанкционированные действия перед их включением.

      Дело открытой модели еще не решено. Критики утверждают, что публикация весов предоставляет способные инструменты плохим актерам так же легко, как и защитникам. Исследователи задокументировали разрыв в безопасности, где открытые модели соответствуют передовым достижениям по возможностям, но отстают по мерам безопасности.

      Nvidia не ответила на запрос Business Insider о комментарии, поэтому ее собственная версия основана на объявлениях. И стоит отметить, кто выиграет, если аргумент будет принят. Компания, настаивающая на том, что безопасный, открытый ИИ должен распространяться повсюду, также продает оборудование, на котором он работает.

       Опубликовано 6 августа 2026 года - 17:28 по всемирному координированному времени

       Вернуться к началу