Основатель Zhipu выступает за открытый фронтир ИИ

      Основатель самой выдающейся лаборатории ИИ в Китае четко высказал свою позицию в пользу открытости. Передовой ИИ должен оставаться в широком доступе, а не контролироваться избранными, написал Тан Цзие из Zhipu в внутренней записке, рассмотренной Bloomberg.

      Его аргумент переворачивает обычную логику безопасности. Реальная безопасность приходит от широкого участия, обмена и контроля, а не от технологических барьеров, сказал он.

      Zhipu подтвердил это продуктом. Он выпустил GLM-5.2 под лицензией с открытым исходным кодом, доступным для загрузки и коммерциализации.

      Неудобное время

      Тан сделал эти комментарии вскоре после того, как Reuters сообщило, что Пекин рассматривает противоположное. Китайские чиновники взвешивают ограничения на доступ за границей к самым продвинутым открытым моделям страны.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Это ставит основателя Zhipu в противоречие с направлением движения в его собственной столице. Открытость была стратегическим преимуществом Китая, и теперь его правительство задается вопросом, не отдало ли оно слишком много.

      У компании есть коммерческие причины желать открытой двери. Ее модели распространились по всему миру именно потому, что они бесплатные, и дешевые китайские модели теперь приближаются к передовым лабораториям США.

      Это не делает аргумент неправильным. Это означает, что человек, который его высказывает, может извлечь из этого выгоду, что верно для почти всех участников этого дебата.

      Аргумент, который он приводит

      Аргумент в пользу безопасности с открытым исходным кодом не является маргинальным. Его логика заключается в том, что множество независимых глаз на систему находят недостатки быстрее, чем небольшая команда за стеной.

      Защитники приводят тот же аргумент. Когда Вашингтон ограничил передовую модель, 100 экспертов по кибербезопасности подписали открытое письмо, утверждая, что запрет больше вредит защитникам, чем нападающим.

      Нападающие, по их словам, все равно получат способные модели. Люди, которые остаются за бортом, — это исследователи и команды безопасности, пытающиеся не отставать.

      Аргумент против

      У закрытого лагеря есть простой ответ. Модель с открытым весом не может быть отозвана, исправлена или отключена после загрузки.

      Публикация передовых возможностей означает публикацию их для всех, включая людей, создающих биологическое оружие или кибератаки промышленного масштаба. Защитные механизмы, встроенные в модель, могут быть удалены любым, у кого есть веса и скромный бюджет.

      Обе стороны описывают реальные риски. Разногласие заключается в том, какой риск больше, и пока нет четкого эмпирического ответа.

      Почему это важно сейчас

      Zhipu больше не является любопытством. Он привлек миллиарды, вышел на биржу в Гонконге, и его продажа акций вызвала высокий спрос со стороны инвесторов, ставящих на то, что китайский ИИ заполнит пробел, оставленный ограниченными моделями США.

      Таким образом, вопрос больше не является академическим. Если Китай действительно ограничит свои открытые модели, главный источник бесплатного передового ИИ в мире закроется одновременно с американскими.

      Тан выступает против этого исхода изнутри страны, которая, скорее всего, его вызовет. То, слушает ли кто-то в Пекине, — это то, что он не может контролировать.