Крупнейшие соперники ИИ объединяются вокруг регулирования ИИ

      Люди, создающие самые мощные ИИ, редко соглашаются друг с другом. На этой неделе трое из них согласились по одному важному вопросу. Границы нужно регулировать, и скоро.

      За пять недель руководители Google DeepMind, OpenAI и Anthropic опубликовали меморандумы о том, как контролировать самые мощные модели ИИ, сообщает Axios. Их диагнозы почти полностью совпадают.

      Где они согласны

      Все трое хотят, чтобы пограничные модели тестировались независимыми экспертами перед выпуском. Это нарушает старую привычку отрасли к саморегулированию. Все трое также хотят, чтобы был создан единый орган для установления стандартов, сертификации соблюдения и ограничения доступа к моделям, признанным слишком опасными.

      Они также согласны с тем, кто должен возглавлять. Каждый хочет, чтобы США были ответственными, а не разрозненные штаты или конкурирующие национальные правила. Каждый указывает на краткосрочные риски национальной безопасности, от кибератак до биологического оружия. И никто не призывает к широкомасштабным репрессиям. Цель — небольшая группа самых мощных моделей.

      Где они расходятся

      Соперники расходятся во мнении о том, насколько жестко правительство должно держать кнопку. Амодеи, который также призывал к согласованной паузе в развитии пограничного ИИ, хочет создать FAA для ИИ: федеральное агентство, которое может полностью заблокировать выпуск.

      Хассабис хочет создать орган в стиле FINRA, финансируемый отраслью, но контролируемый правительством, начиная с добровольных проверок. Альтман, пишущий в Financial Times, хочет международный форум в стиле МАГАТЭ, который использует доступ к моделям и рынкам в качестве рычага.

      Редкое перемирие

      План Хассабиса, опубликованный во вторник, получил необычные похвалы в условиях жесткой конкуренции. Альтман назвал его «вдумчивым». Сатья Наделла из Microsoft сказал, что цель заключается в «экосистеме на границе, которая способствует инновациям и выбору». Даже Илон Маск, который на этой неделе не является другом Альтмана, назвал это «хорошей отправной точкой». Джек Кларк из Anthropic назвал структуру «отличной».

      Сроки не случайны. За те же пять недель Вашингтон дважды вмешивался, чтобы ограничить или задержать пограничные модели, сначала Fable и Mythos от Anthropic, затем GPT-5.6 от OpenAI, из-за опасений по поводу киберугроз. Администрация Трампа публично выступает против регулирования, но в частном порядке менее уверена, что подход без вмешательства может сработать. Говорят, что Марк Цукерберг из Meta готовит свой собственный меморандум.

      Подводный камень

      Не все радуются. OpenAI, Google и Anthropic уже имеют юристов, команды безопасности и связи с Вашингтоном, чтобы справиться с тяжелым процессом сертификации. Стартапы и разработчики с открытым исходным кодом этого не имеют. Критики предупреждают, что результатом может стать захват регулирования: правила безопасности, которые тихо укрепляют крупнейшие лаборатории. Это те же соперники, которые спорили на G7 несколько недель назад, теперь активно лоббируя эти правила.