Первый глобальный научный совет ООН по ИИ предупреждает, что окно для регулирования технологии закрывается.

      Искусственный интеллект развивается быстрее, чем правительства могут его регулировать, и первое в мире глобальное научное учреждение по этой технологии заявляет, что момент для действий — сейчас.

      Таков вывод предварительного отчета Независимой международной научной панели ООН по искусственному интеллекту, представленного в среду перед крупным саммитом по вопросам управления в Женеве. Панель предупреждает, что окно для установления эффективного глобального контроля остается открытым, но может не оставаться таким долго.

      Ее главная забота — концентрация. Согласно отчету, Соединенные Штаты контролируют около трех четвертей вычислительной мощности, стоящей за ведущими суперкомпьютерами ИИ в мире, в то время как Китай владеет примерно 15%.

      Вместе это дает двум странам около 90% вычислительных мощностей, которые обучают самые мощные системы. Большинство передовых моделей также создаются компаниями, расположенными в этих двух странах.

      Скорость — это проблема

      Отчет описывает «дилемму доказательств» в центре политики ИИ. Политики хотят надежные научные данные, прежде чем принимать законы, отмечает панель, но к тому времени, когда достаточно доказательств накапливается, технология часто уже продвинулась вперед.

      Исследователи, упомянутые в отчете, утверждают, что сложность задач, которые могут выполнять эти системы, удваивается каждые несколько месяцев. Следующая волна уже приходит в виде ИИ «агентов», которые могут планировать задачи, использовать цифровые инструменты и писать программное обеспечение с минимальным человеческим контролем.

      Эта автономия быстро распространяется в финансовом и коммерческом секторах, где компании уже передают агентам реальные решения и, в некоторых случаях, деньги для расходов.

      Отчет осторожен, чтобы не восприниматься как документ о конце света. Он указывает на системы ИИ, которые предсказали структуры более 200 миллионов белков, работа, возглавляемая AlphaFold от Google DeepMind и теперь используемая для ускорения открытия лекарств и исследований по антибиотикорезистентности.

      Врачи используют ИИ для более раннего выявления заболеваний, таких как рак груди, а системы раннего предупреждения сигнализируют о продовольственной нестабильности до того, как она перерастет в кризис, согласно данным панели.

      При ответственном использовании, утверждает панель, эта технология может ускорить прогресс к Целям устойчивого развития ООН в области здравоохранения, образования и сельского хозяйства.

      Риски, за которыми она хочет, чтобы правительства следили

      Те же инструменты способствуют распространению материалов сексуального насилия и дипфейков, при этом женщины и дети находятся в наибольшей опасности, отмечает отчет. Он также указывает на дезинформацию, сгенерированную ИИ, кибератаки и мошенничество, наряду с вредом для психического здоровья от систем, которые могут укреплять опасные убеждения.

      Затем есть физический след, поскольку энергозатратные дата-центры, которые питают ИИ, увеличивают выбросы парниковых газов, о чем ООН отдельно призвала компании быть более открытыми.

      Бедные страны, предупреждает панель, рискуют быть полностью исключенными, не имея возможности строить, проверять или аудитировать системы, от которых они все больше зависят.

      Созданный Генеральной Ассамблеей ООН в 2025 году, этот орган объединяет 40 экспертов из каждого региона, действующих в личном качестве.

      Его роль научная, а не регулирующая, что означает, что он оценивает доказательства и публикует отчеты, на которые могут опираться правительства, не устанавливая правил или не применяя стандарты.

      В отчете отмечается, что в мире уже существует более 40 рамок управления ИИ и этических рекомендаций, однако они остаются фрагментированными, непоследовательными и редко проверяются на эффективность. Многие оценки безопасности, добавляет он, все еще проводятся самими компаниями, создающими технологию.

      Панель призывает к более строгой независимой оценке, международному сотрудничеству и общим стандартам, что перекликается с направлением, заданным Законом ЕС о ИИ. Ее выводы теперь вливаются в Глобальный диалог ООН по управлению ИИ, который откроется в Женеве 6 июля.

      Основной вывод панели прост: ИИ не является ни по своей сути хорошим, ни плохим, и его влияние будет зависеть от решений, принятых сегодня.