ООН заявляет, что ИИ движется быстрее, чем правила, и у нее есть отчет, чтобы это доказать.

      Организация Объединенных Наций собрала ряд своих опасений по поводу искусственного интеллекта в едином документе, и главное заключение не является тонким намеком. Возможности ИИ, по словам организации, развиваются быстрее, чем способность любого правительства понять, протестировать или регулировать их.

      Предупреждение поступает в то время, когда делегаты собираются в Женеве для открытия Глобального диалога ООН по управлению ИИ, и оно попадает в политический ландшафт, где Закон ЕС о ИИ остается одной из немногих обязательных рамок, действующих в настоящее время.

      Документ, стоящий за предупреждением, является предварительным отчетом Независимой международной научной панели ООН по ИИ, опубликованным 1 июля и заявленным как первая всесторонняя глобальная оценка технологии.

      Его центральное утверждение заключается в разрыве: между тем, что ИИ-системы могут делать сейчас, и научным пониманием, необходимым для их управления.

      Панель утверждает, что регулирование отстает, но также отстает и фундаментальное исследование, которое политикам нужно для написания хороших правил с самого начала.

      Генеральный секретарь Антониу Гутерриш донес сообщение более простыми словами. "Чем больше ИИ продвигается без общих правил, тем меньше влияние будет у правительств и людей на результат", - сказал он журналистам, сократив свои советы правительствам до двух слов: "Не ждите".

      Он не раз возвращался к теме понимания. "Мир не может управлять тем, что не может понять", - сказал он, добавив, что "потенциал велик, но риски реальны, и стоимость ожидания растет".

      Такое формулирование, когда управление гонится за объектом, который оно еще не может измерить, придает отчету его силу. Панель не предупреждает в первую очередь о каком-либо одном катастрофическом сценарии.

      Она предупреждает о структурном несоответствии, в котором темпы прироста возможностей опережают более медленную работу по оценке, установлению стандартов и праву. Это знакомая жалоба среди исследователей, изучающих управление ИИ, учитывая вес ООН за этим.

      Очевидное возражение заключается в том, что правительства не бездействуют. В ЕС действует свод правил, основанный на рисках, хотя его реализация среди государств-членов осуществляется неравномерно.

      Китай предпринял шаги по ограничению человекоподобных ИИ-агентов, вынуждая вносить изменения в потребительские товары, уже находящиеся на рынке. Соединенные Штаты, напротив, испытывают трудности с созданием устойчивых федеральных правил, что, по мнению критиков, оставляет страну в плохом положении для регулирования отрасли, которую она в значительной степени принимает.

      Суть панели заключается в том, что эти усилия фрагментированы, и эта фрагментация сама по себе является риском.

      В оценке также присутствует аргумент справедливости. Эксперты предупреждают, что окно для формирования ИИ закрывается, и если оно закроется с концентрацией технологии в руках нескольких компаний и стран, результат может увеличить глобальное неравенство, а не сократить его.

      Доступ к вычислительным мощностям, данным и талантам неравномерно распределен, как и способность к управлению.

      Что отчет не делает, так это предписывает конкретный институт или договор. Вместо этого он вписывается в женевский диалог, который должен стать началом процесса, а не точкой принятия решения.

      ООН осторожно формулирует панель как консультативную, научный орган, свободно смоделированный по образцу климатических оценок, которые информируют межправительственные переговоры, не диктуя их.

      Сможет ли эта модель двигаться с той скоростью, которую сам отчет описывает, остается открытым вопросом. Межправительственные процессы по замыслу являются преднамеренными, и основное заключение панели заключается в том, что ИИ не является таковым.

      Климатический параллель полезен в обоих направлениях: оценки создали общую базу доказательств, но десятилетия их не гарантировали решительных действий. Панель ставит на то, что общая научная база все еще стоит того, даже когда политика отстает.