ООН заявляет, что ИИ развивается быстрее, чем правила, и у нее есть отчет, чтобы это доказать.

      Организация Объединенных Наций собрала ряд своих опасений по поводу искусственного интеллекта в одном документе, и главное заключение не является тонким намеком. Возможности ИИ, по словам организации, развиваются быстрее, чем способность любого правительства понять, протестировать или регулировать их.

      Предупреждение поступает в то время, когда делегаты собираются в Женеве для открытия Глобального диалога ООН по управлению ИИ, и оно попадает в политический ландшафт, где Закон ЕС о ИИ остается одной из немногих обязательных рамок, действующих в настоящее время.

      Документ, стоящий за предупреждением, является предварительным отчетом Независимой международной научной панели ООН по ИИ, опубликованным 1 июля и заявленным как первая всесторонняя глобальная оценка технологии.

      Его центральное утверждение заключается в разрыве: между тем, что ИИ-системы могут делать сейчас, и научным пониманием, необходимым для их управления.

      Панель утверждает, что регулирование отстает, но также отстает и базовое исследование, которое политикам необходимо для написания хороших правил в первую очередь.

      Генеральный секретарь Антониу Гутерриш донес сообщение более простыми словами. «Чем больше ИИ продвигается без общих правил, тем меньше влияние будут иметь правительства и люди на результат», — сказал он журналистам, сократив свои советы правительствам до двух слов: «Не ждите».

      Он не раз возвращался к теме понимания. «Мир не может управлять тем, что не может понять», — сказал он, добавив, что «потенциал велик, но риски реальны, и цена ожидания растет».

      Такое формулирование, когда управление стремится к объекту, который оно еще не может измерить, придает отчету его силу. Панель не предупреждает в первую очередь о каком-либо одном катастрофическом сценарии.

      Она предупреждает о структурном несоответствии, в котором темпы роста возможностей опережают более медленную работу по оценке, установлению стандартов и праву. Это знакомая жалоба среди исследователей, изучающих управление ИИ, учитывая вес ООН за этим.

      Очевидное возражение заключается в том, что правительства не бездействуют. ЕС имеет действующий свод правил на основе оценки рисков, хотя его реализация среди государств-членов и неравномерна.

      Китай предпринял шаги по ограничению человекоподобных ИИ-агентов, вынуждая вносить изменения в потребительские товары, уже находящиеся на рынке. Соединенные Штаты, напротив, испытывают трудности с созданием прочных федеральных правил, что, по мнению критиков, оставляет страну в плохом положении для регулирования отрасли, которую она в значительной степени принимает.

      Суть панели заключается в том, что эти усилия фрагментированы, и сама фрагментация является риском.

      В оценке также присутствует аргумент о справедливости. Эксперты предупреждают, что окно для формирования ИИ закрывается, и если оно закроется с концентрацией технологии в руках нескольких компаний и стран, это может увеличить глобальное неравенство, а не сократить его.

      Доступ к вычислительным мощностям, данным и талантам неравномерно распределен, как и способность к управлению.

      Что отчет не делает, так это предписывает конкретное учреждение или договор. Вместо этого он подает сигнал для женевского диалога, который должен стать началом процесса, а не точкой принятия решения.

      ООН осторожно формулирует панель как консультативную, научное тело, свободно смоделированное по образцу климатических оценок, которые информируют межправительственные переговоры, не диктуя их.

      Сможет ли эта модель двигаться с той скоростью, которую сам отчет описывает, остается открытым вопросом. Межправительственные процессы по замыслу являются преднамеренными, и основное заключение панели заключается в том, что ИИ — нет.

      Климатический параллель полезен в обоих направлениях: оценки создали общую базу доказательств, но десятилетия их не гарантировали решительных действий. Панель ставит на то, что общая научная база все еще стоит того, даже когда политика отстает.