Цифровое агентство ООН запускает инициативу по созданию надежных ИИ-агентов

      Цифровое агентство Организации Объединенных Наций решило, что агенты ИИ движутся быстрее, чем кто-либо может им доверять, и хочет что-то с этим сделать. 9 июля Международный союз электросвязи использовал свой саммит AI for Good в Женеве, чтобы запустить инициативу, направленную на то, чтобы все более автономные системы ИИ оставались идентифицируемыми, подотчетными и находились под значимым человеческим контролем.

      Механизмом является фокус-группа, стандартный инструмент ИТЮ для сбора экспертов до того, как будет принят какой-либо формальный стандарт. Ее задача будет заключаться в разработке рамок для агентов ИИ, которые могут быть признаны за то, чем они являются, им можно доверять действовать в рамках ограничений, и они должны быть подотчетны людям, от имени которых они действуют.

      Беспокойство, движущее этим, конкретно, а не абстрактно. Агенты ИИ предназначены для того, чтобы действовать независимо от имени пользователя, обрабатывая все, от планирования до сложных бизнес-процессов, что означает, что они также могут выдавать себя за людей и принимать решения, на которые никто явно не давал разрешения. По мере увеличения числа агентов ИТЮ утверждает, что отсутствие общих правил для их идентификации и ограничения становится системным риском.

      Это беспокойство не уникально для Женевы. Широкая индустрия провела последний год, открывая для себя, что безопасность агентов в значительной степени не решена, и многие организации не могут сказать, сколько агентов они используют или что каждый из них имеет право делать.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! ИТЮ предлагает решить на уровне международных стандартов то, что компании до сих пор импровизировали внутри.

      Группа соберет технических, политических и юридических экспертов, отражая предпочтение ИТЮ к многостороннему консенсусу, а не к сверху вниз мандатам.

      Заявленная цель — преодолеть фрагментированный регуляторный ландшафт, в котором разные юрисдикции пишут несовместимые правила для одной и той же технологии, часто одновременно.

      Эта фрагментация реальна. Китай уже выпустил национальные стандарты, касающиеся того, как агенты идентифицируют себя и взаимодействуют, часть более широкого ужесточения своих правил для агентов, в то время как другие правительства и блоки приняли разные подходы. Организация ООН, пытающаяся гармонизировать эту область, по меньшей мере признает, что текущая мозаика не масштабируется.

      Работа будет происходить по заранее установленному графику. Фокус-группа запланировала провести свое первое заседание в Париже в ноябре и второе в Женеве в январе, при этом ожидается, что результаты будут техническими рекомендациями, а не обязательным регулированием.

      ИТЮ устанавливает стандарты; он не обеспечивает их соблюдение, и его влияние зависит от того, примут ли индустрия и правительства то, что он производит.

      Это встроенное ограничение упражнения. Фокус-группа — это медленный инструмент, а агенты ИИ — быстро движущаяся цель. Между ноябрем и тем, что группа в конечном итоге порекомендует, технология продвинется вперед, и компании, внедряющие ее, установят фактические стандарты, как это уже произошло с идентичностью агентов.

      Тем не менее, стандартизация — это то, откуда обычно возникает совместимость, и идентичность — это именно та проблема, которая выигрывает от общего технического языка. Если агенты от разных поставщиков собираются взаимодействовать друг с другом и с людьми, должен существовать какой-то общий способ доказать, что такое агент и кому он подотчетен. ИТЮ ставит на то, что сможет помочь написать эту грамматику, прежде чем рынок зафиксирует что-то худшее.

      ИТЮ является естественной площадкой для этой попытки, хотя и несовершенной. Это тот же орган, который десятилетиями разрабатывал стандарты для телефонных сетей, радиочастотного спектра и инфраструктуры интернета, неприметные соглашения, которые позволяют системам из разных стран общаться друг с другом. Применение этой машины к агентам ИИ является логическим продолжением, даже если темп технологии испытывает ее на прочность.

      На данный момент инициатива является начальным шагом. Никакой стандарт не был опубликован, ни одна компания не взяла на себя обязательства, и первое заседание все еще за несколько месяцев.

      То, что сделала ИТЮ, — это поставить флаг на проблему, которую индустрия продолжает откладывать, и пригласить всех к столу, прежде чем автономные системы начнут устанавливать условия самостоятельно.