Планы компаний Аргентины, управляемых ИИ, все еще не могут обойтись без людей

      Правительство Аргентины хочет позволить компании вести торговлю без ответственного лица, и оно направило в Конгресс законопроект, чтобы сделать это легальным.

      Предложение создает новую категорию, называемую некорпорацией, сущностью, управляемой ИИ-агентами или роботами, которые могут подписывать контракты и владеть активами самостоятельно, при этом человеческие акционеры являются необязательными, а не обязательными.

      Но если прочитать дальше заголовка, оказывается, что законопроект больше полагается на людей, чем предполагает предложение президента Хавьера Милей, в момент, когда большинство правительств движется к более строгому регулированию ИИ, а не к более свободным правилам.

      Его наиболее автономный формат, структура, записанная в блокчейне и смоделированная по образцу децентрализованной автономной организации, все еще требует наличия человеческого юридического представителя, чтобы связать сущность с любым актом, который требует подписи человека, плюс человека-промоутера, который без ограничений отвечает за обязательства компании при ее создании, согласно юридическим анализам проекта.

      Где бы ни применялись правила по борьбе с отмыванием денег, также требуется наличие человека-специалиста по соблюдению норм. Правительство представило проект в мае, предложив заменить общий закон о корпорациях Аргентины, действующий с 1972 года. Официальные лица представили реформу как основанную на трех столпах: освобождение самого ИИ от регулирования, создание категории некорпорации и низкая ставка корпоративного налога, чтобы привлечь инвестиции в технологии в Буэнос-Айрес.

      Это отдельная инициатива от Super RIGI, параллельного пакета стимулов правительства для крупных ИИ-центров данных, хотя обе нацелены на одних и тех же инвесторов.

      Предложение конкурентоспособно. Правительство Милей хочет, чтобы Аргентина стала юрисдикцией выбора для ИИ-предприятий, которые предпочли бы не подчиняться регулятору или поддерживать человеческий совет директоров. Выживет ли эта амбиция после контакта с собственными положениями о ответственности законопроекта — отдельный вопрос.

      Юридические комментарии к проекту отметили, что даже его предполагаемо автономные структуры сохраняют то, что один анализ назвал человеческим основанием, поскольку директор, который настраивает или контролирует ИИ-систему, остается ответственным за то, что она делает.

      Предложение вызвало резкий ответ от историка Ювала Ноя Харари, который утверждал, что удаление четко ответственного человека из решений компании создает именно тот разрыв в ответственности, который существует для предотвращения корпоративного права.

      Харари вспомнил собственное сравнение Милей с Голландской Ост-Индской компанией, отметив, что самым значительным актом компании было сожжение порта Джакарта в 1619 году и правление регионом как частной империей после этого. Он предупредил, что Буэнос-Айрес рискует стать «новой Батавией», а не финансовым центром.

      Генеральный директор Microsoft AI Мустафа Сулейман также высказался на той же стороне, написав, что ИИ-агенты не заслуживают большего юридического статуса, чем ноутбук, и сославшись на свое недавнее эссе, в котором утверждал, что разработчики должны активно противостоять любой иллюзии, что их системы являются квази-личностями, заслуживающими прав.

      Милей подробно ответил в социальных сетях, утверждая, что предоставление ИИ-управляемым сущностям определенной юридической категории упростит их регулирование, а не усложнит, поскольку регуляторы будут иметь названную структуру, на которую можно указать, а не безответственное программное обеспечение, действующее в тенях существующего закона.

      Этот аргумент зависит от того, будут ли категории действовать, когда ИИ-управляемые сущности начнут работать в больших масштабах, что ни одна юрисдикция еще не тестировала.

      Критики возражают, что сдерживающие факторы, удерживающие человеческих руководителей в рамках, главным образом угроза уголовного преследования, мало значат для алгоритма, и неограниченная ответственность промоутера может оказаться тонкой, когда сущность принимает решения, которые никто полностью не понимает.

      Останется открытым вопрос, примет ли Конгресс Аргентины законопроект в его нынешнем виде и последуют ли другие правительства его примеру. Дебаты происходят на фоне того, что регуляторы в других местах движутся в противоположном направлении, ужесточая, а не смягчая правила вокруг автономных систем.

      Группы по защите прав, продвигающие правила ИИ ЕС, хотят большего человеческого контроля над автоматизированными решениями, а не меньшего, и такие компании, как SAP, перестраивают контроль за ИИ, а не убирают его.

      Законопроект Аргентины — это ставка на то, что противоположный подход окупится первым, с человеком, который все еще стоит за ним, независимо от того, как читается маркетинг.