План компаний Аргентины, управляемых ИИ, все еще не может обойтись без людей

      Правительство Аргентины хочет разрешить компании вести торговлю без ответственного лица, и оно направило в Конгресс законопроект, чтобы сделать это законным.

      Предложение создает новую категорию, называемую некорпорацией, сущностью, управляемой ИИ-агентами или роботами, которые могут подписывать контракты и владеть активами самостоятельно, при этом наличие человеческих акционеров является необязательным, а не обязательным.

      Но если прочитать дальше заголовка, оказывается, что законопроект больше полагается на людей, чем предполагает предложение президента Хавьера Милея, в момент, когда большинство правительств движется к более строгому регулированию ИИ, а не к более свободным правилам.

      Его наиболее автономный формат, структура, записанная в блокчейне и смоделированная на децентрализованной автономной организации, все еще требует наличия человеческого юридического представителя, чтобы связать сущность с любым действием, требующим подписи человека, плюс человеческого промоутера, который без ограничений отвечает за обязательства компании при ее создании, согласно юридическим анализам проекта.

      Где бы ни применялись правила против отмывания денег, также требуется наличие человеческого сотрудника по соблюдению норм. Правительство представило проект в мае, предложив заменить общий закон о корпорациях Аргентины, действующий с 1972 года. Официальные лица представили реформу как основанную на трех столпах: освобождение самого ИИ от регулирования, создание категории некорпорации и низкая корпоративная налоговая ставка для привлечения технологических инвестиций в Буэнос-Айрес.

      Это отдельная инициатива от Super RIGI, параллельного пакета стимулов правительства для крупных ИИ-центров данных, хотя обе нацелены на одних и тех же инвесторов.

      Предложение конкурентоспособно. Правительство Милея хочет, чтобы Аргентина стала юрисдикцией выбора для ИИ-предприятий, которые предпочли бы не подчиняться регулятору или не иметь человеческого совета. Выживет ли эта амбиция после контакта с собственными положениями о ответственности законопроекта — отдельный вопрос.

      Юридические комментарии к проекту отметили, что даже его предполагаемые автономные структуры сохраняют то, что один анализ назвал человеческим уровнем, поскольку директор, который настраивает или контролирует ИИ-систему, остается ответственным за то, что она делает.

      Предложение вызвало резкий ответ от историка Ювала Ноя Харари, который утверждал, что удаление явно ответственного человека из решений компании создает именно тот разрыв в ответственности, который корпоративное право существует для предотвращения.

      Харари вспомнил собственное сравнение Милея плана с Голландской Ост-Индской компанией, отметив, что самым значительным актом компании было сожжение порта Джакарта в 1619 году и правление регионом как частной империей после этого. Он предупредил, что Буэнос-Айрес рискует стать «новой Батавией», а не финансовым центром.

      Генеральный директор Microsoft AI Мустафа Сулейман также высказался на той же стороне, написав, что ИИ-агенты не заслуживают большего юридического статуса, чем ноутбук, и сославшись на свое недавнее эссе, в котором утверждал, что разработчики должны активно противостоять любым иллюзиям о том, что их системы являются квази-личностями, заслуживающими прав.

      Милей подробно ответил в социальных сетях, утверждая, что предоставление ИИ-управляемым сущностям определенной юридической категории упростит их регулирование, а не усложнит, поскольку регуляторы будут иметь названную структуру, на которую можно указать, а не безответственный программный продукт, действующий в тенях существующего закона.

      Этот аргумент зависит от того, будут ли категории сохраняться, когда ИИ-управляемые сущности начнут работать в большом масштабе, что ни одна юрисдикция еще не тестировала.

      Критики возражают, что сдерживающие факторы, удерживающие человеческих руководителей в рамках, в первую очередь угроза уголовного преследования, мало значат для алгоритма, и неограниченная ответственность промоутера может оказаться тонкой, когда сущность принимает решения, которые никто не понимает полностью.

      Останется открытым вопрос, примет ли Конгресс Аргентины законопроект в его текущем виде и последуют ли другие правительства его примеру. Дебаты происходят на фоне того, что регуляторы в других странах движутся в противоположном направлении, ужесточая, а не смягчая правила вокруг автономных систем.

      Группы по защите прав, продвигающие правила ИИ ЕС, хотят большего человеческого контроля над автоматизированными решениями, а не меньшего, и такие компании, как SAP, реорганизуют надзор за ИИ, а не убирают его.

      Законопроект Аргентины — это ставка на то, что противоположный подход окупится первым, с человеком, который все еще стоит за ним, независимо от того, как это будет представлено в маркетинге.