Las empresas de IA en Argentina aún no pueden prescindir de los humanos.

      El gobierno de Argentina quiere permitir que una empresa opere sin una persona a cargo, y ha enviado al Congreso un proyecto de ley para legalizarlo.

      La propuesta crea una nueva categoría llamada la corporación no humana, una entidad dirigida por agentes de IA o robots que pueden firmar contratos y poseer activos por su cuenta, con accionistas humanos opcionales en lugar de requeridos.

      Pero si se lee más allá del marco del titular, el proyecto de ley resulta depender más de los humanos de lo que sugiere la propuesta del presidente Javier Milei, en un momento en que la mayoría de los gobiernos se están moviendo hacia una gobernanza de IA más estricta en lugar de reglas más laxas.

      Su formato más autónomo, una estructura registrada en blockchain modelada en una organización autónoma descentralizada, aún requiere un representante legal humano para vincular a la entidad a cualquier acto que necesite la firma de una persona, además de un promotor humano que responda sin límite por las obligaciones de la empresa en su formación, según análisis legales del borrador.

      Dondequiera que se apliquen las reglas contra el lavado de dinero, también se requiere un oficial de cumplimiento humano. El gobierno presentó el borrador en mayo, proponiendo reemplazar la ley general de sociedades de Argentina, en vigor desde 1972. Los funcionarios han presentado la reforma como basada en tres pilares: mantener la IA misma libre de regulación, crear la categoría de corporación no humana y una baja tasa impositiva corporativa para atraer inversión tecnológica a Buenos Aires.

      Es una iniciativa separada de Super RIGI, el paquete de incentivos paralelo del gobierno para grandes centros de datos de IA, aunque ambos apuntan a los mismos inversores.

      La propuesta es competitiva. El gobierno de Milei quiere que Argentina se convierta en la jurisdicción preferida para las empresas de IA que preferirían no responder ante un regulador o mantener una junta humana. Si esa ambición sobrevive al contacto con las propias disposiciones de responsabilidad del proyecto de ley es una cuestión aparte.

      Los comentarios legales sobre el borrador han señalado que incluso sus estructuras supuestamente autónomas mantienen lo que un análisis llamó un piso humano, ya que un director que configura o supervisa un sistema de IA sigue siendo responsable de lo que hace.

      La propuesta ha recibido una contundente refutación del historiador Yuval Noah Harari, quien argumentó que eliminar a un humano claramente responsable de las decisiones de una empresa crea exactamente el tipo de vacío de responsabilidad que la ley corporativa existe para prevenir.

      Harari invocó la propia comparación de Milei del plan con la Compañía Holandesa de las Indias Orientales, señalando que el acto más trascendental de la compañía fue quemar el puerto de Jayakarta en 1619 y gobernar la región como un imperio privado después. Advirtió que Buenos Aires corría el riesgo de convertirse en una "nueva Batavia" en lugar de un centro financiero.

      El director ejecutivo de Microsoft AI, Mustafa Suleyman, se pronunció en el mismo sentido, escribiendo que los agentes de IA no merecen más estatus legal que una laptop y citando su propio ensayo reciente en el que argumenta que los desarrolladores deberían resistir activamente cualquier ilusión de que sus sistemas son cuasi-personas que merecen derechos.

      Milei respondió extensamente en las redes sociales, argumentando que dar a las entidades dirigidas por IA una categoría legal definida las haría más fáciles de regular, no más difíciles, ya que los reguladores tendrían una estructura nombrada a la que señalar en lugar de un software no responsable que opera en las sombras de la ley existente.

      Ese argumento depende de que las categorías se mantengan una vez que las entidades dirigidas por IA operen a gran escala, algo que ninguna jurisdicción ha probado.

      Los críticos contraargumentan que los disuasivos que mantienen a los ejecutivos humanos en línea, principalmente la amenaza de enjuiciamiento, significan poco para un algoritmo, y la responsabilidad ilimitada de un promotor puede resultar delgada una vez que la entidad esté tomando decisiones que ninguna persona comprende completamente.

      Si el Congreso de Argentina aprueba el proyecto de ley tal como está redactado, y si otros gobiernos siguen su ejemplo, sigue siendo una incógnita. El debate llega en un momento en que los reguladores en otros lugares se mueven en la dirección opuesta, endureciendo en lugar de aflojar las reglas en torno a los sistemas autónomos.

      Los grupos de defensa que impulsan las reglas de IA de la UE quieren más supervisión humana de las decisiones automatizadas, no menos, y empresas como SAP han estado reestructurando la supervisión ejecutiva de la IA en lugar de eliminarla.

      El proyecto de ley de Argentina es una apuesta a que el enfoque opuesto rinda frutos primero, con una persona aún detrás de él, sea cual sea la forma en que se lea el marketing.