La agencia digital de la ONU lanza una iniciativa para hacer que los agentes de IA sean confiables.

      La agencia digital de las Naciones Unidas ha decidido que los agentes de IA se están moviendo más rápido que la capacidad de confianza de cualquiera, y quiere hacer algo al respecto. El 9 de julio, la Unión Internacional de Telecomunicaciones utilizó su Cumbre de IA para el Bien en Ginebra para lanzar una iniciativa destinada a mantener los sistemas de IA cada vez más autónomos identificables, responsables y bajo un control humano significativo.

      El mecanismo es un grupo de enfoque, el vehículo estándar de la UIT para reunir expertos antes de que exista cualquier estándar formal. Su trabajo será desarrollar marcos para los agentes de IA que puedan ser reconocidos por lo que son, confiables para actuar dentro de límites y mantenidos responsables ante las personas para las que actúan.

      La preocupación que lo impulsa es específica en lugar de abstracta. Los agentes de IA están diseñados para actuar de manera independiente en nombre de un usuario, manejando todo, desde la programación hasta procesos comerciales complejos, lo que significa que también pueden suplantar a personas y tomar decisiones que nadie autorizó explícitamente. A medida que los agentes proliferan, argumenta la UIT, la ausencia de reglas compartidas para identificarlos y restringirlos se convierte en un riesgo sistémico.

      Esa preocupación no es exclusiva de Ginebra. La industria en general ha pasado el último año descubriendo que la seguridad de los agentes está en gran medida sin resolver, con muchas organizaciones incapaces de decir cuántos agentes están ejecutando o qué se les permite hacer a cada uno.

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! La UIT propone abordar a nivel de estándares internacionales lo que las empresas han estado improvisando internamente hasta ahora.

      El grupo reunirá a expertos técnicos, de políticas y legales, reflejando la preferencia de la UIT por el consenso de múltiples partes interesadas sobre los mandatos de arriba hacia abajo.

      El objetivo declarado es cerrar un panorama regulatorio fragmentado en el que diferentes jurisdicciones están escribiendo reglas incompatibles para la misma tecnología, a menudo al mismo tiempo.

      Esa fragmentación es real. China ya ha emitido estándares nacionales que cubren cómo los agentes se identifican e interactúan, parte de un endurecimiento más amplio de sus reglas sobre agentes, mientras que otros gobiernos y bloques han adoptado enfoques diferentes. Un organismo de la ONU que intenta armonizar el campo es, como mínimo, un reconocimiento de que el actual mosaico no escala.

      El trabajo se llevará a cabo en un cronograma deliberado. Se programó que el grupo de enfoque celebre su primera reunión en París en noviembre y una segunda en Ginebra en enero, con la salida probablemente siendo recomendaciones técnicas en lugar de regulaciones vinculantes.

      La UIT establece estándares; no los hace cumplir, y su influencia depende de si la industria y los gobiernos eligen adoptar lo que produce.

      Esa es la limitación inherente del ejercicio. Un grupo de enfoque es un instrumento lento, y los agentes de IA son un objetivo en rápida evolución. Entre noviembre y lo que el grupo eventualmente recomiende, la tecnología habrá avanzado, y las empresas que la implementan habrán establecido estándares de facto propios, tal como lo han hecho con la identidad de los agentes.

      Aún así, la estandarización es de donde tiende a surgir la interoperabilidad, y la identidad es exactamente el tipo de problema que se beneficia de un lenguaje técnico compartido. Si los agentes de diferentes proveedores van a transaccionar entre sí y con humanos, debe existir alguna forma común de probar qué es un agente y a quién responde. La UIT está apostando a que puede ayudar a redactar esa gramática antes de que el mercado se fije en algo peor.

      La UIT es un lugar natural para el intento, aunque imperfecto. Es el mismo organismo que pasó décadas elaborando los estándares detrás de las redes telefónicas, el espectro radioeléctrico y la infraestructura de internet, los acuerdos poco glamorosos que permiten que los sistemas de diferentes países se comuniquen entre sí. Aplicar esa maquinaria a los agentes de IA es una extensión lógica, incluso si el ritmo de la tecnología la tensa.

      Por ahora, la iniciativa es un movimiento inicial. No se ha publicado ningún estándar, ninguna empresa se ha comprometido a nada, y la primera reunión aún está a meses de distancia.

      Lo que ha hecho la UIT es plantar una bandera en un problema que la industria sigue posponiendo e invitar a todos a la mesa antes de que los sistemas autónomos comiencen a establecer los términos por sí mismos.