El Breeden del Banco de Inglaterra advierte que los agentes de IA podrían desencadenar colapsos en el mercado.

      La vicegobernadora Sarah Breeden dice que los agentes de trading autónomos podrían amplificar la volatilidad si todos reaccionan de la misma manera al mismo tiempo, y podrían demandar nuevas reglas. La pesadilla que describe un banquero central rara vez es un colapso. Es un bucle de retroalimentación. Hablando en el foro anual del Banco Central Europeo en Sintra, Portugal, la vicegobernadora del Banco de Inglaterra, Sarah Breeden, advirtió que los agentes de inteligencia artificial autónomos podrían causar un “colapso del mercado.” No actuando de manera irracional, sino actuando de manera idéntica, todos respondiendo de la misma manera al mismo señal en el mismo momento. La preocupación de Breeden es específica para una nueva generación de IA. La preocupación no es el trading algorítmico que ha impulsado los mercados durante años, sino los sistemas agentes que pueden perseguir objetivos y tomar decisiones con mucha menos supervisión humana. El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! Si muchas empresas despliegan agentes entrenados de maneras similares con datos similares, argumentó, esos agentes podrían “amplificar la volatilidad en momentos de estrés,” reaccionando a un choque al unísono y convirtiendo un tambaleo en una derrota antes de que cualquier humano tenga tiempo de intervenir. El mecanismo es el peligro. Los mercados siempre han sido vulnerables al comportamiento de manada, pero las manadas humanas son lentas y desiguales; las personas dudan, discrepan y entran en pánico a diferentes velocidades. Una población de agentes de IA optimizados hacia los mismos objetivos podría moverse como uno solo, vendiendo en la misma caída o persiguiendo el mismo comercio con una velocidad y escala sincronizadas que ninguna multitud de traders podría igualar. El resultado serían oscilaciones más agudas, más rápidas, con la correlación entre agentes actuando como un acelerante. Breeden, quien habla por el Banco sobre estabilidad financiera, sugirió que el libro de reglas existente puede no ser suficiente para el problema. Podrían ser necesarios marcos regulatorios más sofisticados para monitorear y contener los riesgos que la IA plantea al sistema financiero, indicó, una señal notable de un alto responsable político de que las herramientas construidas para supervisar mercados gestionados por humanos podrían no captar lo que sucede cuando los participantes son software autónomo. La advertencia no es aislada. El Banco de Inglaterra ha estado señalando riesgos relacionados con la IA para la estabilidad financiera durante meses, incorporándolos en sus evaluaciones más amplias de lo que podría salir mal en los mercados, y los comentarios de Breeden en Sintra agudizan un tema que los reguladores de ambos lados del Atlántico han comenzado a abordar. La cuestión de quién es responsable cuando un agente autónomo actúa se está convirtiendo en un tema candente para las finanzas, no en una hipótesis. Resuena con las ansiedades que se plantean mucho más allá del piso de negociación. El desafío de gobernar agentes de IA que actúan con supervisión mínima ha producido una ola de trabajo sobre cómo darles identidades y control verificables, precisamente para que sus acciones puedan ser rastreadas y restringidas. La advertencia de Breeden es la versión de estabilidad financiera del mismo problema: un agente que puede actuar más rápido de lo que un humano puede supervisar es útil justo hasta el momento en que se vuelve peligroso. Hay una tensión en el corazón del problema que el marco de Breeden reconoce. Los mismos agentes que podrían amplificar una crisis están siendo adoptados porque hacen que los mercados sean más eficientes, ejecutando más rápido y más barato de lo que las personas pueden. Los reguladores no están tratando de prohibirlos; están tratando de averiguar cómo mantener sus beneficios sin heredar un sistema que puede desmoronarse a la velocidad de la máquina. Ese es un problema más difícil que la prohibición, y es el que el Banco está señalando que pretende abordar. Breeden no propuso reglas específicas, y sus comentarios fueron una advertencia y un aviso más que una política. Lo que establecen es que la perspectiva de agentes de IA correlacionados desestabilizando los mercados ha pasado de la sala de seminarios a los discursos de las personas que tendrían que gestionar las consecuencias. El Banco ha puesto la cuestión sobre la mesa. La respuesta, incluyendo si el marco actual puede ser estirado para adaptarse o necesita ser reconstruido, es el trabajo que ahora sigue.