Un alto funcionario de la FCA dice que Gran Bretaña debería considerar regular los modelos de IA directamente.

      Gran Bretaña debería considerar si modelos de lenguaje grandes como ChatGPT, Claude y Gemini deberían ser regulados, ya que influyen cada vez más en cómo los consumidores toman decisiones financieras, ha dicho un alto funcionario de la Autoridad de Conducta Financiera (FCA). Sheldon Mills, director ejecutivo de la FCA, argumentó que el conjunto de reglas existente tendrá que evolucionar a medida que las empresas dependan de un pequeño número de proveedores tecnológicos, una concentración que advirtió podría crear un riesgo sistémico. Es una intervención notable de un regulador que, hasta ahora, se ha mantenido mayormente en la línea pro-innovación y basada en principios del Reino Unido.

      La preocupación que señala Mills es específica en lugar de abstracta. Más de una cuarta parte de los consumidores del Reino Unido, señaló, ya confían en herramientas como ChatGPT de OpenAI, Claude de Anthropic y Gemini de Google para asesoramiento financiero, a menudo sin darse cuenta de que las protecciones que rodean a los servicios financieros regulados no se extienden a esos sistemas. Las personas están tomando decisiones de dinero basándose en software que está completamente fuera del perímetro que la FCA supervisa.

      Esa brecha es el núcleo del argumento. Cuando un asesor regulado da una mala orientación, un consumidor tiene recursos; cuando un chatbot de propósito general hace lo mismo, las líneas de responsabilidad son mucho menos claras. El punto de Mills es que la tecnología ha asumido silenciosamente un papel que el marco regulatorio nunca anticipó, y que pretender lo contrario es su propio tipo de riesgo.

      Su remedio propuesto es procedimental pero directo. Mills recomendó que la FCA decida, dentro de los próximos tres a seis meses, si "asegura y adapta" el perímetro regulatorio revisando la escala, naturaleza e impacto de los modelos de propósito general que actualmente caen fuera de él. Eso no exige reglas inmediatas, pero pone un plazo sobre la cuestión de si los modelos fundamentales pertenecen a la regulación financiera en absoluto.

      Se fue más allá sobre cómo podría verse eventualmente la supervisión. Mills sugirió nuevos poderes para requerir a las empresas que expliquen cómo sus modelos de IA toman decisiones, auditar algoritmos por equidad y imponer multas a los sistemas que causen daño a los consumidores. Cada uno de esos puntos toca el problema más difícil en la gobernanza de la IA, que es que los modelos son a menudo opacos incluso para las empresas que los implementan.

      La intervención se sitúa incómodamente junto a la postura más amplia del gobierno. El Reino Unido ha evitado deliberadamente una ley de IA a medida, prefiriendo entregar la supervisión a los reguladores existentes con la esperanza de construir una ventaja pro-innovación sobre la UE. Mills no está pidiendo una Ley de IA del Reino Unido, pero sugiere que el modelo sector por sector tiene un hueco donde se refieren a los sistemas de propósito general, y que la FCA puede necesitar llenarlo.

      Hay un debate en curso sobre dónde debería recaer la responsabilidad, y no está resuelto. Regular los modelos en sí, en lugar de las empresas reguladas que los utilizan, sería un cambio significativo en el enfoque, y uno que va en contra del instinto de "toque ligero" que el Reino Unido ha cultivado. También se enfrenta al problema práctico de que los modelos más grandes son construidos por un puñado de empresas estadounidenses que la FCA no regula.

      El punto de concentración que planteó Mills es, sin duda, el más serio de los dos. Si la mayoría de las empresas reguladas llegan a depender de los mismos dos o tres proveedores de modelos, una falla o un defecto en uno de esos sistemas podría repercutir en todo el sector financiero de una vez, el tipo de riesgo correlacionado que los reguladores suelen tratar de diseñar. Esa es una preocupación familiar en la computación en la nube, y ahora está migrando a los modelos construidos sobre ella.

      Por ahora, los comentarios de Mills son una señal más que una política. Pero llegan en un momento en que los gobiernos de todas partes están concediendo que la IA está "superando las reglas" destinadas a gobernarla, y un regulador financiero que dice que el perímetro puede necesitar moverse no es algo pequeño. Los próximos meses mostrarán si la FCA lo trata como una revisión genuina o como un punto de conversación.