Il Breeden della Banca d'Inghilterra avverte che gli agenti AI potrebbero scatenare crolli di mercato

      Il vice governatore Sarah Breeden afferma che gli agenti di trading autonomi potrebbero amplificare la volatilità se tutti reagissero allo stesso modo contemporaneamente e potrebbero richiedere nuove regole. L'incubo descritto da un banchiere centrale è raramente un crollo. È un ciclo di feedback. Parlando al forum annuale della Banca Centrale Europea a Sintra, in Portogallo, il vice governatore della Banca d'Inghilterra Sarah Breeden ha avvertito che gli agenti di intelligenza artificiale autonomi potrebbero causare un "collasso del mercato". Non agendo in modo irrazionale, ma agendo in modo identico, tutti rispondendo allo stesso modo allo stesso segnale nello stesso momento. La preoccupazione di Breeden è specifica per una nuova generazione di IA. La preoccupazione non è il trading algoritmico che ha guidato i mercati per anni, ma i sistemi agentici che possono perseguire obiettivi e prendere decisioni con molta meno supervisione umana. Il 💜 della tecnologia UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Se molte aziende impiegano agenti addestrati in modi simili su dati simili, ha sostenuto, quegli agenti potrebbero "amplificare la volatilità in situazioni di stress", reagendo a uno shock in modo sincronizzato e trasformando un'inflessione in una disfatta prima che qualsiasi umano abbia il tempo di intervenire. Il meccanismo è il pericolo. I mercati sono sempre stati vulnerabili al comportamento di massa, ma le masse umane sono lente e irregolari; le persone esitano, dissentono e entrano in panico a velocità diverse. Una popolazione di agenti IA ottimizzati verso gli stessi obiettivi potrebbe muoversi come un'unica entità, vendendo nella stessa discesa o inseguendo lo stesso affare con una velocità e una scala sincronizzate che nessuna folla di trader potrebbe eguagliare. Il risultato sarebbe oscillazioni più marcate, più rapide, con la correlazione tra agenti che funge da accelerante. Breeden, che parla per la Banca sulla stabilità finanziaria, ha suggerito che il regolamento esistente potrebbe non essere all'altezza del problema. Potrebbero essere necessari quadri normativi più sofisticati per monitorare e contenere i rischi che l'IA pone al sistema finanziario, ha indicato, un segnale notevole da un alto responsabile politico che gli strumenti costruiti per supervisionare i mercati gestiti dagli esseri umani potrebbero non catturare ciò che accade quando i partecipanti sono software autonomi. L'avvertimento non è isolato. La Banca d'Inghilterra ha segnalato i rischi legati all'IA per la stabilità finanziaria da mesi, integrandoli nelle sue valutazioni più ampie su cosa potrebbe andare storto nei mercati, e le osservazioni di Breeden a Sintra affilano un tema che i regolatori su entrambi i lati dell'Atlantico hanno iniziato a circondare. La questione di chi è responsabile quando un agente autonomo agisce sta diventando una questione attuale per la finanza, non un'ipotesi. Risuona le ansie sollevate ben oltre il piano di trading. La sfida di governare agenti IA che agiscono con supervisione minima ha prodotto un'ondata di lavoro su come dare loro identità e controllo verificabili, proprio affinché le loro azioni possano essere tracciate e contenute. L'avvertimento di Breeden è la versione sulla stabilità finanziaria dello stesso problema: un agente che può agire più velocemente di quanto un umano possa supervisionare è utile fino al momento in cui diventa pericoloso. C'è una tensione al centro della questione che il quadro di Breeden riconosce. Gli stessi agenti che potrebbero amplificare una crisi vengono adottati perché rendono i mercati più efficienti, eseguendo più velocemente e a un costo inferiore rispetto a quanto possano fare le persone. I regolatori non stanno cercando di vietarli; stanno cercando di capire come mantenere i loro benefici senza ereditare un sistema che può svelarsi a velocità di macchina. Questo è un problema più difficile della proibizione, ed è quello che la Banca sta segnalando di voler affrontare. Breeden non ha proposto regole specifiche, e le sue osservazioni erano un avvertimento e un invito piuttosto che una politica. Ciò che stabiliscono è che la prospettiva di agenti IA correlati che destabilizzano i mercati è passata dalla sala seminari ai discorsi delle persone che dovrebbero gestire le conseguenze. La Banca ha messo la questione sul tavolo. La risposta, compreso se l'attuale quadro possa essere adattato o necessiti di ricostruzione, è il lavoro che ora segue.