Un alto funzionario della FCA afferma che la Gran Bretagna dovrebbe considerare di regolamentare direttamente i modelli di intelligenza artificiale.

      La Gran Bretagna dovrebbe considerare se modelli linguistici di grandi dimensioni come ChatGPT, Claude e Gemini debbano essere regolamentati poiché influenzano sempre di più il modo in cui i consumatori prendono decisioni finanziarie, ha affermato un alto funzionario della Financial Conduct Authority. Sheldon Mills, un direttore esecutivo della FCA, ha sostenuto che il regolamento esistente dovrà evolversi man mano che le aziende si appoggiano a un numero ristretto di fornitori tecnologici, una concentrazione che ha avvertito potrebbe creare un rischio sistemico. È un intervento notevole da parte di un regolatore che, fino ad ora, si è principalmente attenuto alla linea pro-innovazione e basata su principi del Regno Unito.

      La preoccupazione a cui si riferisce Mills è specifica piuttosto che astratta. Più di un quarto dei consumatori britannici, ha notato, si fida già di strumenti come ChatGPT di OpenAI, Claude di Anthropic e Gemini di Google per consigli finanziari, spesso senza rendersi conto che le protezioni che circondano i servizi finanziari regolamentati non si estendono a quei sistemi. Le persone stanno prendendo decisioni di denaro sulla base di software che si trova interamente al di fuori del perimetro che la FCA controlla.

      Quella lacuna è il nocciolo dell'argomento. Quando un consulente regolamentato fornisce una cattiva guida, un consumatore ha un ricorso; quando un chatbot di uso generale fa lo stesso, le linee di responsabilità sono molto meno chiare.

      Il punto di Mills è che la tecnologia ha silenziosamente assunto un ruolo che il quadro normativo non aveva mai previsto, e che fingere il contrario è un rischio di per sé.

      Il rimedio che ha proposto è procedurale ma mirato. Mills ha raccomandato che la FCA decida, entro i prossimi tre-sei mesi, se "garantire e adattare" il perimetro normativo rivedendo la scala, la natura e l'impatto dei modelli di uso generale che attualmente ne sono esclusi. Questo non arriva a richiedere regole immediate, ma pone un termine alla questione se i modelli fondamentali debbano rientrare nella regolamentazione finanziaria.

      È andato oltre su come potrebbe apparire la supervisione in futuro. Mills ha proposto nuovi poteri per richiedere alle aziende di spiegare come i loro modelli di intelligenza artificiale prendono decisioni, di auditare gli algoritmi per equità e di imporre multe ai sistemi che causano danni ai consumatori.

      Ognuno di questi tocca il problema più difficile nella governance dell'IA, che è che i modelli sono spesso opachi anche per le aziende che li utilizzano.

      L'intervento si colloca in modo scomodo accanto alla postura più ampia del governo. Il Regno Unito ha deliberatamente evitato una legge specifica sull'IA, preferendo affidare la supervisione ai regolatori esistenti nella speranza di costruire un vantaggio pro-innovazione rispetto all'UE.

      Mills non sta chiedendo un atto sull'IA nel Regno Unito, ma suggerisce che il modello settoriale ha un buco dove sono coinvolti i sistemi di uso generale, e che la FCA potrebbe doverlo riempire.

      C'è un dibattito in corso su dove dovrebbe risiedere la responsabilità, e non è risolto. Regolare i modelli stessi, piuttosto che le aziende regolamentate che li utilizzano, sarebbe un cambiamento significativo nell'approccio, e uno che va contro l'istinto di leggera regolamentazione che il Regno Unito ha coltivato. Si scontra anche con il problema pratico che i modelli più grandi sono costruiti da un pugno di aziende americane che la FCA non regola.

      Il punto di concentrazione sollevato da Mills è probabilmente il più serio dei due. Se la maggior parte delle aziende regolamentate inizia a dipendere dagli stessi due o tre fornitori di modelli, un guasto o un difetto in uno di quei sistemi potrebbe propagarsi in tutto il settore finanziario contemporaneamente, il tipo di rischio correlato che i regolatori di solito cercano di eliminare. Questa è una preoccupazione familiare nel cloud computing, e ora sta migrando ai modelli costruiti su di esso.

      Per ora, i commenti di Mills sono un segnale piuttosto che una politica. Ma arrivano in un momento in cui i governi di tutto il mondo stanno concedendo che l'IA sta superando le regole destinate a governarla, e un regolatore finanziario che afferma che il perimetro potrebbe dover muoversi non è una cosa da poco. I prossimi mesi mostreranno se la FCA lo tratterà come una revisione genuina o come un punto di discussione.