Старший чиновник FCA говорит, что Британии следует рассмотреть возможность прямого регулирования моделей ИИ.

      Британия должна рассмотреть, следует ли регулировать крупные языковые модели, такие как ChatGPT, Claude и Gemini, поскольку они все больше влияют на то, как потребители принимают финансовые решения, заявил высокопоставленный чиновник Управления по финансовому регулированию и надзору (FCA).

      Шелдон Миллс, исполнительный директор FCA, утверждал, что существующие правила должны будут эволюционировать, поскольку компании полагаются на небольшое количество поставщиков технологий, концентрация которых, по его словам, может создать системный риск. Это заметное вмешательство со стороны регулятора, который до сих пор в основном придерживался проинновационной, основанной на принципах линии.

      Проблема, на которую указывает Миллс, конкретна, а не абстрактна. Более четверти потребителей в Великобритании, отметил он, уже доверяют таким инструментам, как ChatGPT от OpenAI, Claude от Anthropic и Gemini от Google для финансовых советов, часто не осознавая, что защиты, окружающие регулируемые финансовые услуги, не распространяются на эти системы. Люди принимают финансовые решения, основываясь на программном обеспечении, которое полностью находится за пределами контроля FCA.

      Этот разрыв является сутью аргумента. Когда регулируемый консультант дает плохие рекомендации, у потребителя есть возможность обратиться за помощью; когда общий чат-бот делает то же самое, линии ответственности гораздо менее ясны.

      Суть Миллса заключается в том, что технология тихо взяла на себя роль, которую регуляторная структура никогда не предвидела, и притворяться, что это не так, — это своего рода риск.

      Его предложенное решение является процедурным, но четким. Миллс рекомендовал FCA в течение следующих трех-шести месяцев решить, следует ли «обеспечить и адаптировать» регуляторные границы, пересмотрев масштаб, природу и влияние общих моделей, которые в настоящее время находятся за их пределами. Это не требует немедленных правил, но ставит вопрос о том, должны ли базовые модели вообще входить в финансовое регулирование.

      Он также высказал идеи о том, как может выглядеть надзор в будущем. Миллс предложил новые полномочия, позволяющие требовать от компаний объяснять, как их модели ИИ принимают решения, проводить аудит алгоритмов на предмет справедливости и налагать штрафы на системы, которые причиняют вред потребителям.

      Каждый из этих аспектов касается самой сложной проблемы в управлении ИИ, а именно того, что модели часто являются непрозрачными даже для компаний, которые их развертывают.

      Это вмешательство не совсем согласуется с более широкой позицией правительства. Великобритания сознательно избегала создания специального закона об ИИ, предпочитая передать надзор существующим регуляторам в надежде создать проинновационное преимущество над ЕС.

      Миллс не призывает к принятию Закона об ИИ в Великобритании, но он предполагает, что модель по секторам имеет пробел в отношении общих систем, и что FCA может потребоваться его заполнить.

      Сейчас идет активная дискуссия о том, где должна находиться ответственность, и она не решена. Регулирование самих моделей, а не регулируемых компаний, которые их используют, стало бы значительным изменением подхода и противоречило бы инстинкту легкого регулирования, который Великобритания развивала. Это также сталкивается с практической проблемой, что крупнейшие модели создаются небольшой группой американских компаний, которые FCA не регулирует.

      Проблема концентрации, поднятая Миллсом, вероятно, является более серьезной из двух. Если большинство регулируемых компаний начнут зависеть от одних и тех же двух или трех поставщиков моделей, сбой или недостаток в одной из этих систем может вызвать цепную реакцию в финансовом секторе сразу, что является тем видом коррелированного риска, который регуляторы обычно стараются исключить. Это знакомая проблема в облачных вычислениях, и она теперь мигрирует к моделям, построенным на их основе.

      На данный момент комментарии Миллса являются сигналом, а не политикой. Но они звучат в момент, когда правительства по всему миру признают, что ИИ опережает правила, предназначенные для его регулирования, и заявление финансового регулятора о том, что границы могут потребовать изменения, — это не мелочь. В ближайшие месяцы станет ясно, рассматривает ли FCA это как искренний обзор или как предмет обсуждения.