Старший чиновник FCA говорит, что Британия должна рассмотреть возможность прямого регулирования моделей ИИ.

      Британия должна рассмотреть вопрос о том, следует ли регулировать крупные языковые модели, такие как ChatGPT, Claude и Gemini, поскольку они все больше влияют на то, как потребители принимают финансовые решения, заявил высокопоставленный чиновник Управления по финансовому регулированию и надзору (FCA).

      Шелдон Миллс, исполнительный директор FCA, утверждал, что существующие правила должны будут эволюционировать, поскольку компании полагаются на небольшое количество поставщиков технологий, что, по его словам, может создать системный риск. Это заметное вмешательство со стороны регулятора, который до сих пор в основном придерживался проинновационной, основанной на принципах линии.

      Беспокойство, на которое указывает Миллс, конкретное, а не абстрактное. Более четверти потребителей в Великобритании, отметил он, уже доверяют таким инструментам, как ChatGPT от OpenAI, Claude от Anthropic и Gemini от Google для получения финансовых советов, часто не осознавая, что защиты, окружающие регулируемые финансовые услуги, не распространяются на эти системы. Люди принимают финансовые решения, основываясь на программном обеспечении, которое полностью находится вне периметра, который контролирует FCA.

      Этот разрыв является сутью аргумента. Когда регулируемый консультант дает плохие рекомендации, у потребителя есть возможность обратиться за помощью; когда общий чат-бот делает то же самое, линии ответственности гораздо менее ясны.

      Суть Миллса в том, что технология тихо взяла на себя роль, которую регуляторная структура никогда не предвидела, и притворяться, что это не так, — это своего рода риск.

      Его предложенное решение процедурное, но четкое. Миллс рекомендовал FCA решить в течение следующих трех-шести месяцев, следует ли «обеспечить и адаптировать» регуляторный периметр, пересмотрев масштаб, природу и влияние общих моделей, которые в настоящее время находятся вне его. Это не требует немедленных правил, но ставит вопрос о том, принадлежат ли базовые модели вообще к финансовому регулированию.

      Он пошел дальше в том, как может выглядеть надзор в будущем. Миллс предложил новые полномочия, чтобы требовать от компаний объяснять, как их модели ИИ принимают решения, проводить аудит алгоритмов на предмет справедливости и налагать штрафы на системы, которые причиняют вред потребителям.

      Каждый из этих аспектов касается самой сложной проблемы в управлении ИИ, а именно того, что модели часто являются непрозрачными даже для компаний, которые их развертывают.

      Это вмешательство неудобно сочетается с более широкой позицией правительства. Великобритания сознательно избегала создания специального закона об ИИ, предпочитая передать надзор существующим регуляторам в надежде создать проинновационное преимущество перед ЕС.

      Миллс не призывает к принятию Закона об ИИ в Великобритании, но он предполагает, что модель по секторам имеет пробел в отношении общих систем, и что FCA может потребоваться его заполнить.

      Здесь идет активная дискуссия о том, где должна находиться ответственность, и она не разрешена. Регулирование самих моделей, а не регулируемых компаний, которые их используют, стало бы значительным изменением подхода и противоречило бы инстинкту Великобритании к легкому регулированию. Это также сталкивается с практической проблемой, что крупнейшие модели создаются небольшим числом американских компаний, которые не регулируются FCA.

      Точка концентрации, поднятая Миллсом, вероятно, является более серьезной из двух. Если большинство регулируемых компаний начнут зависеть от одних и тех же двух или трех поставщиков моделей, сбой или недостаток в одной из этих систем может вызвать цепную реакцию по всему финансовому сектору сразу, что является тем видом коррелированного риска, который регуляторы обычно стараются исключить. Это знакомая проблема в облачных вычислениях, и она теперь мигрирует к моделям, построенным на их основе.

      На данный момент комментарии Миллса являются сигналом, а не политикой. Но они появляются в момент, когда правительства по всему миру признают, что ИИ опережает правила, предназначенные для его регулирования, и заявление финансового регулятора о том, что периметр может потребоваться изменить, — это не мелочь. Следующие несколько месяцев покажут, будет ли FCA рассматривать это как искренний пересмотр или как предмет обсуждения.