Бриден из Банка Англии предупреждает, что агенты ИИ могут спровоцировать обвалы на рынке

      Заместитель губернатора Сара Бриден говорит, что автономные торговые агенты могут усилить волатильность, если все они одновременно отреагируют одинаково, и могут потребовать новых правил. Кошмар, который описывает центральный банкир, редко является крахом. Это обратная связь. Выступая на ежегодном форуме Европейского центрального банка в Синтре, Португалия, заместитель губернатора Банка Англии Сара Бриден предупредила, что автономные агенты искусственного интеллекта могут вызвать «рыночный коллапс». Не действуя иррационально, а действуя идентично, все они реагируют одинаково на один и тот же сигнал в один и тот же момент. Забота Бриден специфична для нового поколения ИИ. Беспокойство не о алгоритмической торговле, которая уже много лет движет рынками, а о агентных системах, которые могут преследовать цели и принимать решения с гораздо меньшим человеческим контролем. 💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Если многие компании развернут агентов, обученных похожими способами на похожих данных, утверждала она, эти агенты могут «усилить волатильность в стрессовых ситуациях», реагируя на шок синхронно и превращая колебания в паническое бегство, прежде чем любой человек успеет вмешаться. Механизм представляет собой опасность. Рынки всегда были уязвимы к поведению стада, но человеческие стада медлительны и неравномерны; люди колеблются, не согласны и паникуют с разной скоростью. Популяция ИИ-агентов, оптимизированных под одни и те же цели, может действовать как единое целое, продавая на одном и том же падении или преследуя одну и ту же сделку с синхронизированной скоростью и масштабом, с которыми ни одна толпа трейдеров не сможет сравниться. Результатом будут более резкие колебания, быстрее, с корреляцией между агентами, действующими как ускоритель. Бриден, говорящая от имени Банка о финансовой стабильности, предположила, что существующий свод правил может не соответствовать проблеме. Может потребоваться более сложная регуляторная структура для мониторинга и сдерживания рисков, которые ИИ представляет для финансовой системы, указала она, что является заметным сигналом от высокопоставленного законодателя о том, что инструменты, созданные для надзора за рынками, управляемыми людьми, могут не уловить, что происходит, когда участниками являются автономные программы. Это предупреждение не изолировано. Банк Англии уже несколько месяцев сигнализирует о рисках, связанных с ИИ, для финансовой стабильности, включая их в свои более широкие оценки того, что может пойти не так на рынках, и замечания Бриден в Синтре подчеркивают тему, вокруг которой начали собираться регуляторы с обеих сторон Атлантики. Вопрос о том, кто несет ответственность, когда автономный агент действует, становится актуальным для финансов, а не гипотетическим. Это отражает тревоги, поднимаемые далеко за пределами торгового этажа. Проблема управления ИИ-агентами, которые действуют с минимальным контролем, породила волну работ о том, как дать им проверяемые идентичности и контроль, именно чтобы их действия можно было отслеживать и ограничивать. Предупреждение Бриден является финансово-стабильной версией той же проблемы: агент, который может действовать быстрее, чем человек может контролировать, полезен до тех пор, пока не станет опасным. В центре проблемы существует напряжение, которое признает формулировка Бриден. Те же агенты, которые могут усилить кризис, принимаются, потому что они делают рынки более эффективными, выполняя операции быстрее и дешевле, чем это могут делать люди. Регуляторы не пытаются запретить их; они пытаются выяснить, как сохранить их преимущества, не унаследовав систему, которая может развалиться на скорости машины. Это более сложная проблема, чем запрет, и именно с ней Банк сигнализирует о своем намерении заняться. Бриден не предложила конкретные правила, и ее замечания были предупреждением и побуждением, а не политикой. То, что они устанавливают, это то, что перспектива коррелированных ИИ-агентов, дестабилизирующих рынки, переместилась из семинарской комнаты в речи людей, которым придется управлять последствиями. Банк поставил вопрос на повестку дня. Ответ, включая то, можно ли растянуть текущую структуру или ее нужно перестраивать, — это работа, которая теперь последует.