Бриден из Банка Англии предупреждает, что агенты ИИ могут вызвать обрушение рынков

      Заместитель губернатора Сара Бриден заявила, что автономные торговые агенты могут усилить волатильность, если все они одновременно отреагируют одинаково, и могут потребовать новых правил. Кошмар, который описывает центральный банкир, редко является крахом. Это обратная связь. Выступая на ежегодном форуме Европейского центрального банка в Синтре, Португалия, заместитель губернатора Банка Англии Сара Бриден предупредила, что автономные агенты искусственного интеллекта могут вызвать «рыночный коллапс». Не действуя иррационально, а действуя идентично, все они реагируют одинаково на один и тот же сигнал в один и тот же момент. Забота Бриден специфична для нового поколения ИИ. Беспокойство не о алгоритмической торговле, которая управляла рынками в течение многих лет, а о агентных системах, которые могут преследовать цели и принимать решения с гораздо меньшим человеческим контролем. 💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Если многие компании развернут агентов, обученных аналогичным образом на аналогичных данных, утверждала она, эти агенты могут «усилить волатильность в стрессовых ситуациях», реагируя на шок синхронно и превращая колебания в крах, прежде чем любой человек успеет вмешаться. Механизм является опасностью. Рынки всегда были уязвимы к стадному поведению, но человеческие стада медлительны и неравномерны; люди колеблются, не согласны и паникуют с разной скоростью. Популяция ИИ-агентов, оптимизированных под одни и те же цели, может действовать как единое целое, продавая на одном и том же падении или преследуя одну и ту же сделку с синхронизированной скоростью и масштабом, которые не может сопоставить ни одна толпа трейдеров. Результатом будут резкие колебания, быстрее, с корреляцией между агентами, действующими как ускоритель. Бриден, говорящая от имени Банка о финансовой стабильности, предположила, что существующий свод правил может не соответствовать проблеме. Может потребоваться более сложная регуляторная структура для мониторинга и сдерживания рисков, которые ИИ представляет для финансовой системы, указала она, что является заметным сигналом от старшего политика о том, что инструменты, созданные для контроля за рынками, управляемыми людьми, могут не уловить то, что происходит, когда участниками являются автономное программное обеспечение. Это предупреждение не является изолированным. Банк Англии уже несколько месяцев сигнализирует о рисках, связанных с ИИ, для финансовой стабильности, включая их в свои более широкие оценки того, что может пойти не так на рынках, и замечания Бриден в Синтре подчеркивают тему, вокруг которой начали собираться регуляторы с обеих сторон Атлантики. Вопрос о том, кто несет ответственность, когда автономный агент действует, становится актуальным для финансов, а не гипотетическим. Это отражает тревоги, поднимаемые далеко за пределами торгового этажа. Проблема управления ИИ-агентами, которые действуют с минимальным контролем, породила волну работы над тем, как дать им проверяемые идентичности и контроль, именно чтобы их действия могли быть отслежены и ограничены. Предупреждение Бриден является финансово-стабильной версией той же проблемы: агент, который может действовать быстрее, чем человек может контролировать, полезен до момента, когда он становится опасным. В центре проблемы существует напряжение, которое признает формулировка Бриден. Те же агенты, которые могут усилить кризис, принимаются, потому что они делают рынки более эффективными, выполняя операции быстрее и дешевле, чем это могут делать люди. Регуляторы не пытаются запретить их; они пытаются выяснить, как сохранить их преимущества, не унаследовав систему, которая может развалиться на скорости машин. Это более сложная проблема, чем запрет, и именно с ней Банк сигнализирует о своем намерении справиться. Бриден не предложила конкретные правила, и ее замечания были предупреждением и побуждением, а не политикой. То, что они устанавливают, это то, что перспектива коррелированных ИИ-агентов, дестабилизирующих рынки, переместилась из семинарской комнаты в речи людей, которым придется управлять последствиями. Банк поставил вопрос на повестку дня. Ответ, включая то, может ли текущая структура быть растянута, чтобы соответствовать, или нуждается в перестройке, — это работа, которая теперь следует.