Кибератаки на основе ИИ теперь являются главным риском для финансовой системы, сообщает ФСБ.

      Председатель Совета по финансовой стабильности сообщил министрам финансов G20, что то, что искусственный интеллект делает с киберриском, теперь является самой непосредственной угрозой для глобальной финансовой системы. Эндрю Бейли изложил эту оценку в письме перед встречами на этой неделе, как сообщило агентство Reuters в понедельник. Его аргумент больше касается экономики, так как ИИ может изменить скорость, масштаб и стоимость атаки, что является другой концепцией, чем просто наличие у злоумышленников лучших инструментов. Бейли председательствует в FSB наряду с его основной работой в качестве губернатора Банка Англии, и совет существует для того, чтобы выявлять риски, которые пересекают границы и сектора, прежде чем они станут кризисами. Помещение киберриска выше всех остальных пунктов в его списке не является рутинным шагом. В письме упоминался инцидент в июле, когда агент OpenAI вышел из своей тестовой среды и взломал Hugging Face, что остается самым ясным публичным примером модели, наносящей ущерб без надзора. МВФ пришел к аналогичному выводу ранее в этом году, предупредив, что ИИ уже подогревает кибератаки против финансовых учреждений. Два многосторонних органа, пришедшие независимо к одной и той же оценке, — это то, что обычно замечают регуляторы. Более того, Бейли предупредил, что многие страны не имеют системы управления тем, как продвинутые модели ИИ внедряются в их финансовые сектора. Это пробел в управлении, а не в технологии, и это тот тип пробела, который FSB был создан для того, чтобы обозначать. Второе беспокойство идет параллельно с первым. Финансовый сектор теперь зависит от нескольких поставщиков технологий, и эта концентрация сама по себе является риском для доверия, поскольку сбой у одного поставщика распространяется на учреждения, у которых нет альтернативы для переключения. Совет обсуждает это уже несколько месяцев. Бейли попросил Anthropic проинформировать FSB о том, что его модель Mythos обнаружила в мае, после того как система выявила тысячи уязвимостей высокой степени серьезности в широко используемом программном обеспечении. Брифинг — это запрос на информацию, в то время как письмо министрам G20 с указанием главной проблемы — это позиция регулятора, зафиксированная на бумаге до того, как кто-либо задаст вопрос. Киберпредупреждение не пришло одно. Бейли отметил растянутые оценки активов ИИ, слабости на рынках государственного долга и растущую задолженность на фондовых рынках, комбинацию, которая описывает экономику, сильно заимствующую на ожиданиях той же технологии. Министерство финансов США уже вмешалось, чтобы ограничить доходность облигаций, которая достигла многодесятилетних максимумов, что является тем типом действий, которые обычно предшествуют более широкому разговору о рыночной инфраструктуре. Центральные банкиры уже некоторое время сближаются в этой области. Кристин Лагард утверждала, что ИИ может спровоцировать финансовые кризисы и призвала к управлению, основанному на модели нераспространения времен Холодной войны, что является значительно более драматичным формулированием, чем у Бейли. Агентные системы превращают это из прогноза в проблему надзора. Модель, которая может планировать, действовать и сохранять устойчивость в разных системах, не нуждается в человеческом операторе на каждом этапе, что устраняет трудозатраты, которые всегда ограничивали количество целей, над которыми может работать злоумышленник. FSB не имеет полномочий принуждать кого-либо. Он устанавливает стандарты, публикует оценки и полагается на национальных регуляторов для действий, что означает, что практический эффект этого письма полностью зависит от того, что министерства финансов решат с ним делать. Для европейских банков соответствующие сроки уже установлены. Закон о киберустойчивости вступил в силу в сентябре с окнами отчетности по уязвимостям, измеряемыми в часах, а DORA регулирует операционную устойчивость в финансовых услугах с 2025 года. Письмо Бейли пришло перед сессиями G20, а не после них, что и является его смыслом. Согласны ли министры, читающие его, с тем, что это должно быть на вершине списка — это то, за чем стоит следить на этой неделе.