Банковский регулятор Канады назвал Клода Мифоса в предупреждении для банков

      Апрельское письмо руководителям банковских технологий, опубликованное в соответствии с правилами доступа к информации, показывает, что OSFI называет фронтальную модель Anthropic причиной того, что окно для исправления недостатков закрывается. Регуляторы обычно не называют продукты. Они пишут о «новых технологиях» и «современных возможностях» и оставляют читателю возможность понять, о каком поставщике идет речь. Поэтому стоит отметить, что когда банковский надзор Канады написал крупнейшим кредиторам страны в апреле, он назвал одного: Claude Mythos от Anthropic. Письмо, отправленное 29 апреля Офисом суперинтенданта финансовых учреждений главам технических служб, главам служб информационной безопасности и главам служб управления рисками в банках и страховых компаниях Канады, было получено Reuters через запрос на доступ к информации. «Современные модели искусственного интеллекта, такие как Anthropic Claude Mythos, значительно сжимают временные рамки для эффективного снижения рисков», — написало OSFI. В бюллетене, по его словам, изложены «здравые практики, которые учреждения могут принять для повышения скорости и эффективности идентификации, снижения и реагирования на риски». Часть письма была редактирована в соответствии с Законом о доступе к информации, поэтому то, что на самом деле рекомендовало OSFI, остается частично скрытым. То, что видно, — это диагноз. Традиционный цикл исправления предполагает, что защитники получают дни или недели между обнаружением недостатка и его эксплуатацией. 💜 технологий ЕС Последние события на технологической сцене ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений искусственного интеллекта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Mythos, который исследователи в области кибербезопасности описывают как чрезвычайно способный находить и эксплуатировать уязвимости программного обеспечения, разрушает это предположение, а банки используют одно из старейших программных обеспечений в любой отрасли на земле. Тайминг аккуратный. В начале апреля канадские банковские руководители встретились с регуляторами, чтобы обсудить Mythos, вскоре после того, как министр финансов США Скотт Бессент и тогдашний председатель Федеральной резервной системы Джером Пауэлл собрали глав банков по тому же вопросу. Три недели спустя OSFI отправило свое письмо. С тех пор этот шаблон повторился в Европейском центральном банке, в Банке Англии и в Австралии, где ASIC подтвердила, что также следит за моделью. После того как Reuters задала вопросы OSFI на прошлой неделе, регулятор опубликовал публичный бюллетень о генеративном и агентном ИИ. Последовательность не является тонкой. Официальная позиция OSFI заключается в том, что она не регулирует модели. «Наше внимание не на самой технологии, а на том, как федеральные регулируемые финансовые учреждения управляют и контролируют риски, связанные с ее использованием», — сказали они. Это стандартная нейтральная линия в отношении технологий, изложенная в документе, который дважды называет конкретную технологию от конкретной компании. Полномочия регулятора охватывают шесть крупнейших банков, пенсионные фонды и страховые компании, и ему поручено выявлять риски, возникающие из геополитики, иностранного вмешательства и новых технологий. Необычно, чтобы все три категории одновременно описывали одно и то же. Доступ к Mythos ограничен. Банки еврозоны, похоже, исключены из него, а модель распространяется через контролируемую программу доступа Anthropic, Project Glasswing. Канадское правительство заявило, что имеет доступ. Неясно, есть ли доступ у какого-либо канадского банка, и ни один из опрошенных не стал бы говорить об этом. Несколько из них перенаправили вопросы в Канадскую ассоциацию банкиров, которая заявила, что ее члены значительно инвестировали в защиту финансовой системы и соблюдают требования OSFI по управлению киберрисками и отчетности о инцидентах, предложение, которое отвечает на другой вопрос. Крупные банки Канады не являются пассивными здесь. Royal Bank of Canada, TD Bank и BMO все изложили планы по заработку на ИИ, переходя от пилотных проектов к чат-ботам и внутренним инструментам и сокращая то, что они покупают у сторонних поставщиков. Scotiabank, CIBC и Национальный банк раскрыли собственные инициативы. Брюс Росс, руководитель группы ИИ RBC, сказал в июне, что Mythos ознаменовал изменение в ландшафте атак, потому что эксплойты теперь могут появляться сразу после обнаружения уязвимостей. «То, как мы с этим справляемся, — это создание наших собственных защит ИИ», — сказал он. «Мы будем продолжать это делать». Защита, другими словами, является больше тем, что вызывает проблему. Более широкая тревога в Оттаве на самом деле не о патчах. Премьер-министр Марк Карни сравнил чрезмерную зависимость от нескольких фронтальных моделей с риском концентрации, который предшествовал кризису 2008 года, что является большим заявлением для премьер-министра о компании чат-ботов. Письмо OSFI предполагает, что регуляторы перестали рассматривать это как метафору.