Союз Five Eyes предупреждает, что киберугрозы от передового ИИ находятся в «нескольких месяцах» от нас.

      Союз разведывательных служб "Пять глаз" выпустил совместное предупреждение о том, что следующее поколение искусственного интеллекта готово значительно усилить наступательные хакерские атаки, и что время для подготовки к этому быстро истекает.

      В скоординированном заявлении агентства Соединенных Штатов, Великобритании, Канады, Австралии и Новой Зеландии отметили, что необходимы срочные действия, и обозначили угроза с поразительно коротким сроком.

      "Ожидается, что модели передового ИИ превзойдут текущие ожидания отрасли, кардинально трансформируя как наступательные, так и защитные киберспособности," - говорится в заявлении. "Сроки - это не годы, это месяцы."

      Агентства также предупредили, что модели ИИ, способные нанести серьезный киберущерб, сами находятся всего в "нескольких месяцах" от публичного доступа, что сжимает обычный горизонт рисков правительства до чего-то, близкого к настоящему времени.

      Многое из того, что союз отметил, - это непривлекательная механика того, как организации подвергаются атакам. 💜 технологий ЕС Последние новости из сферы технологий ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      В заявлении были выделены устаревшие системы, медленные циклы обновления, ненужная интернет-связь, слабые идентификационные и контрольные механизмы доступа, а также отсутствие планирования до инцидента как слабые места, которые более мощный ИИ быстро найдет и использует.

      Ни одна из этих проблем не нова; аргумент заключается в том, что ИИ индустриализирует их эксплуатацию, сокращая время между тем, как уязвимость становится известной, и тем, как злоумышленник ее использует, с недель до чего-то гораздо более короткого.

      Недостаток, который когда-то требовал от квалифицированной человеческой команды дней для создания оружия, как предполагают агентства, вскоре может быть превращен в рабочую уязвимость моделью за долю этого времени.

      То, что большая часть основного совета знакома, в определенном смысле, и есть суть. Основная часть заявления повторила основные принципы кибербезопасности: быстро обновляйте, не подключайте системы к интернету, если это не необходимо, ограничьте доступ к системам - это те рекомендации, которые защитники слышат на протяжении многих лет.

      Агентства также призвали защитников использовать ту же технологию против проблемы, настоятельно рекомендуя организациям использовать ИИ "для укрепления защиты", например, находя уязвимости быстрее или реагируя на инциденты быстрее.

      Такое формулирование отражает год, в котором грань между инструментами атаки и защиты стала тонкой: исследователи Google использовали систему ИИ для выявления активной нулевой уязвимости, а Anthropic задокументировала модели, которые могут обнаруживать серьезные программные уязвимости, которые не дают спать банкам.

      Предупреждение поступает на фоне более широкой борьбы за организацию защиты до того, как разрыв в возможностях расширится. Государства и поставщики подписывают транснациональные киберпартнерства, а преступное использование ИИ уже заметно на краях, с исследователями, отслеживающими кражи криптовалюты с помощью ИИ, приписываемые северокорейским операторам.

      Заявление "Пяти глаз" фактически сообщает остальной части поля, что те же инструменты скоро станут широко доступными.

      Союз звучал с необычно громким сигналом тревоги, указывая организациям на необходимость базовой дисциплины, признавая, что большинство ущерба все еще происходит через двери, которые были оставлены открытыми.

      В заявлении не было указано фиксированного срока или какого-либо регулирующего механизма, оставляя ответ на усмотрение отдельных организаций и национальных агентств. Также не были названы конкретные лаборатории ИИ или модели, что сделало предупреждение общим, а не выделяющим какого-либо разработчика.

      Для защитников практический вывод неудобен в своей простоте: совет не изменился, но время для его реализации, по оценкам союза, теперь измеряется месяцами, а не годами.