Союз Five Eyes предупреждает, что киберугрозы на границе ИИ находятся в «нескольких месяцах» от нас

      Союз разведывательных служб "Пять глаз" выпустил совместное предупреждение о том, что следующее поколение искусственного интеллекта готово значительно усилить наступательный хакерский потенциал, и что время для подготовки к этому быстро истекает.

      В координированном заявлении агентства Соединенных Штатов, Великобритании, Канады, Австралии и Новой Зеландии заявили, что необходимы срочные действия, и указали на поразительно короткий срок угрозы.

      «Ожидается, что модели передового ИИ превзойдут текущие ожидания отрасли, кардинально трансформируя как наступательные, так и защитные киберспособности», - говорится в заявлении. «Сроки - это не годы, это месяцы».

      Агентства также предупредили, что модели ИИ, способные причинить серьезный киберущерб, сами находятся всего в «нескольких месяцах» от публичного доступности, что сжимает обычный горизонт рисков правительства до чего-то близкого к настоящему времени.

      Многое из того, что союз отметил, - это непривлекательная механика того, как организации подвергаются взломам. 💜 Технологии ЕС Последние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      В заявлении были выделены устаревшие системы, медленные циклы патчей, ненужная интернет-связь, слабые идентификационные и контрольные механизмы доступа, а также отсутствие планирования до инцидента как слабые места, которые более мощный ИИ быстро найдет и использует.

      Ни одна из этих проблем не нова; аргумент заключается в том, что ИИ индустриализирует их эксплуатацию, сокращая время между тем, как уязвимость становится известной, и тем, как злоумышленник ее использует, с недель до чего-то гораздо более короткого.

      Недостаток, который когда-то требовал от квалифицированной человеческой команды дней для создания оружия, как предполагают агентства, вскоре может быть превращен в рабочую уязвимость моделью за долю этого времени.

      То, что большая часть основного совета знакома, в определенном смысле, и было целью. Основная часть заявления повторила основные принципы кибербезопасности: быстро патчить, не выводить системы в онлайн, если это не нужно, ограничить доступ к системам, тот тип рекомендаций, который защитники слышат на протяжении многих лет.

      Агентства также призвали защитников обратить ту же технологию против проблемы, призывая организации использовать ИИ «для укрепления защиты», например, находя уязвимости быстрее или быстрее реагируя на инциденты.

      Такое представление отражает год, в котором граница между инструментами атаки и защиты стала тонкой: исследователи Google использовали систему ИИ для выявления активной нулевой уязвимости, а Anthropic задокументировала модели, которые могут обнаруживать серьезные программные уязвимости, которые не дают банкам спать.

      Предупреждение звучит на фоне более широкой гонки по организации защиты, прежде чем разрыв в возможностях расширится. Государства и поставщики подписывают трансграничные киберпартнерства, а преступное использование ИИ уже видно на краях, с исследователями, отслеживающими кражи криптовалюты с помощью ИИ, приписываемые северокорейским операторам.

      Заявление "Пяти глаз" фактически сообщает остальной части поля, что те же инструменты скоро станут широко доступными.

      Союз звучал с необычно громким сигналом тревоги, указывая организациям на необходимость базовой дисциплины, признавая, что большинство ущерба все еще происходит через двери, которые были оставлены незапертыми.

      В заявлении не было указано фиксированного срока или какого-либо регулирующего механизма, оставляя ответ на усмотрение отдельных организаций и национальных агентств. Также не были названы конкретные лаборатории ИИ или модели, оставляя предупреждение общим, а не выделяя какого-либо разработчика.

      Для защитников практическое резюме неудобно в своей простоте: совет не изменился, но время для его реализации, по собственным оценкам союза, теперь измеряется месяцами, а не годами.