Тайвань сообщает, что ИИ-агенты помогли взломать его правительство за четыре дня

      Тайвань сообщает, что в прошлом месяце он потратил часть времени на отражение хакерской кампании, которая использовала искусственный интеллект для выполнения основной работы. Министерство цифровых дел острова, через свой Национальный институт кибербезопасности, раскрыло, что государственные учреждения стали мишенью в июле, с предупреждениями, поступившими с 20 июля. Что делает этот эпизод примечательным, так это не сам взлом, а метод. По данным министерства, кампания сочетала в себе старомодный ручной взлом с помощью ИИ-агентов, программного обеспечения, которое можно нацелить на объект и оставить действовать в значительной степени самостоятельно. Один из таких агентов, "Open Claw", был приведен в качестве примера подхода с поддержкой агента. Результатом стала скорость. За примерно четыре дня злоумышленники извлекли "десятки паролей", украли личные данные из министерства юстиции и исследовали агентство по ядерной безопасности на наличие уязвимостей. Такой масштаб раньше требовал квалифицированной человеческой команды, работающей неделями, что отчасти объясняет, почему вопрос о том, кто несет ответственность, когда неуправляемый ИИ-агент взламывает компанию, перестал быть гипотетическим. Целями были государственные органы, а сообщенная активность варьировалась от кражи учетных данных до более широкого извлечения данных. Министерство заявило, что затронутые подразделения "последовательно завершили свою работу", и настаивало на том, что "соответствующие источники атак, методы и масштаб воздействия были полностью расследованы". Официальные лица описали источник как зарубежный, но не стали называть виновного, и ни одна группа злоумышленников не была идентифицирована. Тем не менее, раскрытие информации происходит на фоне постоянной напряженности между Тайванем и Китаем, и несложно увидеть подтекст в тайминге, даже если опубликованные доказательства этого не подтверждают. Более широкий контекст пришел извне Тайваня. Раскрытие информации последовало за отчетом кибербезопасной компании Dream, описывающим кампанию на основе ИИ против неназванного азиатского правительства, позже идентифицированного как Тайвань Financial Times. Это примерно последовательность, в которой эти истории теперь склонны появляться: частная компания замечает паттерн, а правительство подтверждает это позже. Несмотря на разговоры об автономных машинах, люди не покинули здание. "Там все еще есть человек где-то", - предостерег один исследователь безопасности в отношении кампании. "Это не совсем 100% автономно." Это различие имеет значение, потому что ИИ здесь является ускорителем, а не заменой, и ускорители - это то, о чем защитники теряют сон. Что это ускорение снижает, так это барьер для входа. ИИ-агент недавно подделал личности, чтобы установить вредоносное ПО, а используемые инструменты дешевы, широко доступны и быстро улучшаются, что тихо передает ресурсы государства почти любому, кто готов ими управлять. Уязвимости действуют в обе стороны, имейте в виду. Исследователи показали, что эти агенты могут быть обращены против своих собственных операторов, в одном случае обманув агента OpenClaw на утечку ключей AWS и данных клиентов всего лишь с помощью фишингового письма. Умный помощник злоумышленника также является новой атакующей поверхностью. Тайвань, во многих отношениях, является очевидным местом, где это будет разворачиваться в первую очередь. Он находится на острие геополитического давления, управляет плотным и сильно цифровым государственным сектором и долгое время служил полигоном для кибер-техник, которые позже появляются в других местах. Сжатие времени - это часть, на которой стоит остановиться. То, что раньше измерялось неделями, необходимыми человеческой команде для перемещения по сети, теперь, по этим данным, можно сжать в длинные выходные, что переписывает арифметику для всех, кто отвечает за защиту. Тайвань сообщает, что с тех пор усилил мониторинг и выпустил защитные рекомендации для своих учреждений. Достаточно ли этого, чтобы доказать, что это другой вопрос, потому что если несколько ИИ-агентов могут обыскать государственные системы за четыре дня, следующая кампания вряд ли будет вежливо ждать, пока защитники догонят.