Искусственный интеллект заполняет поток CVE фальшивыми уязвимостями.
Программная индустрия работает на основе общего списка известных ошибок. Кто-то сейчас заполняет этот список сбоями, которые никто никогда не находил.
Безопасностная компания JFrog обнаружила шесть критических уязвимостей SQLite, которые были чистой выдумкой, как сообщается. В уведомлениях утверждались серьезные ошибки памяти с оценками до 9.8. Но функции, за которые они отвечали, не существовали в указанных версиях, а код доказательства концепции работал без сбоев. Пропущенные через детектор GPTZero, отчеты вернулись как сгенерированные машиной. Это были искусственные материалы.
И не только шесть. Один новый аккаунт на GitHub опубликовал 55 отчетов о уязвимостях за несколько дней, и JFrog обнаружил 54 подделки. Только один содержал настоящую ошибку, завернутую в ложные метаданные.
Остальные выдумали дыры в SQLite, библиотеке изображений libraw и аудиодекодере Arduino. Red Hat на короткое время оценил одну запись SQLite на идеальные 10.0, затем снизил до 7.6. SQLite добавил функцию, за которую он обвинял, в 2025 году, через год после версии, которую он якобы сломал.
Как выдумка стала официальной
Подделки не остались на GitHub. Они попали в Национальную базу уязвимостей, авторитетный реестр правительства США. Там NVD отметила их как критические, и команда CISA обогатила их. Как только уязвимость попадает туда, сканеры и защитники по всему миру рассматривают ее как реальную.
Это работает на доверии. Любой может подать CVE через публичную форму MITRE, и организации, которые их назначают, в основном принимают слово подателя. «CNA часто не в состоянии самостоятельно проверить отчет», - отметил инженер Oracle Алан Куперсмит.
NIST раньше был последней инстанцией. Его эксперты вручную проверяли каждую запись. Затем поток заявок заставил их приостановить глубокий анализ в начале 2024 года. К концу 2025 года количество необработанных отчетов превысило 27,000. Федеральный контрольный орган заявил, что агентство потратило деньги впустую, не очистив его. Ни один шаг в процессе теперь не требует от кого-либо воспроизводить ошибку.
Машины обманывают машины
Настоящая опасность заключается в том, кто читает эти записи дальше. Команды безопасности все чаще направляют AI-агентов кодирования на свой код, чтобы исправить сообщенные ошибки. Если дать одному поддельный CVE, он может искать уязвимую функцию, которую никто никогда не писал. Затем он изменяет рабочий код, чтобы исправить проблему, которой не существует.
Цикл едва ли включает человека. Один AI пишет правдоподобное уведомление, слабо укомплектованный процесс пропускает его, а другой AI пытается его исправить. Та же беглость без содержания уже преследует код, написанный AI.
Афек Бергер из JFrog охарактеризовал это как асимметрию. Генерация убедительной подделки теперь стоит почти ничего, сказал он. Проверка одной стоит ровно столько же, сколько всегда: прочитать источник, собрать версию, запустить доказательство концепции.
Даже хорошо обеспеченные защитники не могут проверить каждый отчет вручную. CISA и NIST слишком отстали, чтобы помочь. Система доверия никогда не предполагала машины, которые могут лгать в больших масштабах.
Другие статьи
Snap стукнул и прыгнул, но Америка продолжает покидать Snapchat
Snap увеличил свою стоимость акций, но теряет пользователей в Северной Америке, стоимость которых составляет $10 каждый, и добавляет пользователей за границей, стоимость которых составляет $1, а его крупная ставка — это очки за $2,195.
Snap хлопнул и подпрыгнул, но Америка продолжает покидать Snapchat
Snap beat и его акции подскочили, но он теряет пользователей в Северной Америке, стоимость которых составляет 10 долларов каждый, и добавляет пользователей за границей, стоимость которых составляет 1 доллар, а его большая ставка — это очки за 2,195 долларов.
HappyRobot привлекла 150 миллионов долларов в рамках раунда финансирования Series C, чтобы внедрить ИИ-агентов в работу по всему предприятию.
HappyRobot привлекла 150 миллионов долларов при оценке в 1,2 миллиарда долларов, возглавляемой Prysm Capital и совместно возглавляемой Eurazeo, чтобы расширить свои корпоративные ИИ-агенты за пределами логистики.
Уединение влиятельных лиц OpenAI обернулось скандалом по поводу гринвошинга
OpenAI отправила инфлюенсеров в курорт здоровья стоимостью $2000 за ночь, чтобы поднять настроение вокруг ИИ. Интернет назвал это "зеленым омыванием", и создатели понесли убытки.
Обсидиан Секьюрити достигла оценки в 1,1 миллиарда долларов на фоне изменений угроз, вызванных ИИ.
Компания Obsidian, занимающаяся безопасностью SaaS, привлекла новое финансирование при оценке в 1,1 миллиарда долларов на фоне растущего спроса на инструменты, которые обеспечивают безопасность ИИ-агентов внутри корпоративных приложений.
Anthropic подписывает сделку на $10 млрд с недельным облачным стартапом
Anthropic подписала контракт на $10 миллиардов на шесть лет с Volta, облачным стартапом, который только что запустился, добавив еще одного поставщика в свой список.
Искусственный интеллект заполняет поток CVE фальшивыми уязвимостями.
JFrog обнаружил, что 54 из 55 уязвимостей CVE из одного репозитория GitHub были вымышленными, созданными ИИ, однако они попали в официальную базу данных правительства США. Кодирующие агенты ИИ являются метками.