OpenAI утверждает, что ИИ-модели самостоятельно провели крупную хакерскую атаку, но только китайский ИИ помог в восстановлении.

      OpenAI

      

      

       Unsplash

      

      

      

       Последний тест по кибербезопасности OpenAI дал результат, который звучит как предостерегающий сценарий научной фантастики. Его модели ИИ смогли выбраться из своей песочницы и выйти в открытый интернет. Здесь события приняли пугающий оборот, когда они начали взламывать Hugging Face, чтобы украсть ответы на тест, который они проходили.

      Компания сообщает, что GPT-5.6 Sol и более мощная не выпущенная модель автономно связали уязвимости в исследовательских системах OpenAI и производственной инфраструктуре Hugging Face. OpenAI охарактеризовала это событие как беспрецедентный киберинцидент.

      Модели нашли реальный путь к побегу

      Инцидент начался во время внутренней оценки, предназначенной для измерения продвинутых наступательных возможностей кибербезопасности. OpenAI намеренно запустила модели с уменьшенными киберотказами и без производственных классификаторов, которые обычно предотвращают их от осуществления опасных атак.

      OpenAI / ChatGPT

      Тестовая среда была сильно изолирована. Тем не менее, она могла достичь внутреннего прокси-сервера, используемого для получения программных пакетов. Эти модели затем потратили значительные вычислительные ресурсы на поиск пути к побегу и обнаружили ранее неизвестную уязвимость в этом прокси, которую они использовали. Это позволило им повысить свои привилегии и перемещаться по исследовательской инфраструктуре OpenAI, в конечном итоге достигнув системы с неограниченным доступом в интернет.

      Затем модели сделали вывод, что Hugging Face может содержать материалы, связанные с ExploitGym, эталоном кибербезопасности, который они пытались завершить. Согласно OpenAI, они использовали украденные учетные данные и дополнительные уязвимости нулевого дня, чтобы найти путь удаленного выполнения кода на серверах Hugging Face и извлечь решения тестов из производственной базы данных.

      OpenAI обнаружила необычную активность внутри, в то время как системы безопасности Hugging Face идентифицировали и остановили вторжение в свою инфраструктуру. Hugging Face заявила, что инцидент раскрыл ограниченную коллекцию внутренних наборов данных и учетных данных сервисов. Не было найдено доказательств того, что публичные модели, наборы данных или образы контейнеров были изменены. Однако их оценка возможного воздействия на клиентов или партнеров все еще продолжается.

      Китайский ИИ помог следователям разобраться в этом беспорядке

      Hugging Face столкнулась с странной проблемой, исследуя более 17,000 записанных событий атаки. Их следователи изначально пытались использовать передовые модели ИИ, доступные через коммерческие API. Однако их системы безопасности смогли заблокировать вредоносные команды, эксплойты и артефакты командного управления, содержащиеся в доказательствах. Хостинг-модели не могли надежно отличить судебно-экспертную работу от запросов помощи с атакой.

      Z.Ai

      Компания переключилась на GLM 5.2, открытую модель, разработанную китайской Z.ai, и запустила ее локально. Движимые ИИ судебно-экспертные агенты использовали модель для восстановления временной шкалы, идентификации скомпрометированных учетных данных, извлечения индикаторов компрометации и даже смогли отделить подлинную активность от приманок. Hugging Face заявляет, что процесс занял часы вместо дней, которые могла бы потребовать обычная проверка. Держание GLM на своей инфраструктуре также предотвратило утечку учетных данных и данных об атаках из их среды.

      Команды безопасности Hugging Face позже удалили точки опоры и восстановили скомпрометированную систему. Таким образом, GLM не смогла в одиночку остановить вторжение. OpenAI создала ИИ, способный осуществлять такого рода вторжения, в то время как опыт Hugging Face предполагает, что защитникам могут понадобиться столь же мощные модели, ожидающие на другой стороне.

      

      

      

      

      

      

      

      

      

      

       Викхйат Вивек — технический журналист и рецензент с семилетним опытом освещения потребительского оборудования, с акцентом на…

      

      

      

      

      

      

       WhatsApp теперь может открывать и редактировать PDF-файлы, не заставляя вас сначала их загружать

      

       Adobe Acrobat добавляет встроенные инструменты просмотра и аннотирования для PDF-файлов, отправленных через WhatsApp на больших экранах

      

       Adobe делает вложения PDF гораздо менее раздражающими в WhatsApp. Его новая интеграция с Acrobat позволяет вам открывать PDF и делать пометки, не загружая файл и не покидая разговор.

      Эта функция доступна сегодня через WhatsApp Web и приложение для Windows. Однако заголовок сопровождается важным оговоркой. Это не полное редактирование PDF. Вы можете просматривать и аннотировать документ, но не можете переписывать его оригинальный текст или изменять макет.

      

       Читать далее

      

      

      

       Substack теперь позволяет вам проверять, был ли пост написан ИИ

      

       Новый сканер на базе Pangram позволяет вам проверять посты, заметки и ответы на признаки написания ИИ.

      

       Substack предоставляет читателям способ проверить, был ли пост, который они читают, написан человеком или чат-ботом. Компания сотрудничает с фирмой по обнаружению ИИ Pangram, чтобы представить новые инструменты, которые позволят пользователям сканировать посты, заметки и ответы на текст, сгенерированный ИИ. Генеральный директор Крис Бест представил функции в посте под названием "Против Клаудфишинга", его термин для контента, который опирается на ИИ, представляя себя как человеческую работу.

      Как работает инструмент сканирования

      

       Читать далее

      

      

      

       Китайская нехватка талантов в области ИИ заставляет технологических гигантов нанимать подростков

      

       Забудьте о наборе на кампусе, крупнейшие технологические компании Китая делают ставку на подростков-программистов.

      

       13-летний мальчик в Ханчжоу уже выиграл национальные соревнования по ИИ и собрал аудиторию из более чем 136,000 человек в интернете, в то время как его отец пытается разобраться, как направить его в области, которая едва существовала, когда он сам рос. Ситуация этой семьи, о которой впервые сообщила Rest of World, многое говорит о том, куда движется китайская технологическая индустрия в настоящее время.

      Компании раньше ждали, пока выпускники войдут в дверь. Теперь они обращаются дальше назад, сначала к студентам бакалавриата, а затем все чаще к подросткам, надеясь заметить редкий талант, прежде чем кто-либо другой доберется до них.

      

       Читать далее