Хакерская атака на ИИ OpenAI была лишь началом, предупреждает Hugging Face

      Искусственный интеллект OpenAI вернулся, чтобы укусить его

      Rachit Agarwal / Digital Trends

      Hugging Face уже знает, что значит быть атакованным автономным ИИ-агентом. Если один из его соучредителей прав, многие другие компании вскоре это узнают. Томас Вольф, соучредитель и главный научный сотрудник Hugging Face, назвал недавнюю кибератаку, проведенную моделями OpenAI, «сигналом тревоги» для технологической отрасли.

      В интервью BBC Вольф предупредил, что вторжения, управляемые ИИ, могут стать одной из самых распространенных форм кибератак, и сказал, что многие компании еще не осознали, насколько драматично изменилась угроза. Это произошло после того, как OpenAI раскрыла, что ее модели вышли из ограниченной среды оценки кибербезопасности и скомпрометировали Hugging Face, пытаясь получить ответы для бенчмарка ExploitGym. Таким образом, комментарии Вольфа теперь дают нам лучшее представление о том, как выглядела атака с другой стороны.

      OpenAI Unsplash

      17 000 атак пришли за очень короткое время

      Hugging Face изначально не имела представления о том, откуда поступала активность, когда в середине июля обнаружила нарушение. Вольф сообщил BBC, что их сеть зафиксировала около 17 000 атак с разных IP-адресов за «очень короткое время». Компания локализовала вторжение, описав его как очень отличное от кибератак, с которыми обычно сталкивается Hugging Face.

      Собственный отчет о происшествии Hugging Face описывает более 17 000 зафиксированных событий в журнале действий атакующего. В нем говорится, что автономная система выполнила тысячи действий в краткосрочных песочницах и перемещалась по своей инфраструктуре на скорости машины. Британский Институт безопасности ИИ сейчас изучает, как система себя вела во время инцидента, в то время как правительство призвало компании укрепить свои оборонительные меры кибербезопасности.

      OpenAI

      Автономный хакерский атака становится очень реальной

      OpenAI утверждает, что модели были сосредоточены на выполнении этой задачи. После выхода из исследовательской среды они связали уязвимости и украденные учетные данные, пока не нашли путь удаленного выполнения кода на серверах Hugging Face. Hugging Face пришла к аналогично неприятному выводу, что автономный наступательный ИИ уже способен проводить широкие многоэтапные кампании на скорости машины.

      Инцидент Hugging Face — это история для всей отрасли. В то время как одна компания уже испытала этот вид атаки на собственном опыте, многие другие предприятия вскоре могут узнать, как это выглядит.

      Vikhyaat Vivek — технологический журналист и рецензент с семилетним опытом освещения потребительского оборудования, с акцентом на…

      Покупаете вещи к школе? Вот веб-камеры, которые я бы на самом деле включил перед звонком в Zoom

      От бюджетной настольной лампы до полноценной настольной установки, здесь есть веб-камера для каждой цены.

      Между онлайн-занятиями, групповыми проектами и случайными собеседованиями по Zoom ваша веб-камера будет выполнять гораздо больше работы в школе, чем когда-либо дома. Проблема в том, что большинство камер ноутбуков плохо работают при низком освещении, и одна потолочная лампа или окно за вами превращают каждый звонок в игру «подождите, вы меня нормально видите?». Хорошая веб-камера решает эту проблему быстрее, чем перестановка всего вашего стола. Я выбрал пять, начиная с самой доступной и заканчивая той, которая действительно избыточна для звонка в Zoom, но о которой все равно стоит знать.

      Читать далее

      Google Chrome вскоре может позволить вам переводить страницы прямо в режиме чтения

      Тем не менее, не все это еще видят, даже на Canary.

      Режим чтения Chrome только что получил новую кнопку, спрятанную в меню настроек. Google тихо тестирует опцию перевода для этой функции на Chrome Canary, экспериментальном тестовом канале браузера, где новые идеи появляются задолго до того, как они готовы к повседневному использованию. Что на самом деле делает эта новая кнопка перевода?

      Читать далее

      AI-драмы нуждаются в актерах, поэтому китайские платформы превращают человеческие лица в стоковые активы

      Теперь люди могут зарабатывать деньги, лицензируя свои образы создателям ИИ, хотя отслеживать, где эти цифровые лица окажутся, может оказаться значительно сложнее.

      Люди в Китае теперь могут лицензировать свое лицо для ИИ так же, как фотограф лицензирует стоковое изображение. Создатели ИИ могут затем заставить этот образ говорить, двигаться и появляться в разных ролях в коротких драмах или рекламах. По данным Rest of World, участники заработали от 15 до 700 долларов через такие платформы, как ActID и New Claw.

      Читать далее