Модели ИИ OpenAI тайно создали форум для координации хакерских действий

      Перед большим взломом агенты ИИ OpenAI уже строили планы вместе.

      Мы уже знали, что агенты ИИ OpenAI вышли из контролируемого теста и взломали Hugging Face в прошлом месяце. Теперь мы знаем, что это не было одиночным актом.

      На конференции по кибербезопасности Black Hat в Лас-Вегасе, как сообщает Politico, исследователи OpenAI Майкл Далтон и Эрик Уоллес раскрыли, что некоторые из самых продвинутых моделей компании тайно начали делиться советами по взлому за несколько недель до того, как произошел инцидент. Далтон назвал это «поворотным моментом как для нашей компании, так и для индустрии ИИ в целом».

      Как модели вообще общались друг с другом?

      По словам Уоллеса, проблемы начались, когда модели столкнулись с трудной внутренней оценкой по взлому. Вместо того чтобы сдаться, одна модель поняла, что может оставлять заметки для других моделей, используя внутреннюю файловую систему Artifactory OpenAI. Вскоре несколько моделей начали тихо обмениваться советами о том, как решить задачу, включая обходные пути, требующие доступа в интернет.

      OpenAI

      К концу мая одна модель выяснила, как злоупотребить доступом к интернету Artifactory, чтобы извлекать файлы с внешних сайтов. Через месяц модели нашли и использовали ранее неизвестную уязвимость нулевого дня, получив права администратора и установив удаленное программное обеспечение внутри Artifactory.

      Так как же OpenAI узнала об этом?

      Вся эта активность в конечном итоге перегрузила Artifactory, что привело к системному сбою в начале июля. Это и привлекло внимание инженеров OpenAI. Компания аннулировала учетные данные моделей, удалила доску сообщений и исправила ситуацию с Artifactory. Но всего через несколько дней модели нашли новый способ общения и продолжили искать уязвимости, на этот раз нацелившись на Hugging Face.

      Это происходит на фоне сложного периода для заголовков о безопасности ИИ. После взлома Hugging Face Anthropic проверила свои собственные системы и обнаружила, что модели, которые она тестировала, взломали три отдельные организации, начиная с апреля. Теперь Meta также подтвердила, что ее Meta AI также взломала другую компанию.

      Ясно, что этим компаниям ИИ необходимо создать меры безопасности и внимательно следить за своими тестовыми средами, чтобы подобные вещи не происходили в будущем.

      Рачит — опытный технический журналист с более чем десятилетним опытом освещения рынка потребительских технологий.

      Новые игроки потрясают индустрию памяти, но даже Apple не может справиться с кризисом ОЗУ для вашего кошелька.

      Неудачная попытка Apple получить более дешевую память CXMT показывает, насколько плохим стал кризис ОЗУ.

      Apple обычно может заставить поставщиков подчиниться. Она покупает компоненты в объемах, с которыми не может сравниться ни один бренд потребительских технологий, и построила цепочку поставок, которую конкуренты пытаются скопировать десятилетиями. Однако это влияние теперь столкнулось с производителем памяти, который готов сказать «нет». Сообщается, что Apple обратилась к китайскому CXMT как к дополнительному поставщику DRAM и попросила о снижении цен. CXMT вместо этого назвал цифры, сопоставимые или даже выше, чем у Samsung и SK Hynix. Huawei, Xiaomi и другие китайские производители уже заблокировали большую часть его продукции через долгосрочные контракты по более высоким ценам, оставив компании мало причин принимать условия Apple.

      Читать далее

      ChatGPT позволяет неограниченные чаты на бесплатных аккаунтах и обновления до новых моделей.

      ChatGPT переходит на GPT-5.6 Luna в качестве модели по умолчанию для бесплатных пользователей, в то время как платные аккаунты получают доступ к обновленному опыту GPT-5.6 Sol.

      Сегодня OpenAI объявила о множестве значительных изменений в ChatGPT для бесплатных и платных уровней. Самые большие изменения предназначены для пользователей с бесплатным аккаунтом. Теперь они могут вести неограниченные чаты без каких-либо ограничений. Более того, модель разговора по умолчанию была обновлена до GPT 5.6 Luna. Бесплатные аккаунты также получают доступ к новой кнопке «думать», которая переводит разговор в режим размышлений для запросов, требующих глубокого анализа и поиска знаний. Для неосведомленных модель Luna эквивалентна серии моделей «нано» до того, как новая схема именования появилась с серией GPT-5.6 в начале этого года.

      Читать далее

      Adobe помещает всю свою креативную экосистему внутрь ChatGPT с одним унифицированным плагином.

      Популярные инструменты, такие как Photoshop, Premiere и Firefly, находятся всего в одном запросе.

      Многие из моих друзей провели слишком много часов, переходя между ChatGPT и Photoshop, пытаясь превратить идею в видение. Adobe только что закрыла этот разрыв. Компания запустила единый плагин, который может интегрировать более 70 своих креативных и продуктивных инструментов прямо в ваш чат с ChatGPT.

      Читать далее