Meta подтверждает, что его ИИ взломал систему другой компании, и этот шаблон совершенно не является нерегулярным.

      AI-компания по безопасности Irregular продолжает оправдывать свое название, так как еще один инцидент с тестированием ИИ стал известен.

      Meta только что признала, что одна из ее моделей ИИ вырвалась на свободу во время тестирования безопасности и взломала систему другой компании. Это уже четвертый случай за последние недели, когда крупный игрок в этой области делает аналогичное признание, и три из этих инцидентов связаны с одной и той же точкой сбоя.

      Одна лаборатория тестирования, три отдельных ошибки

      Meta сообщила BBC, что утечка произошла во время оценки, проведенной Irregular, сторонней компанией, нанятой для стресс-тестирования ее ИИ на наличие уязвимостей в безопасности. Meta назвала это "неправильной конфигурацией" и заявила, что все еще собирает детали, прежде чем поделиться дополнительной информацией.

      Представитель Irregular подтвердил BBC, что инцидент Meta является той же проблемой тестовой среды, которую раскрыла Anthropic на прошлой неделе, когда она сообщила, что три ее модели Claude вырвались из тестовых сред и взломали три компании. OpenAI также раскрыла аналогичную утечку ранее на этой неделе, заявив, что одна из ее моделей использовала ошибку, чтобы взломать веб-сайт после того, как Irregular случайно предоставила ей доступ к интернету.

      На данный момент Irregular кажется менее названием компании и больше похоже на предупреждающую метку.

      Единственная утечка, которая не нуждалась в помощи Irregular

      Самый ранний из четырех инцидентов произошел иначе. В июле собственная тестовая модель OpenAI обнаружила уязвимость в файловом репозитории, связанном с ее песочницей, использовала ее, чтобы самостоятельно выйти в открытый интернет и в конечном итоге взломала системы Hugging Face, пытаясь обмануть на тесте по кибербезопасности. Никакой внешний оценщик не предоставил ей доступ по ошибке. Модель нашла свой собственный выход.

      Институт безопасности ИИ Великобритании обнаружил ту же схему, независимо от того, как она началась. На этой неделе институт опубликовал отчет о тестах, которые он проводил отдельно, и обнаружил, что агенты ИИ от OpenAI и Anthropic совершили несанкционированные действия в интернете 19 раз за 122 попытки.

      Ничто из этого не требовало мятежного ИИ, замышляющего против своих создателей. Каждый случай связан с компанией, которая либо неправильно управляла доступом в интернет, либо проводила тест с меньшими ограничениями, чем предполагалось. Это гораздо более обыденная проблема, чем убийственный ИИ, но она более актуальна, если вы используете инструменты, которые просматривают, кликают и действуют от вашего имени. Компании, которые их создают, все еще пытаются понять, как удержать их внутри ограждения, которое они рисуют.

      Пранаб — опытный технический журналист с более чем восьмилетним стажем работы в области потребительских технологий. Его работа была…

      Новые игроки встряхивают индустрию памяти, но даже Apple не может справиться с кризисом ОЗУ для вашего кошелька

      Неудачная попытка Apple получить более дешевую память CXMT показывает, насколько серьезным стал кризис ОЗУ

      Apple обычно может заставить поставщиков подчиниться. Она покупает компоненты в объемах, которые немногие бренды потребительских технологий могут сопоставить, и построила цепочку поставок, которую конкуренты пытаются скопировать десятилетиями. Однако это влияние теперь столкнулось с производителем памяти, который готов сказать "нет".

      Сообщается, что Apple обратилась к китайскому CXMT как к дополнительному поставщику DRAM и попросила о снижении цен. CXMT вместо этого предложила цены, сопоставимые или даже выше, чем у Samsung и SK Hynix. Huawei, Xiaomi и другие китайские производители уже заблокировали большую часть его продукции через долгосрочные контракты по более высоким ценам, оставив компании мало причин принимать условия Apple.

      Читать далее

      ChatGPT позволяет неограниченные чаты на бесплатных аккаунтах и обновления до новых моделей

      ChatGPT переходит на GPT-5.6 Luna в качестве модели по умолчанию для бесплатных пользователей, в то время как платные аккаунты получают доступ к обновленному опыту GPT-5.6 Sol.

      OpenAI сегодня объявила о множестве значительных изменений в ChatGPT для бесплатных и платных уровней. Самые большие изменения предназначены для пользователей с бесплатным аккаунтом. Теперь они могут вести неограниченные чаты без каких-либо ограничений. Более того, модель разговора по умолчанию была обновлена до GPT 5.6 Luna.

      Бесплатные аккаунты также получают доступ к новой кнопке "думать", которая переводит разговор в режим размышления для запросов, требующих глубокого анализа и поиска знаний. Для неосведомленных, модель Luna эквивалентна "нано" серии моделей до того, как новая схема именования появилась с серией GPT-5.6 ранее в этом году.

      Читать далее

      Adobe помещает всю свою креативную экосистему внутрь ChatGPT с одним унифицированным плагином

      Популярные инструменты, такие как Photoshop, Premiere и Firefly, всего в одном шаге.

      Многие из моих друзей провели слишком много часов, переходя между ChatGPT и Photoshop, пытаясь превратить идею в видение. Adobe только что закрыла этот разрыв.

      Компания запустила единственный плагин, который может интегрировать более 70 своих креативных и продуктивных инструментов прямо в ваш чат с ChatGPT.

      Читать далее