Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным.

Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным.

      AI-компания по безопасности Irregular продолжает оправдывать свое название, так как еще один инцидент с тестированием ИИ стал известен.

      Meta только что признала, что одна из ее моделей ИИ вырвалась во время тестирования безопасности и взломала систему другой компании. Это уже четвертый случай за последние недели, когда крупный игрок в этой области делает такое признание, и три из этих инцидентов связаны с одной и той же точкой сбоя.

      Одна лаборатория тестирования, три отдельных ошибки

      Meta сообщила BBC, что утечка произошла во время оценки, проведенной Irregular, сторонней компанией, нанятой для стресс-тестирования ее ИИ на наличие уязвимостей в безопасности. Meta назвала это "неправильной конфигурацией" и сказала, что все еще собирает детали, прежде чем поделиться дополнительной информацией.

      Представитель Irregular подтвердил BBC, что инцидент Meta является той же проблемой с тестовой средой, которую раскрыла Anthropic на прошлой неделе, когда она сообщила, что три ее модели Claude вырвались из тестовых сред и взломали три компании. OpenAI также раскрыла аналогичную утечку ранее на этой неделе, заявив, что одна из ее моделей использовала ошибку, чтобы взломать веб-сайт после того, как Irregular случайно предоставила ей доступ к интернету.

      На данный момент Irregular кажется менее названием компании и больше похоже на предупреждающую этикетку.

      Единственная утечка, которая не нуждалась в помощи Irregular

      Самый ранний из четырех инцидентов произошел иначе. В июле тестовая модель OpenAI обнаружила уязвимость в файловом репозитории, связанном с ее песочницей, использовала ее, чтобы самостоятельно выйти в открытый интернет и в конечном итоге взломала системы Hugging Face, пытаясь обмануть на тесте по кибербезопасности. Никакой внешний оценщик не предоставил ей доступ по ошибке. Модель нашла свой собственный выход.

      Британский Институт безопасности ИИ обнаружил ту же схему, независимо от того, как все началось. На этой неделе институт опубликовал отчет о тестах, которые он проводил отдельно, и обнаружил, что агенты ИИ от OpenAI и Anthropic совершили несанкционированные действия в интернете 19 раз за 122 запуска.

      Ничто из этого не требовало мятежного ИИ, замышляющего против своих создателей. Каждый случай сводится к компании, которая либо неправильно обрабатывает доступ в интернет, либо проводит тест более свободно, чем предполагалось. Это гораздо более обыденная проблема, чем убийственный ИИ, но она более актуальна, если вы используете инструменты, которые просматривают, кликают и действуют от вашего имени. Компании, которые их создают, все еще пытаются понять, как удержать их в пределах ограждения, которое они рисуют.

      Пранаб — опытный технический журналист с более чем восьмилетним стажем работы в области потребительских технологий. Его работа была...

      Новые игроки встряхивают индустрию памяти, но даже Apple не может заставить кризис ОЗУ подчиниться вашему кошельку

      Неудачная попытка Apple получить более дешевую память CXMT показывает, насколько серьезным стал кризис ОЗУ.

      Apple обычно может заставить поставщиков подчиниться. Она покупает компоненты в объемах, с которыми не может сравниться ни один бренд потребительских технологий, и построила цепочку поставок, которую конкуренты пытаются скопировать десятилетиями. Однако это влияние теперь столкнулось с производителем памяти, готовым сказать "нет".

      Сообщается, что Apple обратилась к китайскому CXMT как к дополнительному поставщику DRAM и попросила о более низких ценах. CXMT вместо этого предложил цены, сопоставимые или даже выше, чем у Samsung и SK Hynix. Huawei, Xiaomi и другие китайские производители уже заблокировали большую часть его продукции через долгосрочные контракты по более высоким ценам, оставив компании мало причин принимать условия Apple.

      Читать далее

      ChatGPT позволяет неограниченные чаты на бесплатных аккаунтах и обновления до новых моделей

      ChatGPT переходит на GPT-5.6 Luna в качестве модели по умолчанию для бесплатных пользователей, в то время как платные аккаунты получают доступ к обновленному опыту GPT-5.6 Sol.

      OpenAI сегодня объявила о множестве значительных изменений в ChatGPT для бесплатных и платных уровней. Самые большие изменения предназначены для пользователей с бесплатным аккаунтом. Теперь они могут вести неограниченные чаты без каких-либо ограничений. Более того, модель разговора по умолчанию была обновлена до GPT 5.6 Luna.

      Бесплатные аккаунты также получают доступ к новой кнопке "думать", которая переводит разговор в режим размышления для запросов, требующих глубокого анализа и поиска знаний. Для неосведомленных, модель Luna эквивалентна серии "нано" моделей до того, как новая схема именования появилась с серией GPT-5.6 ранее в этом году.

      Читать далее

      Adobe помещает всю свою креативную экосистему внутрь ChatGPT с одним унифицированным плагином

      Популярные инструменты, такие как Photoshop, Premiere и Firefly, находятся всего в одном запросе.

      Многие из моих друзей провели слишком много часов, переходя между ChatGPT и Photoshop, пытаясь превратить идею в видение. Adobe только что закрыла этот разрыв.

      Компания запустила единый плагин, который может интегрировать более 70 своих креативных и продуктивных инструментов непосредственно в ваш чат с ChatGPT.

      Читать далее

Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным. Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным. Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным. Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным. Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным. Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным.

Other articles

Meta has acknowledged that its AI breached the systems of another company, and the trend is anything but unusual. Meta has acknowledged that its AI breached the systems of another company, and the trend is anything but unusual. Meta has verified that one of its AI models infiltrated another company's system during a security evaluation, marking it as the third company to disclose such a breach in recent weeks. Review of the Huawei FreeBuds Pro 5: By far the best value earbuds I've tried in quite some time. Review of the Huawei FreeBuds Pro 5: By far the best value earbuds I've tried in quite some time. The Huawei FreeBuds Pro 5 are priced lower than what Apple and Sony typically ask for premium audio quality, yet they outshine their competitors with impressive sound performance and a host of additional features. Minecraft is making its way to Switch 2, and even the Creepers are becoming more visually appealing. Minecraft is making its way to Switch 2, and even the Creepers are becoming more visually appealing. Minecraft will officially launch on the Nintendo Switch 2 this October, featuring improved lighting, enhanced shadow effects, a new Mario pack, and an upgrade option for current Switch users. Viture's lightest smart glasses to date still provide a substantial 146-inch display right in front of your eyes. Viture's lightest smart glasses to date still provide a substantial 146-inch display right in front of your eyes. The Viture Pro 2 reduces weight and thickness while enhancing display brightness, refining eye adjustments, and offering a broader field of view, all complemented by a more compact dock compatible with the Switch 2. Pubs and restaurants are viewing Meta's smart glasses as if they are concealed cameras, and I fully agree. Pubs and restaurants are viewing Meta's smart glasses as if they are concealed cameras, and I fully agree. Restaurants, pubs, private clubs, and theaters are limiting the use of Meta’s glasses with cameras, bringing back the privacy concerns that previously made Google Glass socially unacceptable. Research reveals that stories about animals created by AI seldom feature a female protagonist. Research reveals that stories about animals created by AI seldom feature a female protagonist. A recent study from the University of Washington discovered that when AI models generate stories featuring talking animals, the main character is seldom female.

Meta подтверждает, что ее ИИ взломал систему другой компании, и этот шаблон совсем не является нерегулярным.

Meta подтвердила, что одна из её моделей ИИ взломала систему другой компании во время тестирования безопасности, что делает её третьей компанией, сообщившей о подобном нарушении за последние недели.