OpenAI добавляет режим блокировки в ChatGPT, чтобы предотвратить кражу данных в результате атак с использованием инъекций команд.

      TL;DRРежим блокировки ChatGPT отключает живой просмотр, режим агента и глубокие исследования, чтобы заблокировать утечку данных через инъекции команд. Доступен на всех тарифах.

      OpenAI начала внедрение Режима блокировки в ChatGPT, новой настройки безопасности, предназначенной для предотвращения кражи данных злоумышленниками через атаки инъекций команд. Эта функция отключает живой веб-просмотр, режим агента, глубокие исследования, извлечение изображений, сетевое взаимодействие Canvas и загрузку файлов. Она доступна для вошедших в систему пользователей на бесплатных, Go, Plus, Pro и самостоятельных тарифах ChatGPT Business.

      Инъекции команд остаются тем, что OpenAI называет «пограничной» проблемой, затрагивающей все крупные языковые модели. Атака работает, скрывая вредоносные инструкции в контенте, который обрабатывает модель, таком как веб-страница или загруженный файл. Если модель следует этим инструкциям, ее можно обмануть, заставив отправить конфиденциальные данные на сервер, контролируемый злоумышленником.

      Режим блокировки не предотвращает инъекции. Вредоносный код, встроенный в кэшированную веб-страницу или загруженный PDF, все еще может повлиять на поведение модели. Что он делает, так это закрывает выходные каналы, которые злоумышленник мог бы использовать для утечки данных. Отсутствие живого просмотра означает отсутствие сетевых запросов к внешним серверам. Отсутствие извлечения изображений означает отсутствие каналов передачи данных на основе пикселей.

      «Режим блокировки предназначен для значительного снижения риска утечки данных на основе инъекций команд, но он не гарантирует, что утечка данных не может произойти», — заявила OpenAI. «Риск может оставаться через включенные приложения, непредвиденные комбинации возможностей или вновь открытые техники».

      Компромисс значителен. С включенным Режимом блокировки ChatGPT теряет большую часть того, что делает его функции агента и исследования полезными. Живой просмотр сводится только к кэшированному контенту. Режим агента полностью отключен. Глубокие исследования отключены. Это, как признает OpenAI, «не предназначено для всех».

      Эта функция появляется на фоне растущей обеспокоенности по поводу атак инъекций команд на ИИ-агентов. Исследователи безопасности продемонстрировали захваты агентов от Anthropic, Google и Microsoft через их интеграции с GitHub Actions. Все три компании выплатили вознаграждения за найденные уязвимости, но не опубликовали публичные предупреждения. Основная уязвимость является фундаментальной: крупные языковые модели не могут надежно отделять данные от инструкций.

      Режим блокировки и Режим разработчика не могут использоваться одновременно. Включение одного отключает другой. OpenAI также запустила отдельную функцию управления сессиями, которая позволяет пользователям просматривать активные сессии ChatGPT и выходить из отдельных устройств, если они замечают несанкционированную активность.

      Эта функция является прагматичной уступкой. OpenAI не утверждает, что решила проблему инъекций команд. Она принимает, что проблема сохраняется, и предлагает пользователям способ снизить их подверженность, отказываясь от функциональности. Для всех, кто обрабатывает конфиденциальные данные в ChatGPT, этот компромисс стоит того. Для всех остальных расширяющаяся экосистема агентов и ее растущая поверхность атаки означают, что риск только увеличивается.

      

      

       Опубликовано 7 июня 2026 года - 9:14 по всемирному координированному времени

      

       Вернуться к началу