OpenAI добавляет режим блокировки в ChatGPT, чтобы предотвратить кражу данных в результате атак с внедрением подсказок.

      TL;DRРежим блокировки ChatGPT отключает живой просмотр, режим агента и глубокие исследования, чтобы заблокировать утечку данных через инъекцию команд. Доступен на всех тарифах.

      OpenAI начала внедрять Режим блокировки в ChatGPT, новую настройку безопасности, предназначенную для предотвращения кражи данных злоумышленниками через атаки инъекций команд. Эта функция отключает живой веб-просмотр, режим агента, глубокие исследования, извлечение изображений, сетевое взаимодействие Canvas и загрузку файлов. Она доступна для вошедших пользователей на тарифах Free, Go, Plus, Pro и самообслуживания ChatGPT Business.

      Инъекция команд остается тем, что OpenAI называет «пограничной» проблемой, затрагивающей все крупные языковые модели. Атака работает, скрывая вредоносные инструкции в контенте, который обрабатывает модель, таком как веб-страница или загруженный файл. Если модель следует этим инструкциям, ее можно обмануть, заставив отправить конфиденциальные данные на сервер, контролируемый злоумышленником.

      Режим блокировки не останавливает инъекции. Вредоносный код, встроенный в кэшированную веб-страницу или загруженный PDF, все еще может влиять на поведение модели. Что он делает, так это закрывает выходные каналы, которые злоумышленник использовал бы для утечки данных. Отсутствие живого просмотра означает отсутствие сетевых запросов к внешним серверам. Отсутствие извлечения изображений означает отсутствие каналов передачи данных на основе пикселей.

      «Режим блокировки предназначен для значительного снижения риска утечки данных на основе инъекций команд, но он не гарантирует, что утечка данных не может произойти», — заявила OpenAI. «Риск может оставаться через включенные приложения, непредвиденные комбинации возможностей или вновь открытые техники».

      Компромисс значителен. С включенным Режимом блокировки ChatGPT теряет большую часть того, что делает его функции агента и исследования полезными. Живой просмотр ограничивается только кэшированным контентом. Режим агента полностью отключен. Глубокие исследования отключены. Это, как признает OpenAI, «не предназначено для всех».

      Эта функция появляется на фоне растущей обеспокоенности атаками инъекций команд на ИИ-агентов. Исследователи безопасности продемонстрировали захваты агентов от Anthropic, Google и Microsoft через их интеграции с GitHub Actions. Все три заплатили вознаграждения за ошибки, но не опубликовали публичные предупреждения. Основная уязвимость является фундаментальной: крупные языковые модели не могут надежно отделять данные от инструкций.

      Режим блокировки и Режим разработчика не могут использоваться одновременно. Включение одного отключает другой. OpenAI также запустила отдельную функцию управления сессиями, которая позволяет пользователям просматривать активные сессии ChatGPT и выходить из отдельных устройств, если они замечают несанкционированную активность.

      Эта функция является прагматичной уступкой. OpenAI не утверждает, что решила проблему инъекций команд. Она принимает, что проблема сохраняется, и предлагает пользователям способ снизить их подверженность, отказываясь от функциональности. Для всех, кто работает с конфиденциальными данными в ChatGPT, этот компромисс стоит того. Для всех остальных расширяющаяся экосистема агентов и ее растущая поверхность атаки означают, что риск только увеличивается.

      

       Опубликовано 7 июня 2026 года - 9:14 по всемирному координированному времени

      

       Вернуться к началу