Лучшая новая функция ChatGPT — это то, что большинство людей никогда не будет использовать.

      На протяжении многих лет главной темой обсуждения вокруг ИИ было то, что могут делать эти инструменты. Они могут просматривать веб, анализировать документы, подключаться к вашим приложениям, проводить исследования и все чаще действовать от вашего имени. Но по мере того как ИИ-системы становятся более способными, другой вопрос становится все труднее игнорировать: что происходит, когда ИИ-ассистент обманывают, заставляя его передавать информацию, которую он не должен?

      Новый режим блокировки от OpenAI — это последний ответ на эту проблему. Доступный для всех типов аккаунтов ChatGPT, режим блокировки является необязательной настройкой безопасности, предназначенной для людей и организаций, работающих с конфиденциальной информацией. Компромисс заключается в том, что вы получаете более сильную защиту от определенных форм кражи данных, но теряете доступ к некоторым из самых мощных функций ChatGPT.

      Эта новая функция безопасности делает ChatGPT более изолированным

      Режим блокировки в первую очередь существует для снижения риска утечки данных из атак с инъекцией запросов. Инъекция запросов стала одной из самых сложных задач безопасности в эпоху ИИ. Вместо того чтобы атаковать программное обеспечение напрямую, злонамеренные инструкции скрываются внутри документов, веб-сайтов, электронных таблиц, электронных писем или другого контента, который может обрабатывать ИИ-система. Если модель следует этим скрытым инструкциям, злоумышленник может манипулировать ее поведением.

      OpenAI осторожно подчеркивает, что режим блокировки не предотвращает появление инъекций запросов в контенте. Злонамеренная инструкция все еще может существовать внутри загруженного файла или кэшированной веб-страницы. То, что режим блокировки стремится предотвратить, — это последний, потенциально самый разрушительный шаг: получение конфиденциальной информации наружу. Для достижения этой цели OpenAI значительно ограничивает то, с чем ChatGPT может взаимодействовать за пределами своей собственной среды.

      Как только режим блокировки включен, доступ к живому веб-серфингу фактически отключается. ChatGPT может получать доступ только к кэшированному контенту, что означает, что результаты поиска могут быть ограничены, устаревшими или вообще недоступными — глубокие исследования исчезают, режим агента отключен, а доступ к сети через код, сгенерированный Canvas, заблокирован. ChatGPT также теряет возможность загружать файлы для анализа.

      Хотя пользователи все еще могут загружать изображения и создавать визуализации, сгенерированные ИИ, где это поддерживается, ChatGPT не сможет извлекать изображения из интернета или отображать их в обычных ответах. Таким образом, режим блокировки превращает ChatGPT из высоко связанного ИИ-ассистента в нечто гораздо более изолированное.

      Функция, которая большинству людей никогда не понадобится

      Это не критика. На самом деле, одна из самых интересных вещей в режиме блокировки заключается в том, как открыто OpenAI признает, что он не предназначен для всех. Но специалисты по безопасности давно приняли, что более сильная защита обычно достигается за счет удобства. Ближайшее сравнение, вероятно, — это «Режим блокировки» от Apple, представленный несколько лет назад. Apple разработала его для людей, находящихся под угрозой высокосложных кибератак, а не для обычных владельцев iPhone. OpenAI, похоже, принимает аналогичный подход здесь.

      Для пользователей, работающих с высокочувствительной информацией, ограничение сетевых запросов может оправдать жертву. Если ИИ-система не может свободно взаимодействовать с внешними сервисами, просто меньше возможностей для утечки конфиденциальной информации из среды. Этот шаг также отражает более широкий сдвиг, происходящий в индустрии ИИ. Ранее обсуждения сосредоточивались на том, может ли ИИ получить доступ к большему количеству данных и услуг. Все чаще компании задаются вопросом, сколько доступа эти системы должны иметь изначально.

      Этот вопрос становится особенно важным, поскольку ИИ-ассистенты получают возможность просматривать веб-сайты, подключаться к бизнес-программному обеспечению, читать внутренние документы и выполнять действия через несколько сервисов. Ответ OpenAI не в том, чтобы устранить эти возможности. Вместо этого он предлагает пользователям выбор.

      Рост контроля безопасности ИИ

      Режим блокировки, возможно, наиболее примечателен тем, что говорит о будущем ИИ-продуктов. На протяжении многих лет безопасность программного обеспечения в основном сосредоточивалась на защите людей от злонамеренных программ. ИИ представляет собой другую задачу: защиту ИИ-систем от злонамеренной информации.

      Это гораздо более запутанная проблема. Инъекция запроса может быть скрыта на веб-странице, встроена в документ или замаскирована под обычный текст. Обнаружить каждую возможную атаку сложно, и именно поэтому OpenAI описывает инъекцию запросов как продолжающуюся исследовательскую задачу, а не как решенную проблему.

      Режим блокировки признает эту реальность. Вместо того чтобы утверждать о полной защите, он снижает потенциальный ущерб, если что-то проскользнет через существующие защиты. Для корпоративных клиентов эта функция становится еще более детализированной. Администраторы рабочих пространств могут создавать пользовательские роли режима блокировки, ограничивать приложения и соединения, а также тщательно решать, какие действия разрешено выполнять сотрудникам. OpenAI также рекомендует ограничить интеграции с правами на запись, поскольку они создают возможности для утечки информации из доверенных сред.

      Во многих отношениях режим блокировки ощущается как знак того, куда движется безопасность ИИ. Чем мощнее становятся ИИ-ассистенты, тем больше пользователям понадобятся инструменты, чтобы ограничить их возможности, когда это необходимо. Это может быть не так захватывающе, как новая модель рассуждений или ИИ-агент, который может забронировать ваши рейсы. Но для организаций, работающих с конфиденциальной информацией, это может быть гораздо важнее. Иногда самый умный ИИ — это не тот, кто может сделать все. Это тот, кто знает, когда не делать.