OpenAI хочет следить за злоупотреблениями ИИ, не заставляя клиентов передавать свои данные

      Ее новая система обработки частной безопасности (Private Safety Processing) использует другой подход по сравнению с Anthropic, которая требует 30-дневного хранения данных для некоторых продвинутых моделей.

      OpenAI хочет улучшить свои возможности по выявлению злоупотреблений со стороны пользователей ее передовых ИИ-моделей, не прося клиентов, заботящихся о конфиденциальности, отказываться от нулевого хранения данных (Zero Data Retention, ZDR). В объявлении от 19 августа OpenAI представила систему Private Safety Processing, предназначенную для обнаружения подозрительного поведения в нескольких взаимодействиях, сохраняя при этом ZDR для подходящих клиентов API.

      OpenAI утверждает, что существующие меры ZDR оценивают запросы индивидуально, что затрудняет выявление паттернов, распространяющихся на несколько взаимодействий. Private Safety Processing должна заполнить этот пробел, не предоставляя сотрудникам OpenAI доступ к основным подсказкам или ответам.

      На данный момент система тестируется с ранними клиентами. Axios сообщает, что она ориентирована на корпоративных клиентов и клиентов API, а не на отдельных подписчиков ChatGPT.

      Rachit Agarwal / Digital Trends

      Как работает Private Safety Processing

      Вместо того чтобы проверять один запрос за раз, система может искать подозрительные паттерны в связанных взаимодействиях. Когда она обнаруживает возможное злоупотребление, OpenAI получает ограниченный сигнал о деятельности, а не о содержимом клиента.

      При развертывании с нулевым хранением данных это содержимое остается на инфраструктуре, контролируемой клиентом. OpenAI также разрабатывает другую настройку, при которой зашифрованное содержимое может находиться на ее инфраструктуре, в то время как клиенты хранят ключи шифрования. Сам OpenAI не будет обладать этими ключами.

      Почему Anthropic выбрала другой путь

      Anthropic сделала другой выбор. Для своих покрытых моделей (Covered Models) подсказки и результаты хранятся в течение 30 дней, включая организации, которые ранее использовали нулевое хранение данных. Anthropic утверждает, что это окно помогает ее мерам безопасности выявлять атаки, которые становятся очевидными только при нескольких запросах.

      OpenAI пытается решить ту же проблему безопасности, сохраняя ZDR для подходящих клиентов. Для компаний, которые приняли ZDR специально для ограничения времени, в течение которого поставщик ИИ может хранить их содержимое, это существенно разные предложения.

      Aerps.com / Unsplash

      Что все еще отсутствует при нулевом хранении

      Private Safety Processing все еще находится на ранней стадии, и OpenAI еще не продемонстрировала публично, что может обеспечить обнаружение злоупотреблений, эквивалентное подходам, которые сохраняют содержимое клиентов. Технические детали этих мер конфиденциальности также еще не опубликованы.

      Существует явное исключение. OpenAI утверждает, что изображения, помеченные как потенциальный материал сексуального насилия над детьми, все еще могут храниться для юридически обязательного ручного обзора и отчетности, даже при нулевом хранении данных.

      OpenAI планирует начать развертывание Private Safety Processing и опубликовать технический документ в сентябре. Это должно дать клиентам гораздо лучшее представление о том, может ли мониторинг безопасности между сессиями работать без ослабления существующих мер ZDR, на которые они полагаются.

      Paulo Vargas — специалист по английскому языку, ставший репортером, а затем техническим писателем, с карьерой, которая всегда возвращалась к…

      Секретная связь ЦРУ, стоящая за выживанием NeXT и возвращением Джобса в Apple

      ЦРУ, возможно, помогло сохранить NeXT Стива Джобса на плаву

      Возвращение Стива Джобса в Apple обычно рассказывается как одна из великих историй возвращения Кремниевой долины. Новый отчет предполагает, что была еще одна, гораздо менее публичная глава, которая помогла сделать это возможным: засекреченные отношения между struggling-компанией Джобса NeXT и ЦРУ. Согласно отчету Шарон Вайнбергер в The Wall Street Journal, ЦРУ тихо стало важным клиентом NeXT в конце 1980-х годов, покупая тысячи специально сконфигурированных рабочих станций в то время, когда компании Джобса остро не хватало продаж. Это соглашение, как утверждает отчет, помогло удержать NeXT на плаву и дало Джобсу несколько дополнительных лет для развития в качестве бизнес-лидера, прежде чем Apple вернула его в 1996 году.

      Читать далее

      Windows 11 избавляется от функции Drag Tray

      Раздражающая функция Drag Tray в Windows 11 наконец-то уходит

      Microsoft отключает одну из более необычных экспериментов Windows 11 в области обмена файлами после того, как пользователи ясно дали понять, что эта функция часто была более раздражающей, чем полезной. Функция, называемая Drag Tray, была разработана для того, чтобы предложить более быстрый способ обмена файлами. Возьмите файл в проводнике, перетащите его к верхней части экрана, и появится плавающая панель с ярлыками для отправки его в приложения. Достаточно просто в теории. Проблема заключалась в том, что многие люди уже перетаскивали файлы в эту часть экрана по совершенно другим причинам.

      Читать далее

      Google предоставляет студентам бесплатный год AI Pro и новый центр Gemini для студентов

      Gemini получает больше инструментов для помощи студентам в учебе, организации и исследовании

      Google в настоящее время отстает от OpenAI и Anthropic в гонке за передовыми моделями. Claude Opus 5 от Anthropic и GPT-5.6 Sol от OpenAI занимают более высокие позиции по основным независимым бенчмаркам, в то время как долгожданный Gemini 3.5 Pro от Google все еще находится на стадии тестирования после того, как, как сообщается, не достиг внутренних целевых показателей производительности. Пока Google работает над устранением этого разрыва, он также активно продвигает Gemini к совершенно другой аудитории. Подходящие студенты колледжей в США теперь могут получить Google AI Pro бесплатно на целый год, наряду с новым центром для студентов, созданным специально для учебы, курсов и исследований.

      Читать далее