Anthropic говорит, что утечка чатов Claude работала как задумано

      Введите правильный запрос в Google на выходных, и вы сможете прочитать разговоры незнакомцев с Клодом. Некоторые содержали медицинские записи. Некоторые содержали файлы компаний и номера телефонов детей.

      Чаты не были взломаны или утечены в каком-либо техническом смысле. Пользователи поделились ими через функцию Клода, созданную для этого. Поисковые системы затем индексировали страницы, как любые другие публичные ссылки.

      Позиция Anthropic заключается в том, что ничего не сломалось. Система, по их словам, работает как задумано.

      Как это всплыло

      Пользователь Reddit отметил это в субботу. Поисковый оператор “site:claude.ai/share” вернул длинный список общих чатов Клода. 404 Media впервые сообщила об этом в понедельник, и остальная часть технической прессы последовала в течение нескольких часов.

      Разговоры Клода по умолчанию являются частными. Затронуты были только общие. Обмен создает снимок чата по его собственному публичному веб-адресу, предназначенному для коллеги или небольшой группы.

      Проблема в том, что "публичный" оказалось значить. Простой тег “noindex” говорит поисковым системам не включать страницу в результаты. Не похоже, что Anthropic использовал его.

      Что в них было

      Выставленный материал не был тривиальным. Futurism рассмотрел результаты через Google. Он нашел подробный медицинский отчет о названном пациенте, результаты клинических испытаний с указанием имен пациентов и документы с именами и номерами телефонов детей младшего школьного возраста.

      Другие случаи были хуже, потому что были обычными. Пользователи Reddit упомянули человека, создающего криптокошелек, который раскрыл свои ключи. Другой был адвокатом, спрашивающим Клода, нужно ли им самостоятельно сообщать о нарушении профессиональной этики.

      Артефакты Клода попали в ту же сеть. Это интерактивные приложения и документы, которые люди создают в инструменте. Внутренние панели управления и планы проектов с данными клиентов оказались рядом с чатами.

      Ответ Anthropic

      На вопрос, что произошло, Anthropic не описал исправление. Он описал дизайн.

      “Мы даем людям контроль над тем, чтобы делиться своими разговорами с Клодом публично, и в соответствии с нашими принципами конфиденциальности мы не делимся каталогами чатов или картами сайта с поисковыми системами, такими как Google,” сказала пресс-секретарь Эми Ротерхэм TechCrunch.

      “Эти ссылки для обмена не могут быть угаданы или обнаружены, если люди сами не решат ими поделиться. Когда кто-то делится разговором, он делает этот контент публично доступным.”

      Компания добавила, что ссылки попадают в результаты поиска только тогда, когда пользователь размещает их где-то, где их может увидеть паук. Фактически, это возложило ответственность на людей, которые нажали кнопку "поделиться".

      Сравнение, которое ранит

      Эта защита сталкивается с очевидным контрпримером. Google Docs предлагает почти идентичную функцию обмена. Эти документы не становятся доступными для поиска в Google.

      Разница в отсутствующей инструкции для поисковых систем. Представитель Google Нед Адрианс сказал TechCrunch, что владельцы сайтов контролируют индексацию и обход, и что Google уважает их. Выбор не использовать их оставался за Anthropic.

      Под этим скрывается разрыв между двумя определениями согласия. Anthropic технически прав, что обмен делает контент публичным. Более сложный вопрос заключается в том, понимал ли человек, делящийся файлом пациента, что он публикует его в открытой сети.

      Это происходило и раньше, в каждой лаборатории

      Это не ново, что делает это поразительным. Forbes сообщал почти о том же в прошлом сентябре. Google проиндексировал чуть меньше 600 разговоров Клода, прежде чем удалить их, и Anthropic тогда заявил, что заблокировал пауков.

      OpenAI тоже столкнулся с этим. В прошлом году 404 Media обнаружила почти 100,000 общих разговоров ChatGPT, доступных для поиска в Google, и OpenAI убрал эту функцию. Grok Илона Маска попал в ту же ловушку.

      Anthropic в этом году столкнулся с рядом историй о раскрытии данных. Исследователи показали, что Клод Коворк мог выйти за пределы своей песочницы и прочитать учетные данные на Mac. Grok Build был найден загружающим целые репозитории кода. Это были ошибки. Это был продукт, работающий правильно.

      Что на самом деле делать

      Anthropic, похоже, решил проблему индексации. На понедельник днем поисковая техника не возвращала ничего. Тем не менее, любой, кто уже имеет старую ссылку, все еще может к ней обратиться, и контент может оставаться в кэшах и сторонних архивах.

      Пользователи могут просмотреть, чем они поделились, в разделе Настройки, затем Конфиденциальность, затем Общие чаты, и отозвать любую ссылку там.

      Широкий урок лежит выше любого одного параметра. Чат-боты теперь принимают на себя роль доверенного лица для рабочих, медицинских и юридических забот, поэтому кнопка "поделиться" несет гораздо больше, чем просто ссылку. Собственная политика конфиденциальности Anthropic показывает, что она осознает риски.

      Инструменты, такие как системы учетных данных, которые никогда не раскрывают основные данные, показывают, как выглядит осторожное обращение. Функция, которая тихо публикует медицинский файл, является противоположностью, и называть это намеренным не делает это безопасным. Шаблон сбоев безопасности ИИ в этом году продолжает указывать на одну причину: системы, которые рассматривают доступ как согласие.