Anthropic говорит, что утечка чатов Claude сработала как задумано

      Введите правильный запрос в Google на выходных, и вы сможете прочитать разговоры незнакомцев с Клодом. Некоторые содержали медицинские записи. Некоторые содержали файлы компаний и номера телефонов детей.

      Чаты не были взломаны или утечены в каком-либо техническом смысле. Пользователи поделились ими через функцию Клода, созданную для этого. Поисковые системы затем индексировали страницы, как любые другие публичные ссылки.

      Позиция Anthropic заключается в том, что ничего не произошло. Система, по их словам, работает как задумано.

      Как это всплыло

      Пользователь Reddit отметил это в субботу. Поисковый оператор “site:claude.ai/share” вернул длинный список общих чатов Клода. 404 Media впервые сообщила об этом в понедельник, и остальная часть технической прессы последовала в течение нескольких часов.

      Разговоры Клода по умолчанию являются частными. Затронуты были только те, которые были общими. Обмен создает снимок чата по его собственному публичному веб-адресу, предназначенному для коллеги или небольшой группы.

      Проблема в том, что означало "публичный". Простой тег “noindex” говорит поисковым системам не включать страницу в результаты. Не похоже, что Anthropic использовал его.

      Что в них было

      Открытые материалы не были тривиальными. Futurism проверил результаты через Google. Он нашел подробный медицинский отчет о названном пациенте, результаты клинических испытаний с указанием имен пациентов и документы с именами и номерами телефонов детей младшего школьного возраста.

      Другие случаи были хуже, потому что были обычными. Пользователи Reddit упоминали человека, создающего криптокошелек, который раскрыл свои ключи. Другой был адвокатом, спрашивающим Клода, нужно ли им самостоятельно сообщать о нарушении профессионального поведения.

      Артефакты Клода попали в ту же сеть. Это интерактивные приложения и документы, которые люди создают в инструменте. Внутренние панели управления и планы проектов с данными клиентов оказались рядом с чатами.

      Ответ Anthropic

      На вопрос о том, что произошло, Anthropic не описал исправление. Он описал дизайн.

      “Мы даем людям контроль над тем, чтобы делиться своими разговорами с Клодом публично, и в соответствии с нашими принципами конфиденциальности мы не делимся каталогами чатов или картами сайта с поисковыми системами, такими как Google,” сказала пресс-секретарь Эми Ротерхэм TechCrunch.

      “Эти ссылки для обмена не могут быть угаданы или найдены, если люди сами не решат ими поделиться. Когда кто-то делится разговором, он делает этот контент публично доступным.”

      Компания добавила, что ссылки попадают в результаты поиска только после того, как пользователь размещает их где-то, где их может увидеть паук. Фактически, это возложило ответственность на людей, которые нажали кнопку "поделиться".

      Сравнение, которое ранит

      Эта защита сталкивается с очевидным контрпримером. Google Docs предлагает почти идентичную функцию обмена. Эти документы не становятся доступными для поиска в Google.

      Разница в отсутствующей инструкции для поисковых систем. Представитель Google Нед Адрианс сказал TechCrunch, что владельцы сайтов контролируют индексацию и обход, и что Google уважает их. Выбор не использовать их оставался за Anthropic.

      Под поверхностью находится разрыв между двумя определениями согласия. Anthropic технически прав, что обмен делает контент публичным. Более сложный вопрос в том, понимал ли человек, делящийся файлом пациента, что он публикует его в открытой сети.

      Это происходило и раньше, в каждой лаборатории

      Это не ново, что делает это поразительным. Forbes сообщал почти то же самое в прошлом сентябре. Google проиндексировал чуть менее 600 разговоров Клода, прежде чем удалить их, и Anthropic тогда сказал, что заблокировал пауков.

      OpenAI тоже столкнулась с этим. В прошлом году 404 Media обнаружила почти 100,000 общих разговоров ChatGPT, доступных для поиска в Google, и OpenAI убрала эту функцию. Grok Илона Маска попался тем же образом.

      Anthropic имела ряд историй о раскрытии данных в этом году. Исследователи показали, что Клод Коворк мог выйти из своей песочницы и прочитать учетные данные на Mac. Grok Build был найден загружающим целые репозитории кода. Это были ошибки. Это был продукт, работающий правильно.

      Что на самом деле делать

      Anthropic, похоже, решила проблему индексации. На понедельник днем поисковая техника не возвращала ничего. Тем не менее, любой, кто уже имеет старую ссылку, все еще может к ней получить доступ, и контент может оставаться в кэше и сторонних архивах.

      Пользователи могут просмотреть то, чем они поделились, в разделе Настройки, затем Конфиденциальность, затем Общие чаты, и отозвать любую ссылку там.

      Широкий урок лежит выше любой одной настройки. Чат-боты теперь принимают на себя роль доверенного лица для рабочих, медицинских и юридических забот, поэтому кнопка "поделиться" несет гораздо больше, чем просто ссылку. Собственная политика конфиденциальности Anthropic показывает, что она осознает риски.

      Инструменты, такие как системы учетных данных, которые никогда не раскрывают основные данные, показывают, как выглядит осторожное обращение. Функция, которая тихо публикует медицинский файл, является противоположностью, и называть это намеренным не делает это безопасным. Паттерн сбоев безопасности ИИ в этом году продолжает указывать на одну причину: системы, которые рассматривают доступ как согласие.