Anthropic dice que los chats filtrados de Claude funcionaron como se esperaba.

      Escribe la consulta correcta en Google durante el fin de semana y podrías leer las conversaciones de extraños con Claude. Algunos contenían registros médicos. Algunos contenían archivos de empresas y números de teléfono de niños.

      Los chats no fueron hackeados ni filtrados en ningún sentido técnico. Los usuarios los compartieron a través de una función de Claude diseñada para eso. Los motores de búsqueda luego indexaron las páginas como cualquier otro enlace público.

      La posición de Anthropic es que nada falló. El sistema, dice, está funcionando como se esperaba.

      Cómo salió a la luz

      Un usuario de Reddit lo señaló el sábado. El operador de búsqueda “site:claude.ai/share” devolvió una larga lista de chats compartidos de Claude. 404 Media lo informó por primera vez el lunes, y el resto de la prensa tecnológica siguió en pocas horas.

      Las conversaciones de Claude son privadas por defecto. Solo las compartidas se vieron afectadas. Compartir crea una instantánea del chat en su propia dirección web pública, destinada a un colega o a un pequeño grupo.

      El problema es lo que "público" resultó significar. Una simple etiqueta “noindex” le dice a los motores de búsqueda que dejen una página fuera de los resultados. No parece que Anthropic haya utilizado una.

      Lo que había en ellos

      El material expuesto no era trivial. Futurism revisó los resultados a través de Google. Encontró un informe médico detallado sobre un paciente nombrado, resultados de ensayos clínicos que enumeraban nombres de pacientes y documentos que contenían los nombres y números de teléfono de niños en edad escolar.

      Otros casos fueron peores por ser ordinarios. Los usuarios de Reddit citaron a una persona que construía una billetera de criptomonedas que expuso sus claves. Otro era un abogado que preguntaba a Claude si tenía que reportar una violación de conducta profesional.

      Los Artefactos de Claude fueron atrapados en la misma red. Estas son las aplicaciones interactivas y documentos que las personas construyen en la herramienta. Tableros internos y planes de proyectos con datos de clientes aparecieron junto a los chats.

      La respuesta de Anthropic

      Cuando se le preguntó qué sucedió, Anthropic no describió una solución. Describió un diseño.

      “Damos a las personas control sobre compartir sus conversaciones de Claude públicamente, y de acuerdo con nuestros principios de privacidad, no compartimos directorios de chats ni mapas del sitio con motores de búsqueda como Google”, dijo la portavoz Amie Rotherham a TechCrunch.

      “Estos enlaces compartibles no son adivinables ni descubribles a menos que las personas elijan compartirlos ellas mismas. Cuando alguien comparte una conversación, está haciendo que ese contenido sea accesible públicamente.”

      La empresa agregó que los enlaces solo llegan a los resultados de búsqueda una vez que un usuario los publica en algún lugar donde un rastreador pueda verlos. En efecto, colocó la responsabilidad en las personas que presionaron compartir.

      La comparación que duele

      Esa defensa se enfrenta a un contraejemplo obvio. Google Docs ofrece una función de compartir casi idéntica. Esos documentos no terminan siendo buscables en Google.

      La diferencia es la instrucción faltante a los motores de búsqueda. El portavoz de Google, Ned Adriance, dijo a TechCrunch que los propietarios de sitios tienen el control de rastreo e indexación, y que Google los respeta. La elección de no usarlos recayó en Anthropic.

      Debajo hay una brecha entre dos definiciones de consentimiento. Anthropic tiene razón técnicamente en que compartir hace que el contenido sea público. La pregunta más difícil es si la persona que compartió un archivo de paciente entendió que lo estaba publicando en la web abierta.

      Ha sucedido antes, en cada laboratorio

      Esto no es nuevo, lo que lo hace impactante. Forbes informó casi lo mismo el pasado septiembre. Google había indexado poco menos de 600 conversaciones de Claude antes de eliminarlas, y Anthropic dijo entonces que había bloqueado los rastreadores.

      OpenAI también se metió en esto. El año pasado, 404 Media encontró casi 100,000 conversaciones compartidas de ChatGPT buscables en Google, y OpenAI retiró la función. Grok de Elon Musk fue atrapado de la misma manera.

      Anthropic ha tenido una serie de historias de exposición de datos este año. Investigadores mostraron que Claude Cowork podía salir de su sandbox y leer credenciales en una Mac. Grok Build fue encontrado subiendo repositorios de código completos. Esos eran errores. Este fue el producto funcionando correctamente.

      Qué hacer realmente

      Anthropic parece haber abordado la indexación. A partir de la tarde del lunes, la técnica de búsqueda no devolvió nada. Sin embargo, cualquiera que ya tenga un enlace antiguo aún puede acceder a él, y el contenido puede permanecer en cachés y archivos de terceros.

      Los usuarios pueden revisar lo que han compartido en Configuración, luego en Privacidad, luego en Chats Compartidos, y revocar cualquier enlace allí.

      La lección más amplia se encuentra por encima de cualquier configuración. Los chatbots ahora asumen el papel de confidente para preocupaciones laborales, de salud y legales, por lo que el botón de compartir lleva mucho más que un enlace. El propio régimen de privacidad más estricto de Anthropic muestra que conoce las apuestas.

      Herramientas como sistemas de credenciales que nunca exponen los datos subyacentes muestran cómo es un manejo cuidadoso. Una función que publica silenciosamente un archivo médico es lo opuesto, y llamarlo intencionado no lo hace seguro. El patrón de fallos de seguridad de IA este año sigue señalando una raíz: sistemas que tratan el acceso como consentimiento.