Anthropic afferma che le chat di Claude trapelate hanno funzionato come previsto

      Digita la query giusta su Google durante il fine settimana e potresti leggere le conversazioni di sconosciuti con Claude. Alcuni contenevano cartelle cliniche. Altri contenevano file aziendali e numeri di telefono di bambini.

      Le chat non sono state violate o trapelate in alcun senso tecnico. Gli utenti le avevano condivise tramite una funzione di Claude progettata per questo. I motori di ricerca hanno quindi indicizzato le pagine come qualsiasi altro link pubblico.

      La posizione di Anthropic è che nulla è andato storto. Il sistema, afferma, sta funzionando come previsto.

      Come è emerso

      Un utente di Reddit lo ha segnalato sabato. L'operatore di ricerca “site:claude.ai/share” ha restituito un lungo elenco di chat condivise di Claude. 404 Media lo ha riportato per primo lunedì, e il resto della stampa tecnologica ha seguito nelle ore successive.

      Le conversazioni di Claude sono private per impostazione predefinita. Solo quelle condivise sono state interessate. La condivisione crea uno snapshot della chat al proprio indirizzo web pubblico, destinato a un collega o a un piccolo gruppo.

      Il problema è cosa significasse “pubblico”. Un semplice tag “noindex” dice ai motori di ricerca di escludere una pagina dai risultati. Non sembra che Anthropic ne abbia usato uno.

      Cosa contenevano

      Il materiale esposto non era banale. Futurism ha esaminato i risultati tramite Google. Ha trovato un dettagliato rapporto medico su un paziente nominato, risultati di sperimentazioni cliniche con nomi di pazienti, e documenti contenenti i nomi e i numeri di telefono di bambini in età scolare.

      Altri casi erano peggiori per essere ordinari. Gli utenti di Reddit hanno citato una persona che stava costruendo un portafoglio crypto che ha esposto le sue chiavi. Un altro era un avvocato che chiedeva a Claude se doveva auto-segnalare una violazione della condotta professionale.

      Gli Artefatti di Claude sono stati catturati nella stessa rete. Queste sono le app interattive e i documenti che le persone costruiscono nello strumento. Dashboard interne e piani di progetto con dati dei clienti sono emersi insieme alle chat.

      La risposta di Anthropic

      Interrogata su cosa fosse successo, Anthropic non ha descritto una soluzione. Ha descritto un design.

      “Diamo alle persone il controllo sulla condivisione delle loro conversazioni di Claude pubblicamente, e in conformità con i nostri principi di privacy, non condividiamo directory di chat o sitemap con motori di ricerca come Google,” ha dichiarato la portavoce Amie Rotherham a TechCrunch.

      “Questi link condivisibili non sono indovinabili o scopribili a meno che le persone non scelgano di condividerli loro stesse. Quando qualcuno condivide una conversazione, sta rendendo quel contenuto accessibile pubblicamente.”

      L'azienda ha aggiunto che i link raggiungono i risultati di ricerca solo quando un utente li pubblica da qualche parte dove un crawler può vederli. Di fatto, ha posto la responsabilità sulle persone che hanno premuto il pulsante di condivisione.

      Il confronto che fa male

      Quella difesa si scontra con un controesempio ovvio. Google Docs offre una funzione di condivisione quasi identica. Quei documenti non finiscono per essere ricercabili su Google.

      La differenza è l'istruzione mancante per i motori di ricerca. Il portavoce di Google Ned Adriance ha detto a TechCrunch che i proprietari dei siti detengono i controlli di crawling e indicizzazione, e che Google li rispetta. La scelta di non usarli spettava ad Anthropic.

      Sotto c'è un divario tra due definizioni di consenso. Anthropic ha ragione tecnicamente che la condivisione rende il contenuto pubblico. La domanda più difficile è se la persona che condivideva un file paziente capisse che lo stava pubblicando sul web aperto.

      È già successo, in ogni laboratorio

      Questo non è nuovo, ed è ciò che lo rende sorprendente. Forbes ha riportato quasi la stessa cosa lo scorso settembre. Google aveva indicizzato poco meno di 600 conversazioni di Claude prima di rimuoverle, e Anthropic ha detto allora di aver bloccato i crawler.

      Anche OpenAI ci è incappata. L'anno scorso 404 Media ha trovato quasi 100.000 conversazioni condivise di ChatGPT ricercabili su Google, e OpenAI ha rimosso la funzione. Anche Grok di Elon Musk è stato catturato allo stesso modo.

      Anthropic ha avuto una serie di storie di esposizione dei dati quest'anno. I ricercatori hanno dimostrato che Claude Cowork poteva uscire dalla sua sandbox e leggere le credenziali su un Mac. Grok Build è stato trovato a caricare interi repository di codice. Questi erano bug. Questo era il prodotto che funzionava correttamente.

      Cosa fare realmente

      Anthropic sembra aver affrontato l'indicizzazione. A partire da lunedì pomeriggio, la tecnica di ricerca non ha restituito nulla. Chiunque abbia già un vecchio link può comunque raggiungerlo, però, e il contenuto può rimanere nei cache e negli archivi di terze parti.

      Gli utenti possono rivedere ciò che hanno condiviso sotto Impostazioni, poi Privacy, poi Chat Condivise, e revocare qualsiasi link lì.

      La lezione più ampia si trova al di sopra di qualsiasi impostazione. I chatbot ora assorbono il ruolo di confidente per preoccupazioni lavorative, sanitarie e legali, quindi il pulsante di condivisione porta molto più di un link. Il regime di privacy sempre più rigoroso di Anthropic dimostra che conosce le poste in gioco.

      Strumenti come i sistemi di credenziali che non espongono mai i dati sottostanti mostrano come appare una gestione attenta. Una funzione che pubblica silenziosamente un file medico è l'opposto, e definirla intenzionata non la rende sicura. Il modello di fallimenti di sicurezza dell'IA di quest'anno continua a puntare a una radice: sistemi che trattano l'accesso come consenso.