Il watermark dell'IA di Anthropic ha già generato strumenti per rimuoverlo.

      La spinta di Anthropic per etichettare i testi scritti dall'IA ha prodotto una reazione immediata. Gli sviluppatori hanno iniziato a costruire strumenti per rimuovere quelle etichette, secondo Business Insider.

      Thibault Spirlet e Agnes Applegate hanno riportato che un rimuovi-etichetta è diventato virale su GitHub. L'interesse per gli strumenti sta crescendo.

      Il watermark è il grilletto. Anthropic ha iniziato a contrassegnare l'output di Claude in tutto il mondo dal 2 agosto. Incorpora un modello statistico nelle scelte di parole del modello. Quel modello viaggia con il testo copiato e incollato. L'azienda afferma che il marchio è impercettibile per un lettore. Alcuni utenti hanno dissentito a tal punto da agire.

      La reazione è stata forte. L'interesse su Google Trends negli Stati Uniti per "rimuovi watermark IA" è aumentato del 60% settimana dopo settimana, ha riportato Business Insider. Alcuni abbonati a Claude hanno cancellato il loro abbonamento a causa della funzionalità. Altri hanno cercato una soluzione alternativa, e un gruppo di sviluppatori ne ha costruita una.

      ‘La risposta sbagliata a un problema reale’

      Lo strumento più popolare è arrivato rapidamente. Guillaume Meyer, un imprenditore con sede a Parigi, ha rilasciato un progetto open-source chiamato Watermarks Remover pochi giorni dopo l'annuncio di Anthropic, ha riportato Business Insider.

      Meyer ha fondato lo strumento di e-commerce IA Memo. Il suo rimuovi-etichetta elimina caratteri nascosti e metadati, quindi riscrive il testo. Questo interrompe il modello di scelta delle parole che porta il marchio, mantenendo il significato.

      La prima versione gli ha richiesto circa cinque ore per essere costruita, ha detto Meyer. Da allora ha ottenuto più di 14.000 stelle su GitHub, una misura approssimativa dell'interesse degli sviluppatori. Non garantisce che un watermark sia scomparso.

      Meyer ha formulato la sua obiezione con attenzione. “Sono completamente a favore dell'attribuzione dei contenuti,” ha detto a Business Insider. “Sono contro la tecnica del watermarking, e questa è una distinzione molto significativa.”

      La sua lamentela è che il metodo “tratta la paternità come una cosa binaria.” Contrassegna il testo che Claude ha scritto direttamente o solo aiutato a modificare. “Penso che sia la risposta sbagliata a un problema reale,” ha detto.

      Non è l'unico. Sabrina Ramonov, un'educatrice IA, ha detto su X che ha costruito un rimuovi-etichetta gratuito basato su browser per i marchi di Claude e ChatGPT.

      “Le watermark IA puniscono gli utenti normali, non i cattivi attori,” ha scritto. Il suo strumento afferma di pulire i marchi nascosti da testi, PDF, documenti Word, pagine web, immagini e file di dati, ha riportato Business Insider.

      Ansh Aneja, uno sviluppatore con sede a Tokyo, ha detto di aver costruito un rimuovi-etichetta focalizzato su Claude il giorno dell'annuncio. Ha scritto di averlo fatto dopo aver letto un post dell'investitore Paul Graham.

      Aneja ha poi rilasciato una versione locale open-source chiamata MarkScrub. Ha detto che una versione precedente è passata da zero a 8.500 utenti in un giorno, un numero che Business Insider non è riuscito a verificare.

      Anthropic ha respinto il presupposto. In un post sul blog intitolato Come funziona il watermark del testo di Claude, l'azienda ha detto che il marchio “non dice nulla sulla proprietà o sulla paternità, e non cambia i diritti di un utente secondo i nostri termini.”

      Ha anche detto che il watermark non porta informazioni identificative e non può essere tracciato a una persona, organizzazione o chat specifica.

      L'azienda inquadra la funzionalità come conformità, non sorveglianza. Anthropic afferma di aver aggiunto il watermark per rispettare i propri impegni ai sensi dell'AI Act dell'Unione Europea.

      La legge richiede ai fornitori di contrassegnare i testi generati dall'IA in una forma leggibile dalla macchina. Ha firmato il codice di trasparenza del blocco a luglio insieme a circa 190 altri firmatari, ha riportato Mashable.

      Non può ancora limitare il marchio all'UE. Quindi sta implementando la funzionalità a livello globale, estendendola ai modelli più vecchi.

      Sulle meccaniche, Anthropic afferma che il marchio si basa su scelte di parole a basso rischio. Quando diverse parole funzionerebbero altrettanto bene, il modello tende verso una di esse. Questo lascia una traccia statistica rilevabile, ha riportato Mashable.

      L'azienda afferma che ciò non comporta costi aggiuntivi, né token extra e non influisce misurabilmente sulla qualità, e non ha risposto alle domande di Business Insider sugli strumenti di rimozione.

      La redazione ha coperto la tensione su cui i rimuovi-etichetta stanno facendo leva. Il design stesso di Anthropic significa che un'email leggermente corretta può portare un marchio, mentre una bozza di IA pesantemente riscritta potrebbe non portarne alcuno.

      Perché è difficile fermarlo?

      I ricercatori affermano che i rimuovi-etichetta indicano un limite di base. “Ci saranno sempre modi per rimuovere il watermark,” ha detto Thibaud Gloaguen, un ricercatore presso il laboratorio di Sistemi Sicuri, Affidabili e Intelligenti dell'ETH di Zurigo, a Business Insider. Ha fatto l'esempio di semplicemente riformulare un intero passaggio.

      Anthropic ammette lo stesso punto in effetti. Una pesante riscrittura può rimuovere completamente il marchio, ha detto l'azienda, a quel punto diventa discutibile se il testo sia ancora significativamente generato dall'IA.

      Il watermark è anche debole o assente su passaggi brevi, fatti concreti, codice preciso e matematica, dove c'è poco spazio per la variazione.

      Konrad Kollnig, un professore assistente presso il Law and Tech Lab dell'Università di Maastricht, ha messo il problema in termini chiari. “Ogni volta che lo strumento di rilevamento del watermarking viene reso pubblico, chiunque può controllare i contenuti generati dall'IA... e può costruire strumenti per rimuovere i watermark,” ha detto a Business Insider.

      Questo è importante perché Anthropic prevede di rilasciare un'API di rilevamento pubblico insieme al suo prossimo modello, senza una data fissata.

      Un'area grigia legale

      I rimuovi-etichetta si trovano in uno spazio legale instabile. L'UE dice alle aziende di IA di aggiungere etichette durevoli, ma non stabilisce chiaramente regole per i terzi che cercano di rimuoverle, ha riportato Business Insider.

      Un portavoce della Commissione Europea ha detto che le linee guida del blocco richiedono ai sistemi di marcatura dei fornitori di resistere a modifiche comuni e attacchi deliberati. Il codice di trasparenza nomina la rimozione, la rigenerazione, la copia e la modifica come minacce che i fornitori devono valutare, ha aggiunto il portavoce.

      Tuttavia, questi sono doveri per i fornitori, non per il pubblico. L'AI Act non vieta espressamente ai terzi di tentare di rimuovere un watermark, ha detto Dmitri Roussinov, un docente senior presso l'Università di Strathclyde.

      Ha aggiunto una clausola: se uno strumento di rimozione utilizza l'IA per rigenerare il testo, il suo stesso fornitore potrebbe essere obbligato a contrassegnare quel nuovo output.

      Né l'AI Act né i termini di Anthropic sembrano vietare alle persone di creare o condividere strumenti di rimozione, ha detto Kollnig. Il rischio si trova altrove. La politica di utilizzo di Anthropic vieta di far passare l'output del modello come creato da un umano, quindi un utente che rimuove un marchio per rappresentare il lavoro dell'IA come proprio potrebbe comunque incorrere in problemi.

      Altre aziende, tra cui Google e OpenAI, watermarkano anche le immagini, e gli strumenti per rimuoverle esistono già. Anche la musica IA è stata watermarkata nella stessa spinta per la provenienza.

      La lotta che Anthropic ha iniziato, in altre parole, è una che l'industria più ampia conosce già bene, e una che le regole di etichettatura dell'UE hanno solo affinato.