Un articolo scritto da un'IA non ha bisogno di etichetta. La tua email corretta ne riceve una.

      Inizia con ciò che il marchio è realmente, perché non è un timbro sulla pagina. Quando un modello scrive, sceglie ogni parola da un insieme di opzioni ragionevoli.

      Una filigrana divide silenziosamente quelle opzioni in due gruppi utilizzando una chiave segreta, quindi spinge il modello verso un gruppo. Una parola non prova nulla. Attraverso 500 o 1.000 parole, un rilevatore che possiede la chiave può vedere il modello.

      Anthropic ha iniziato a contrassegnare l'output di Claude il 2 agosto, a livello mondiale piuttosto che solo in Europa. Non ha pubblicato l'algoritmo né rilasciato un rilevatore.

      Contrassegna ciò che Claude ha toccato, non ciò che Claude ha scritto.

      Questa è la parte che la maggior parte della copertura ha saltato, e Anthropic lo afferma chiaramente nel proprio articolo di supporto.

      Un marchio rilevato significa che il contenuto "potrebbe essere stato elaborato da Claude". Non significa che Claude lo abbia scritto. Chiedi al modello di correggere, tradurre o riassumere il tuo stesso scritto, e l'output porta comunque il marchio.

      Il contrario è vero. Nessun marchio non significa nessuna IA. Brevi passaggi, pesanti parafrasi, modelli più vecchi e metadati di file privati producono comunque testo pulito che una macchina ha comunque aiutato a creare.

      Quindi il segnale ha due direzioni di fallimento contemporaneamente, e l'azienda lo afferma apertamente.

      La legge ha esentato la correzione grammaticale.

      Qui le cose si fanno strane. La legge sull'IA dell'UE non richiede di contrassegnare quando un sistema svolge una funzione assistiva per la modifica standard, e l'esempio fornito dalla Commissione è la correzione grammaticale.

      Anthropic lo contrassegna comunque. Ars Technica ha definito l'approccio "nuclearlo dall'orbita".

      Il motivo è strutturale piuttosto che ideologico. Una filigrana applicata a livello di modello non può distinguere una bozza completa da una virgola. Contrassegna l'output, e l'output è tutto ciò che vede.

      Il risultato è un marchio che atterra esattamente sul contenuto che la legge è stata scritta per lasciare in pace.

      E l'etichetta che quasi nessuno deve mostrare.

      Ora guarda l'altra metà dell'Articolo 50, la parte che governa ciò che gli editori devono dire ai lettori. È molto più ristretta di quanto la maggior parte delle persone assuma.

      Un romanzo scritto da IA non ha bisogno di etichetta. Un testo di marketing generato da IA non ha bisogno di etichetta. Il testo che informa il pubblico su questioni di interesse pubblico ha bisogno di un'etichetta, a meno che un editor umano nominato e responsabile non lo abbia esaminato.

      Metti insieme le due metà e ottieni la contraddizione. Ogni battitura viene contrassegnata a livello di modello, mentre un articolo completamente sintetico può raggiungere i lettori senza etichetta perché un editor lo ha esaminato.

      L'UE ha costruito questa macchina da un po'. Ha già reso obbligatorie le etichette per i contenuti sintetici e si è data poteri per ispezionare e multare i modelli direttamente. La pena qui arriva fino a 15 milioni di euro o il 3% del fatturato annuale mondiale.

      Le obiezioni sono arrivate in un giorno.

      L'investitore Bill Gurley ha sostenuto che se solo Anthropic può leggere il marchio, diventa "giudice, giuria e pubblico ministero". Anthropic ha detto a Business Insider che fornirà un'API di rilevamento gratuita in modo che chiunque possa controllare.

      L'ex dirigente di Microsoft Steven Sinofsky ha sollevato una preoccupazione diversa. Il problema, ha scritto, è "la conservazione dei dati e il tuo diritto a pensieri privati privi di una traccia digitale".

      Simon Smith, che gestisce l'IA generativa presso l'agenzia sanitaria Klick, ha chiesto se una correzione grammaticale sarebbe ora contrassegnata come scritta da IA. La risposta di Anthropic è quella sopra: il marchio mostra l'elaborazione, non l'autorialità.

      Il formatore software John Crickett ha posto una domanda più acuta riguardo al codice. Se il codice generato da IA porta un marchio, ciò complica una rivendicazione di copyright in cui l'autore deve dimostrare un input umano?

      Il caso per farlo comunque.

      Le obiezioni non sono tutta la storia. Lo sviluppatore Donn Felker ha sottolineato che il marchio aiuta i modelli ad evitare di addestrarsi sui propri output, il problema che ha definito un "serpente che si mangia da solo".

      Aadit Sheth di The Narrative Company ha presentato il caso del lettore. Il pubblico dovrebbe essere in grado di capire se le parole che stanno leggendo riflettono il pensiero di una persona.

      Il ragionamento della Commissione è ancora più ampio. Vuole che le persone calibrino la loro fiducia e nomina frode, impersonificazione e inganno dei consumatori come rischi.

      Anthropic inquadra questo come conformità piuttosto che come una posizione. Sta aggiungendo il marchio "per conformarsi alla legge sull'IA dell'UE, e altri laboratori stanno prendendo misure simili", ha detto l'azienda. Affermano anche che la filigrana non cambia il significato, la qualità o la leggibilità delle risposte di Claude.

      Alcune domande rimangono aperte. Ars Technica ha chiesto all'azienda un cronoprogramma sul rilevamento, per eventuali test su falsi positivi e falsi negativi, e per come i marchi si allineano con l'esenzione per la modifica standard.

      Anthropic ha inviato una dichiarazione che non ha affrontato quei punti. Il tasso di falsi positivi è il numero che conta di più qui, perché decide quanto peso un insegnante o un editor dovrebbe dare al marchio.

      Non fermerà chiunque stia cercando.

      La parte scomoda è che il marchio cattura l'onesto e manca il deliberato. Incolla un testo contrassegnato in un secondo modello e chiedi una riscrittura, e il segnale è probabilmente scomparso.

      La provenienza basata su file è ancora più debole. Uno screenshot lo rimuove, così come qualsiasi editor di metadati competente.

      La scrivania ha già visto questo fallimento. Il rilevatore di IA di Meta ha perso immagini ritagliate, che è all'incirca la quantità di sforzo coinvolto.

      C'è anche un costo silenzioso. Per mantenere intatto il segnale statistico, il modello a volte sceglie una parola leggermente peggiore di quella che avrebbe altrimenti scelto.

      Anthropic è l'unico a fare testo.

      Questo è il rischio commerciale, ed è reale. OpenAI ha rifiutato di commentare specificamente a TechRadar e ha invece indicato una pagina di supporto.

      Quella pagina conferma che OpenAI contrassegna immagini e audio utilizzando i metadati SynthID e C2PA. Sui testi, afferma che espandere la provenienza a tutte le modalità è un obiettivo, poiché gli standard e gli strumenti "continuano a maturare".

      Google utilizza anche SynthID. Nessuna delle due aziende ha rilasciato il marchio del testo e entrambe affrontano lo stesso requisito per vendere sistemi generativi nell'UE.

      I modelli esistenti hanno tempo fino al 2 dicembre per conformarsi. Fino ad allora, un laboratorio sta portando da solo il attrito.

      Cosa la legge non tocca affatto.

      L'Articolo 50 richiede la divulgazione che stai parlando a una macchina. Non dice nulla su cosa succede alla conversazione dopo.

      I ricercatori di Stanford hanno esaminato le politiche sulla privacy di sei importanti sviluppatori di IA americani. Ognuno ha utilizzato i dati delle chat dei clienti per addestrarsi per impostazione predefinita, e alcuni li hanno conservati indefinitamente.

      Quindi la legge ora contrassegna l'output e ignora l'input.

      Cosa risolverebbe la questione.

      Due cose, e entrambe sono verificabili. La prima è l'API di rilevamento, e specificamente il suo tasso di falsi positivi, perché un marchio su un saggio corretto da uno studente porta lo stesso peso di uno su una storia di notizie fabbricata.

      La seconda è se OpenAI o Google rilasciano il marchio del testo prima del 2 dicembre, o scoprono che gli standard stanno ancora maturando.

      Le etichette già falliscono senza alc