Substack aggiunge il rilevamento dell'IA per combattere il 'Claudefishing'

      Substack ha un nome per il momento in cui ti rendi conto che un post che ammiravi per la sua voce umana proviene in realtà da un bot: Claudefishing. Ora sta offrendo ai lettori un pulsante per catturarlo, alimentato dal rilevatore di AI Pangram.

      La piattaforma di newsletter ha lanciato una funzione di rilevamento dell'AI. In un post mirato intitolato "Contro il Claudefishing", il CEO Chris Best ha dichiarato che i lettori possono ora scansionare post, note, risposte e commenti. Lo strumento stima quanto del testo è stato scritto da una persona e quanto è stato assistito dall'AI.

      La scansione funziona su testi più lunghi di 100 parole, pubblicati da oggi in poi, e il risultato è visibile solo alla persona che lo richiede. È attivo sul web e su iOS, con Android in arrivo.

      Cosa significa Claudefishing

      Best è attento a dire che il problema non è l'AI stessa. Substack utilizza l'AI per costruire software e funzionalità di prodotto, ha notato, e molti scrittori si affidano ad essa in modo ponderato. Il problema è il disallineamento: lettori che investono la loro attenzione in qualcosa che non ha pensiero umano dietro. "Claude ha molto da offrire," ha scritto. "Ma quando voglio l'opinione di Claude, chiederò a Claude."

      Le poste stanno aumentando rapidamente. Pangram stima che fino al 40% del testo su alcune piattaforme social è ora generato dall'AI. Substack, che si propone come un motore economico per la cultura costruito sulla fiducia tra le persone, vuole evitare che il suo feed si trasformi in quel tipo di spazzatura.

      Non un divieto

      Gli strumenti funzionano in entrambi i sensi. Gli scrittori possono utilizzare il rilevatore sui propri bozze prima di pubblicare, aggiungere una dichiarazione "Come faccio questo" per spiegare il loro processo e segnalare qualsiasi scansione del loro lavoro che ritengono errata. Substack inquadra tutto questo attorno a una semplice frase: le persone dovrebbero sapere cosa stanno ottenendo.

      È una mossa insolitamente diretta in un mercato inondato di feed generati dall'AI. Il post ha persino preso di mira LinkedIn, la piattaforma che molti vedono come il punto zero per la serietà scritta dalle macchine.

      Il problema

      Il problema è che il rilevamento dell'AI non è una scienza consolidata. Pangram è accurato, ma non perfetto, e The Atlantic ha avvertito che fidarsi eccessivamente di esso rischia di trasformare le accuse in una caccia alle streghe. Substack stesso ammette che lo strumento non può dire se c'è stata reale cura in un pezzo, solo se l'AI ha plasmato le parole.

      I critici vanno oltre. Qualsiasi rilevatore, ha sostenuto lo sviluppatore Perry Metzger, ti consente di affinare un'AI per eluderlo, quindi tali strumenti non possono funzionare a lungo. Il ricercatore Mor Naaman ha definito il rilevamento una battaglia persa: se i lettori scansionano, anche gli scrittori scansioneranno e troveranno modi per aggirarlo. Come ha detto un commentatore di Substack, la presenza dell'AI non prova l'assenza di un umano.

      Un affare molto umano

      Sotto c'è una scommessa. Come ha detto Peter Kafka di Business Insider, se l'AI vince, "fatto da umani" potrebbe essere un affare molto buono. Substack sta scommettendo che la prova che una persona ha fatto il lavoro diventa la cosa scarsa e vendibile. Che la lotta si stia svolgendo sulle newsletter, tra tutte le cose, dimostra solo quanto lontano ora si estenda la questione.