Una rete video politica ha assunto attori veri per leggere i suoi copioni generati dall'IA. Questo è stato sufficiente per superare i rilevatori di YouTube.

      TL;DRYouTube ha terminato 20 canali in una rete che pagava attori dell'economia dei lavoretti 26 dollari a video per leggere copioni generati da AI che attaccavano politici democratici. La rete ha raggiunto 45 milioni di visualizzazioni perché mettere un volto reale davanti a un pipeline AI sconfigge ogni rilevatore di media sintetici che le piattaforme hanno costruito. L'applicazione è avvenuta solo dopo che Semafor e Riddance AI hanno pubblicato, e la violazione citata era spam piuttosto che falsità.[/tldr

      YouTube ha terminato una rete di canali che ha raggiunto 45 milioni di visualizzazioni pagando attori dell'economia dei lavoretti per leggere copioni che sembrano essere stati generati da grandi modelli di linguaggio. L'applicazione è seguita a un'indagine pubblicata mercoledì da Semafor, il cui editor dei media Max Tani ha riportato la storia con Graph Massara.

      L'azienda ha dichiarato in una nota a Semafor che ha "politiche rigorose contro lo spam e le pratiche ingannevoli" e ha terminato 20 canali, comprendenti i 13 nominati nell'articolo e sette correlati. TNW non ha verificato in modo indipendente il numero, che appare solo nella dichiarazione di YouTube e in nessun avviso pubblico di applicazione.

      La soluzione alternativa era un volto umano

      Tutto riguardo all'operazione sembra automatizzato tranne l'unico componente che l'avrebbe fatta scoprire. Copioni, miniature, foto e siti web portavano le solite impronte generative, ma la persona in video era reale.

      Questo era il punto, secondo la società di intelligence mediatica Riddance AI, che ha indagato sulla rete in parallelo con Semafor. La consegna convincente direttamente in camera è ancora difficile per i modelli video, hanno scritto Mason Broxham e Jeremy Carrasco nel loro rapporto, il che crea un mercato per assumere qualcuno a basso costo invece.

      L'applicazione della piattaforma è stata costruita attorno al rilevamento dei media sintetici. YouTube etichetta automaticamente i video generati da AI che i creatori divulgano o meno, e una persona reale che legge un copione AI non attiva nessuno di questi rilevamenti.

      Ventisei dollari a video

      La tariffa è documentata. Un annuncio di casting pubblicato dalla società di produzione Virelox cercava un portavoce professionista per un canale YouTube legato alle notizie, e Riddance ha trovato un annuncio correlato che offriva 26 dollari per copione, con un tempo di consegna di 24 ore e l'attore che forniva la propria macchina fotografica e illuminazione.

      Gli attori sono stati reperiti tramite Fiverr e Backstage, gli stessi luoghi in cui i marchi assumono portavoce per termometri per carne e dispositivi per la pulizia delle orecchie. Uno di loro, Frank George, ha detto a Semafor tramite il servizio di messaggistica di Fiverr che è stato pagato tramite un intermediario e non sapeva chi stesse finanziando il lavoro.

      Ha descritto i video a Semafor come pubblicità pagate e se stesso come portavoce. Quando gli è stato chiesto di nominare l'intermediario, ha risposto: "Casgains."

      Chi c'era dietro

      Semafor ha rintracciato la rete a Caleb Chan, un laureato dell'Università di Chicago che ha costruito un canale YouTube di finanza chiamato Casgains Academy e poi ha trasformato la viralità stessa nel prodotto. Ha co-fondato Virelox, che vende la creazione rapida di account per creatori per conto di clienti.

      Chan ha pubblicato su X ad aprile che aveva 106 account YouTube attivi e voleva 300 entro maggio, e in un post successivo ha affermato di avere una rete di oltre 500 creatori fantasma che generano miliardi di visualizzazioni al mese. Queste sono le sue stesse affermazioni promozionali e non sono state verificate.

      Ha anche pubblicato ciò che credeva di aver appreso sul sistema di ranking, scrivendo che quando molti account pubblicano lo stesso hashtag entro pochi minuti, l'algoritmo lo tratta come notizia dell'ultima ora. Ha detto di averlo testato nove volte e ha concluso: "produrre notizie > riportare notizie."

      Cosa pubblicavano i canali

      Riddance ha analizzato 622 trascrizioni video attraverso le varie persone, contando le menzioni di singoli politici e categorizzando le affermazioni ad esse collegate. Il carico fiscale, i problemi di bilancio e la fuga di imprese dagli stati governati dai Democratici dominavano, con il sindaco di New York Zohran Mamdani come figura più frequentemente presa di mira.

      I titoli nominavano un politico democratico, poi allegavano un verbo in maiuscolo a una storia economica o a uno scandalo. La maggior parte delle affermazioni sottostanti seguiva un reporting reale, ha scoperto Riddance, ma il framing spesso non sopravviveva al contatto con il video stesso.

      Semafor ha esaminato un video di William Reports News intitolato attorno a Mamdani in preda al panico per la chiusura degli hotel Hilton, e ha scoperto che non conteneva tale affermazione e argomentava quasi l'opposto. Un altro affermava che la governatrice Kathy Hochul aveva rifiutato di approvare la proposta fiscale di Mamdani, che lei ha sostenuto.

      Le cuciture erano visibili, e non è successo nulla

      Il coordinamento non era sottile. Ogni persona usava lo stesso inquietante sottofondo di pianoforte, e un confronto a coppie del corpus delle trascrizioni ha trovato i canali statunitensi Omar e Julian che condividevano 304 segmenti di copione.

      Le persone apparivano sui canali degli altri senza spiegazione, i profili Linktree puntavano al host sbagliato, e un attore passava da un persona anti-Trump a una pro-Trump in poche settimane. Riddance ha registrato che i siti web associati andavano tutti offline nel pomeriggio del 25 agosto, dopo che Semafor ha contattato l'azienda.

      Il pubblico era reale

      Questo dovrebbe preoccupare le piattaforme più del metodo di produzione. Riddance ha scoperto che i più di 90.000 commentatori si sovrapponevano sostanzialmente con il pubblico di altri canali YouTube di destra, il che significa che persone reali stavano guardando.

      Le analisi interne per una persona, trovate da Semafor su un dashboard raggiungibile tramite una semplice ricerca su Google, mostrano un pubblico composto per l'85% da americani, per l'80% maschi e per l'80% over 55. La rete ha coinvolto più utenti dei canali YouTube del Washington Post, del New Yorker e del Boston Globe, ha riportato Semafor.

      Terminati per spam, non per essere sbagliati

      Leggi di nuovo la dichiarazione di YouTube. La violazione citata è spam e pratiche ingannevoli, che è una regola di volume e autenticità piuttosto che di accuratezza.

      Quel framing è importante, perché è il leva di applicazione che la piattaforma ha effettivamente. La stessa leva ha catturato creatori senza volto che non hanno mai usato AI, il che è ciò che accade quando un segnale proxy sostituisce la cosa a cui tieni.

      È anche la seconda volta che questa applicazione è seguita da una pubblicazione piuttosto che da una rilevazione. YouTube ha rimosso diversi canali dopo il primo articolo di Semafor sui video generati da AI sul collasso degli stati blu all'inizio di agosto, e Riddance stava monitorando questa rete da giugno.

      Il livello di distribuzione è ancora attivo

      Terminare i canali sorgente non elimina i clip. Riddance ha documentato dozzine di account TikTok che ricircolano momenti dai video lunghi, alcuni di essi esclusivamente.

      Quegli account si trovano all'interno di un ecosistema molto più grande. Quasi il 60% dei video TikTok serviti a nuovi utenti sono spazzatura AI, secondo il conteggio di uno studio, quindi il materiale rimosso non scompare tanto quanto viene declassato a uno scaffale inferiore.

      Perché la scappatoia tiene

      La regolamentazione sta andando nella stessa direzione della politica della piattaforma, verso i media sintetici. Il Brasile sta attualmente definendo cosa conta come deepfake in vista del suo voto, e le definizioni costruite attorno a somiglianze generate non cattureranno un uomo reale a un tavolo da cucina.

      Niente qui richiedeva un modello di frontiera. Richiedeva un LLM, un account Fiverr e qualcuno disposto a leggere per 26 dollari.

      Chan ha dichiarato in una nota a Semafor che Virelox è