Il problema del contenuto scadente dell'IA di TikTok è peggiore di quanto pensi — e i bambini ne vedono la maggior parte

      TikTok ha trascorso anni a perfezionare l'arte di sapere esattamente cosa vuoi guardare dopo. Apri l'app, scorri un paio di volte, e all'improvviso ti propone video che sembrano incredibilmente adattati ai tuoi interessi. Ma cosa succede prima che TikTok impari chi sei? Secondo una nuova ricerca della piattaforma di editing video Kapwing, la risposta è sempre più "AI slop".

      Lo studio ha rilevato che quasi il 60% dei video mostrati a un nuovo account TikTok erano contenuti generati da AI di bassa qualità. Non si tratta di un problema di nicchia sepolto in angoli oscuri della piattaforma. È la prima impressione che TikTok fa sui nuovi utenti prima che l'algoritmo inizi a personalizzare il loro feed. E se questo suona preoccupante, i risultati riguardanti i contenuti per bambini sono ancora più difficili da ignorare.

      L'era del junk food dell'algoritmo

      Il motore di raccomandazione di TikTok è progettato per adattarsi rapidamente. La piattaforma considera tutto, dai "mi piace" e "seguaci" al tempo di visione e alle abitudini di scorrimento prima di decidere cosa mostrarti dopo. Per capire come appare un'esperienza TikTok intatta, i ricercatori hanno creato un nuovo account e hanno esaminato i primi 500 video mostrati nella pagina "Per Te". I risultati sono stati sorprendenti: 294 di quei video sono stati classificati come "AI slop". Ciò significa che un nuovo utente è più propenso a imbattersi in spazzatura generata da AI piuttosto che in contenuti creati da esseri umani prima che TikTok abbia dati significativi sulle loro preferenze.

      TikTok Unsplash

      Forse ancora più rivelatore è come TikTok si confronta con altre piattaforme. Kapwing ha precedentemente condotto un esperimento simile su YouTube Shorts e ha trovato sostanzialmente meno disordine generato da AI. TikTok non era solo peggiore — era drammaticamente peggiore. A questo punto, i contenuti generati da AI non stanno semplicemente infiltrandosi nella piattaforma. Stanno diventando parte dell'estetica predefinita della piattaforma. E questa potrebbe essere la vera storia qui. Per molti utenti, specialmente i più giovani, i video generati da AI non sono più un'eccezione occasionale. Stanno diventando normali.

      Sesame Street incontra la valle inquietante

      La sezione più allarmante del rapporto si concentra sui contenuti destinati ai bambini. I ricercatori hanno scoperto che più della metà dei video nella categoria Kids di TikTok si qualificava come "slop" generato da AI. Un hashtag in particolare, #CartoonKids, è stato quasi completamente preso d'assalto da materiale generato da AI, con solo una manciata di video che sembrano essere stati realizzati da esseri umani. Chiunque abbia inciampato in questi video riconoscerà immediatamente la formula: personaggi dei cartoni animati familiari appaiono in scenari bizzarri, lezioni educative sono piene di errori, i personaggi parlano con voci sintetiche inquietanti, le animazioni si spostano e si deformano in modi che non hanno senso.

      Il contenuto spesso somiglia a programmi per bambini a prima vista, ma si disfa nel momento in cui presti attenzione. Questo è ciò che lo rende preoccupante. I bambini piccoli non sono attrezzati per distinguere tra contenuti educativi di alta qualità e un'imitazione generata da AI che presenta con sicurezza informazioni errate. Una lezione di conteggio che sbaglia i numeri può sembrare ridicola a un adulto, ma un bambino in età prescolare non ha lo stesso contesto. Internet ha sempre avuto contenuti discutibili per i bambini. Ciò che è cambiato è la scala. L'AI generativa consente la creazione di flussi infiniti di video a un ritmo che nessun creatore umano potrebbe mai eguagliare. E il sistema di raccomandazione di TikTok sembra più che disposto a distribuirli.

      TikTok

      Il problema si estende anche oltre i contenuti per bambini. Lo studio ha rilevato che i video educativi, scientifici, sulla salute e sulla storia erano tra le categorie più pesantemente influenzate dallo "slop" generato da AI. Questo è particolarmente sfortunato perché questi sono precisamente gli argomenti in cui l'accuratezza conta di più. Uno sketch comico mal generato è abbastanza facile da scorrere. Una lezione di storia piena di dettagli fabbricati o un video sulla salute che presenta consigli fuorvianti è tutta un'altra storia. A essere onesti, non tutti i creatori che utilizzano l'AI stanno producendo spazzatura. Alcuni creatori stanno sperimentando con presentatori e visualizzazioni generate da AI per rendere gli argomenti educativi più coinvolgenti. Nei migliori casi, l'AI funge da strumento che supporta il lavoro del creatore piuttosto che sostituirlo. Ma il rapporto evidenzia una realtà crescente sui social media: gli incentivi spesso premiano il volume rispetto alla qualità. Se un creatore può generare dozzine di video nel tempo che una volta serviva per crearne uno, le piattaforme si riempiono di contenuti che sono tecnicamente guardabili ma offrono molto poco sostanza.

      TikTok sembra consapevole che gli utenti si stanno stancando di questo. L'azienda ha introdotto controlli che consentono agli utenti di ridurre la quantità di contenuti generati da AI che vedono e ha investito in iniziative di alfabetizzazione sull'AI. Eppure la ricerca suggerisce che quegli sforzi potrebbero avere difficoltà a tenere il passo con l'inondazione. L'ironia è che i social media sono diventati popolari perché offrivano qualcosa di distintamente umano: creatività, personalità, competenza e connessione. L'AI può imitare tutte queste cose sorprendentemente bene. Ma l'imitazione non è la stessa cosa dell'autenticità. Quando quasi sei video su dieci che un nuovo utente vede sono generati da AI, la domanda non è più se esiste "AI slop" su TikTok. La domanda è se sia diventato una caratteristica distintiva della piattaforma. E per una generazione di bambini che cresce con questi feed, quella risposta conta più che mai.