Un'analisi collega il 'disordine' violento dell'IA alla 'decadenza cerebrale' e alla violenza nei bambini

      Un avvertimento che il "slop" dell'IA stia alimentando il declino cognitivo e le tendenze violente nei bambini ha rimbalzato su internet questa settimana, portato da titoli che presentano il danno come un fatto assodato.

      Il documento sottostante è molto più modesto e molto più incerto di quanto suggerisca la copertura.

      La fonte è un rapporto pubblicato dalla Global Network on Extremism and Technology (GNET), scritto da tre ricercatori di ITSTIME, un centro italiano che studia il terrorismo e la sicurezza online.

      È utile essere chiari su cosa sia il pezzo: non uno studio sottoposto a revisione paritaria, non un esperimento e non una valutazione clinica, ma un breve saggio analitico tratto dal monitoraggio degli autori su TikTok.

      Il "slop" dell'IA, il tipo di contenuto prodotto in massa e mirato al coinvolgimento che ora intasa i feed social, è definito dagli autori come materiale economico creato per massimizzare i clic con poco input umano.

      Quello che descrivono è un genere di video generati dall'IA in cui personaggi colorati di frutta e verdura mettono in scena crudeltà da cartone animato, un formato che ha attirato grandi pubblici di giovani spettatori.

      Alcuni di essi, scrivono, attingono alla grammatica visiva della propaganda estremista, con un personaggio ricorrente che riffa sull'iconografia dello Stato Islamico. La loro preoccupazione è che tale materiale possa normalizzare la violenza per i bambini e, in una minoranza di casi, spianare la strada verso contenuti più estremi.

      Il verbo che fa il lavoro pesante nei titoli è "causa", e l'analisi non lo supporta.

      Gli autori scrivono in condizionale per tutto il tempo, dicendo che i clip "possono far sembrare la violenza divertente, normale o addirittura emozionante da emulare", e riconoscono che i video non sono solitamente realizzati da estremisti impegnati, ma riflettono la copia di un'estetica.

      Quella è un'affermazione riguardo all'associazione e al cambiamento culturale, non una catena dimostrata dal guardare un clip al commettere un danno.

      Nessuno ha misurato la cognizione. "Degrado cerebrale", la frase che conferisce alla copertura gran parte della sua carica, è usata dagli autori nel suo senso popolare: l'effetto culturale del consumo di media rapidi, frammentati e sovrastimolanti.

      Non è una diagnosi, e il pezzo non contiene test cognitivi, nessun campione di bambini, nessun intervallo di età dichiarato e nessun gruppo di controllo.

      Quella lacuna è importante perché l'argomento è emotivo, e il diluvio di output dell'IA a basso sforzo è ora un fenomeno cross-platform, dalla fotografia di natura falsificata al torrente di slop sui network professionali.

      Il contenuto destinato ai bambini è un problema reale e documentato, e le misure di sicurezza delle piattaforme sono dimostrabilmente imperfette: i governi dalla Grecia all'UE più ampia stanno già valutando limiti più severi per i giovani utenti.

      Ma trattare un pezzo di monitoraggio open-source come se fosse uno studio epidemiologico non serve né ai genitori né ai ricercatori.

      Niente di tutto ciò rende sbagliati i ricercatori nel lanciare un allerta. Lo slop violento dell'IA è sgradevole, economico da produrre e chiaramente raggiunge bambini che non dovrebbero vederlo, e questo da solo giustifica un'attenzione da parte delle piattaforme e dei regolatori.

      Il punto è più ristretto: la più forte affermazione che le prove possono sostenere è che esiste una tendenza preoccupante che merita uno studio adeguato, non che il contenuto dell'IA abbia dimostrato di erodere le menti giovani o di renderle violente.

      Ciò che manca è precisamente il tipo di ricerca longitudinale e controllata che potrebbe separare una fissazione passeggera da un effetto duraturo. Fino a quando quel lavoro attento non sarà fatto, la lettura sobria è un avvertimento da prendere sul serio, non un verdetto da ripetere come fatto assodato.