TikTok ha trattenuto una soluzione di sicurezza per milioni, mostra un documento

      Nel 2021, TikTok ha cambiato il suo algoritmo per fermare gli utenti dall'essere inondati di contenuti dannosi. Ma non ha fornito la versione più sicura a tutti. Ha mantenuto il 10% degli utenti statunitensi sulla vecchia versione, circa 15 milioni di persone all'epoca. Voleva testare se il feed più sicuro fosse meno avvincente. Questo è quanto riportato in un documento riservato da Bloomberg.

      Il documento afferma che il gruppo di controllo includeva Chase Nasca, un sedicenne di New York. Il suo account era nel test. Di conseguenza, si legge, “le strategie di prevenzione della bolla informativa di TikTok non hanno avuto effetto su questo utente per design”. Il suo feed gli ha quindi servito un flusso di contenuti su suicidio, autolesionismo e depressione, afferma il documento. È morto per suicidio nel febbraio 2022.

      Cosa dice il documento

      L'esperimento era un test A/B, o “backtest”. È una tecnica standard che esegue due gruppi per misurare l'effetto di una modifica. Qui, riporta Bloomberg, la modifica in fase di test era il sistema di sicurezza stesso. TikTok voleva sapere se il feed più sicuro riducesse la “aderenza”, una metrica che Wall Street osserva. Il test è durato fino a un anno.

      TikTok ha redatto il documento di 14 pagine a marzo 2023, ed è sotto sigillo giudiziario, riporta Bloomberg. Ha compilato la revisione solo dopo che Businessweek ha chiesto informazioni sulla sicurezza degli adolescenti. Ha esaminato i 7.563 video che Chase ha visto nelle sue ultime due settimane. Ha scoperto che il 73% conteneva temi come tristezza o difficoltà legate alla salute mentale che non violavano le sue regole. Quasi il 10% le ha violate.

      Il documento ha fatto due raccomandazioni. Ha detto che il gruppo di controllo dovrebbe scendere sotto l'1%, e che il test dovrebbe durare sette giorni, non fino a un anno. Anche allora, ha notato, un gruppo dell'1% lascerebbe comunque “almeno 1,8 milioni di utenti statunitensi” senza l'aggiornamento. TikTok afferma che il test del 2022 era di routine, e che da allora ha perfezionato i suoi test.

      Perché “per design” è importante

      Quelle due parole hanno peso in tribunale. Migliaia di cause sostengono che le piattaforme sociali siano pericolose per design, un'affermazione che le aziende, incluso TikTok, negano. A marzo, una giuria della California ha ritenuto negligenti YouTube di Google e Instagram di Meta per aver mirato ai bambini con funzionalità avvincenti. Ha assegnato a un querelante 6 milioni di dollari. Il documento di Chase è emerso durante quella più ampia controversia legale.

      TikTok ha fornito a Bloomberg una dichiarazione. “I nostri cuori si spezzano per ogni famiglia che ha subito una perdita tragica”, ha detto un portavoce. L'azienda è “profondamente impegnata nella sicurezza e nel benessere degli utenti”, in particolare degli adolescenti, hanno aggiunto, e investe molto nella rilevazione e nell'applicazione. TikTok e Snap hanno raggiunto un accordo alla vigilia del processo in California. Lunedì, TikTok ha finalizzato altri tre accordi.

      Cosa ha detto TikTok al Congresso

      Due settimane dopo la revisione interna, l'amministratore delegato Shou Chew ha testimoniato davanti al Congresso. “La sicurezza e il benessere, in particolare per gli adolescenti, è una priorità fondamentale per TikTok”, ha detto. Un rappresentante, Gus Bilirakis, ha fatto un gesto verso i genitori di Chase nella galleria e ha detto: “la vostra azienda ha distrutto le loro vite”. Un altro, Gary Palmer, ha detto che ogni volta che Chew ha detto “trasparenza”, “quello che ho sentito è inganno”.

      In risposte scritte datate maggio 2023, il Congresso ha chiesto a TikTok quanti suicidi di utenti conoscesse. L'azienda ha risposto che “non crede che l'uso della piattaforma abbia causato suicidi tra gli utenti”. Quella risposta, nota Bloomberg, è arrivata due mesi dopo che TikTok ha esaminato l'account di Chase. Le risposte scritte non menzionavano il backtest.

      Il quadro più ampio

      Un ex leader del team di fiducia e sicurezza di TikTok, presente quando il test è stato eseguito, ha detto a Bloomberg di non essere stato a conoscenza di esso. Ha affermato che i test A/B sono comuni nel settore, ma che questo era difettoso. Il gruppo di controllo era troppo grande, ha detto, e avrebbe dovuto escludere i minorenni e contenuti come i video sul suicidio. TikTok non ha affrontato quei punti direttamente.

      I genitori di Chase hanno citato in giudizio TikTok per omicidio colposo nel 2023. Un giudice ha respinto il caso l'anno scorso, stabilendo che la Sezione 230 proteggeva l'azienda. È in corso un appello. Il caso fa parte di un crescente riconoscimento riguardo agli utenti giovani e ai social media. I tribunali stanno valutando la responsabilità, e i governi si stanno muovendo per limitare l'accesso ai minorenni.

      Questa storia discute il suicidio. Se tu o qualcuno che conosci sta lottando, è disponibile supporto. Un elenco globale di linee di emergenza è su befrienders.org, e negli Stati Uniti puoi chiamare o inviare un messaggio al 988.