Due senatori danno a TikTok tempo fino al 1 settembre per spiegare il suo test di sicurezza

      Due senatori statunitensi hanno scritto a TikTok riguardo a un esperimento che ha disattivato una funzione di sicurezza per circa 15 milioni di utenti americani. La loro lettera si estende su quattro pagine e presenta 13 domande. Dà all'azienda tempo fino al 1 settembre per rispondere. I senatori definiscono la decisione di eseguire il test "depravata".

      La repubblicana Marsha Blackburn del Tennessee e il democratico del Connecticut Richard Blumenthal l'hanno inviata mercoledì, ha riportato Bloomberg. È indirizzata all'amministratore delegato di TikTok, Shou Chew, e ad Adam Presser, che gestisce la filiale statunitense dell'azienda. I due sono co-autori del Kids Online Safety Act. Questo rende questa richiesta proveniente da chi sta redigendo la legge destinata a governare l'azienda.

      Cosa chiedono i senatori

      Le domande sono specifiche. I senatori vogliono i nomi di ogni dipendente che è stato informato dell'esperimento. Vogliono una spiegazione del perché l'azienda ha permesso ai minorenni di partecipare al test. Vogliono sapere quando i dirigenti ne sono stati a conoscenza. Vogliono anche una "versione completa e non redatta" del documento interno che lo descrive.

      Una richiesta va ben oltre questo esperimento di sicurezza. I due hanno chiesto un elenco di ogni esperimento algoritmico che TikTok ha condotto negli Stati Uniti in cui ha "trattenuto, disabilitato, ritardato o ridotto una funzione di sicurezza". Vogliono il numero di utenti coinvolti in ciascuno di essi. Vogliono anche sapere quanti di questi erano minorenni.

      La lettera si apre citando "nuove segnalazioni disgustose che TikTok ha consapevolmente trattenuto una misura di sicurezza critica per milioni di utenti americani", compresi i bambini. Lo scopo dichiarato del test era scoprire se proteggere le persone avrebbe danneggiato il bilancio. Le rivelazioni "sollevano gravi interrogativi sulle ripetute assicurazioni di TikTok al Congresso, ai genitori e al pubblico americano" riguardo a mettere i giovani davanti al profitto, hanno scritto i senatori.

      Il documento dietro la lettera

      L'esperimento è emerso in un documento riservato di TikTok del 2023. Gli avvocati lo hanno consegnato in una causa contro le più grandi aziende di social media, e un tribunale lo ha posto sotto sigillo. Bloomberg Businessweek ha riportato il suo contenuto il 4 agosto. TikTok aveva mantenuto una correzione di sicurezza da 15 milioni di utenti statunitensi per scelta, ha mostrato il documento.

      TikTok ha disattivato una salvaguardia algoritmica per il 10% dei suoi utenti statunitensi, afferma il documento, rendendoli un gruppo di controllo. La salvaguardia esisteva per rompere le camere d'eco di contenuti dannosi. All'epoca, il 10% corrispondeva a circa 15 milioni di persone. Uno di questi era Chase Nasca, un sedicenne di Bayport, New York. È stato selezionato a caso il 25 gennaio 2022 e si è suicidato entro un mese.

      Il documento è chiaro sul perché il suo account fosse diverso. "Le strategie di prevenzione della bolla di filtro di TikTok non sono state attivate su questo utente per scelta", afferma. Descrive la scelta come "un delicato equilibrio tra sicurezza e la capacità di misurare l'impatto su DAU (utenti attivi giornalieri) e metriche fondamentali".

      Cosa ha detto TikTok

      TikTok non ha risposto a una richiesta di commento sulla lettera. Ha fornito una dichiarazione per l'indagine di Businessweek. L'azienda è "profondamente impegnata nella sicurezza e nel benessere degli utenti", in particolare degli adolescenti, ha detto allora un portavoce. "I nostri cuori si spezzano per ogni famiglia che ha subito una perdita tragica", ha aggiunto il portavoce.

      L'azienda ha anche sottolineato le sue spese. Continua a investire in Trust and Safety, ha detto il portavoce, inclusi sistemi di rilevamento e team di enforcement che rimuovono contenuti che violano le sue linee guida comunitarie.

      I senatori sostengono che il tempismo renda la situazione peggiore. Il Congresso aveva sollevato preoccupazioni riguardo all'algoritmo che spingeva i giovani utenti verso contenuti dannosi da ottobre 2021. L'esperimento è iniziato dopo. TikTok era quindi avvisata su come i suoi sistemi di raccomandazione influenzassero i bambini, hanno scritto.

      Il disegno di legge che alimenta tutto ciò

      Blackburn e Blumenthal vogliono che il loro disegno di legge venga accelerato. Il Kids Online Safety Act costringerebbe le piattaforme a mettere la sicurezza dei bambini sopra il profitto. È morto alla Camera nel 2024, poi è tornato in questa sessione. Il 5 agosto, il giorno dopo la pubblicazione della storia di Businessweek, il Comitato per il Commercio del Senato ha votato per far avanzare la versione rivitalizzata.

      Il testo del Senato mantiene una disposizione di dovere di cura. Questa clausola richiederebbe alle aziende di prestare ragionevole attenzione per prevenire danni alla salute mentale dei minorenni, inclusi ansia, depressione e uso compulsivo. Blackburn sostiene che ciò scoraggerebbe futuri esperimenti, poiché la sicurezza dovrebbe essere progettata fin dall'inizio.

      La Camera ha preso una strada diversa, e quella differenza è l'intera lotta. Il suo pacchetto di sicurezza online per i bambini è passato a giugno e copre anche chatbot AI e videogiochi. Rimuove la disposizione di dovere di cura per preoccupazioni relative al Primo Emendamento. La stessa questione è attuale nei tribunali, dove un giudice della California ha recentemente emesso una sentenza sul Primo Emendamento riguardo ai feed tossici.

      Il repubblicano della Florida Gus Bilirakis, che ha sostenuto il disegno di legge della Camera, ha la sua storia qui. Durante un'udienza di marzo 2023, settimane dopo la redazione del documento riservato, ha chiesto a Chew di Chase Nasca e gli ha detto che la sua tecnologia stava portando alla morte. Chew ha risposto che l'azienda prende molto sul serio queste questioni. Offre risorse per la salute mentale agli utenti che cercano contenuti suicidi, ha detto.

      La pressione altrove

      La lettera arriva a un'azienda già impegnata in diverse battaglie. Circa 2.400 cause per dipendenza stanno procedendo dopo che il Nono Circuito ha rifiutato di chiuderle. TikTok ha raggiunto accordi ripetutamente piuttosto che lasciare che un caso di un adolescente arrivasse a una giuria.

      I regolatori europei stanno conducendo processi paralleli e hanno i propri poteri documentali. Bruxelles ha accusato TikTok per la privacy dei bambini ai sensi del Digital Services Act. Ofcom ha aperto un'indagine sulla sicurezza dei bambini a luglio. Una lettera del Congresso non ha potere di citazione, quindi l'azienda può rifiutarla.

      Cosa risponderà TikTok entro il 1 settembre e cosa lascerà fuori, sarà esaminato attentamente da entrambe le parti dell'Atlantico.