TikTok retuvo una solución de seguridad de millones, muestra un documento

      En 2021, TikTok cambió su algoritmo para evitar que los usuarios fueran inundados con contenido dañino. Pero no le dio la versión más segura a todos. Mantuvo al 10% de los usuarios de EE. UU. en la versión antigua, alrededor de 15 millones de personas en ese momento. Quería probar si el feed más seguro era menos adictivo. Eso es según un documento confidencial reportado por Bloomberg.

      El documento dice que el grupo de control incluía a Chase Nasca, un joven de 16 años de Nueva York. Su cuenta estaba en la prueba. Como resultado, dice, “las estrategias de prevención de burbujas de filtro de TikTok no tuvieron efecto en este usuario por diseño”. Su feed le mostró un flujo de contenido sobre suicidio, autolesiones y depresión, dice el documento. Se suicidó en febrero de 2022.

      Lo que dice el documento

      El experimento fue una prueba A/B, o “backtest”. Es una técnica estándar que ejecuta dos grupos para medir el efecto de un cambio. Aquí, informa Bloomberg, el cambio bajo prueba era el propio sistema de seguridad. TikTok quería saber si el feed más seguro reducía la “pegajosidad”, una métrica que observa Wall Street. La prueba duró hasta un año.

      TikTok redactó el documento de 14 páginas en marzo de 2023, y está bajo un sello judicial, informa Bloomberg. Compiló la revisión solo después de que Businessweek preguntara sobre la seguridad de los adolescentes. Revisó los 7,563 videos que Chase vio en sus últimas dos semanas. Encontró que el 73% contenía temas como tristeza o luchas de salud mental que no rompían sus reglas. Casi el 10% sí las rompió.

      El documento hizo dos recomendaciones. Dijo que el grupo de control debería reducirse a menos del 1%, y que la prueba debería durar siete días, no hasta un año. Aun así, señaló, un grupo del 1% dejaría “al menos 1.8 millones de usuarios de EE. UU.” sin la actualización. TikTok dice que la prueba de 2022 fue rutinaria, y que desde entonces ha refinado sus pruebas.

      Por qué importa “por diseño”

      Esas dos palabras tienen peso en los tribunales. Miles de demandas argumentan que las plataformas sociales son peligrosas por diseño, una afirmación que las empresas, incluido TikTok, niegan. En marzo, un jurado de California encontró a YouTube de Google y a Instagram de Meta negligentes por dirigir características adictivas a los niños. Le otorgó a un demandante $6 millones. El documento de Chase salió a la luz durante esa litigación más amplia.

      TikTok le dio a Bloomberg una declaración. “Nuestros corazones se rompen por cualquier familia que haya experimentado una pérdida trágica”, dijo un portavoz. La empresa está “profundamente comprometida con la seguridad y el bienestar de los usuarios”, especialmente los adolescentes, añadieron, y invierte mucho en detección y aplicación. TikTok y Snap llegaron a un acuerdo la víspera del juicio en California. El lunes, TikTok finalizó tres acuerdos más.

      Lo que TikTok le dijo al Congreso

      Dos semanas después de la revisión interna, el director ejecutivo Shou Chew testificó ante el Congreso. “La seguridad y el bienestar, en particular para los adolescentes, es una prioridad fundamental para TikTok”, dijo. Un representante, Gus Bilirakis, hizo un gesto hacia los padres de Chase en la galería y dijo: “su empresa destruyó sus vidas”. Otro, Gary Palmer, dijo que cada vez que Chew decía “transparencia”, “lo que he escuchado es engaño”.

      En respuestas escritas fechadas en mayo de 2023, el Congreso preguntó a TikTok cuántos suicidios de usuarios conocía. La empresa respondió que “no cree que el uso de la plataforma haya causado que los usuarios se suiciden”. Esa respuesta, señala Bloomberg, llegó dos meses después de que TikTok revisara la cuenta de Chase. Las respuestas escritas no mencionaron el backtest.

      El panorama más amplio

      Un exlíder del equipo de confianza y seguridad de TikTok, que estaba allí cuando se realizó la prueba, le dijo a Bloomberg que no sabía sobre ella. Dijo que las pruebas A/B son comunes en la industria, pero que esta estaba defectuosa. El grupo de control era demasiado grande, dijo, y debería haber excluido a menores y contenido como videos de suicidio. TikTok no abordó esos puntos directamente.

      Los padres de Chase demandaron a TikTok por muerte por negligencia en 2023. Un juez desestimó el caso el año pasado, dictaminando que la Sección 230 protegía a la empresa. Una apelación está pendiente. El caso es parte de un reconocimiento creciente sobre los jóvenes usuarios y las redes sociales. Los tribunales están sopesando la responsabilidad, y los gobiernos están moviéndose para restringir el acceso a los menores.

      Esta historia discute el suicidio. Si tú o alguien que conoces está pasando por dificultades, hay apoyo disponible. Una lista global de líneas de ayuda está en befrienders.org, y en EE. UU. puedes llamar o enviar un mensaje de texto al 988.