Dos senadores le dan a TikTok hasta el 1 de septiembre para explicar su prueba de seguridad.

      Dos senadores estadounidenses han escrito a TikTok sobre un experimento que desactivó una función de seguridad para aproximadamente 15 millones de usuarios estadounidenses. Su carta abarca cuatro páginas y plantea 13 preguntas. Le da a la empresa hasta el 1 de septiembre para responder. Los senadores califican la decisión de realizar la prueba como "depravada".

      La republicana Marsha Blackburn de Tennessee y el demócrata Richard Blumenthal de Connecticut la enviaron el miércoles, informó Bloomberg. Está dirigida al director ejecutivo de TikTok, Shou Chew, y a Adam Presser, quien dirige la filial estadounidense de la empresa. Ambos coescribieron la Ley de Seguridad en Línea para Niños. Esto convierte esta solicitud en una demanda de las personas que redactan la ley destinada a regular la empresa.

      Lo que los senadores están pidiendo

      Las preguntas son específicas. Los senadores quieren los nombres de cada empleado que fue informado sobre el experimento. Quieren una explicación de por qué la empresa permitió que menores participaran en la prueba. Quieren saber cuándo se enteraron los ejecutivos. También quieren una "versión completa y sin censura" del documento interno que la describe.

      Una solicitud va mucho más allá de este experimento de seguridad. La pareja pidió una lista de cada experimento algorítmico que TikTok ha realizado en los Estados Unidos donde "retuvo, desactivó, retrasó o redujo una función de seguridad". Quieren el número de usuarios afectados en cada uno. También quieren saber cuántos de esos eran menores.

      La carta comienza citando "informes nuevos y disgustantes que TikTok retuvo a sabiendas una medida de seguridad crítica para millones de usuarios estadounidenses", incluidos niños. El propósito declarado de la prueba era averiguar si proteger a las personas afectaría las ganancias. Las revelaciones "plantean serias preguntas sobre las repetidas garantías de TikTok al Congreso, a los padres y al público estadounidense" sobre poner a los jóvenes por delante de las ganancias, escribieron los senadores.

      El documento detrás de la carta

      El experimento salió a la luz en un documento confidencial de TikTok de 2023. Los abogados lo entregaron en un litigio contra las empresas de redes sociales más grandes, y un tribunal lo selló. Bloomberg Businessweek informó sobre su contenido el 4 de agosto. TikTok había mantenido una solución de seguridad de 15 millones de usuarios estadounidenses por diseño, mostró el documento.

      TikTok desactivó una salvaguarda algorítmica para el 10% de sus usuarios en EE. UU., dice el documento, convirtiéndolos en un grupo de control. La salvaguarda existía para romper las cámaras de eco de contenido dañino. En ese momento, el 10% representaba aproximadamente 15 millones de personas. Uno de ellos fue Chase Nasca, un adolescente de 16 años de Bayport, Nueva York. Fue seleccionado al azar el 25 de enero de 2022 y se suicidó dentro de un mes.

      El documento es claro sobre por qué su cuenta era diferente. "Las estrategias de prevención de burbujas de filtro de TikTok no se aplicaron a este usuario por diseño", afirma. Describe la elección como "un delicado equilibrio entre la seguridad y la capacidad de medir el impacto en DAU (usuarios activos diarios) y métricas clave".

      Lo que TikTok ha dicho

      TikTok no respondió a una solicitud de comentario sobre la carta. Ofreció una declaración para la investigación de Businessweek. La empresa está "profundamente comprometida con la seguridad y el bienestar de los usuarios", especialmente de los adolescentes, dijo un portavoz en ese momento. "Nuestros corazones se rompen por cualquier familia que haya experimentado una pérdida trágica", agregó el portavoz.

      La empresa también señaló sus gastos. Sigue invirtiendo en Confianza y Seguridad, dijo el portavoz, incluidos sistemas de detección y equipos de cumplimiento que eliminan contenido que infringe sus pautas comunitarias.

      Los senadores argumentan que el momento lo hace peor. El Congreso había estado planteando preocupaciones sobre el algoritmo que empuja a los jóvenes usuarios hacia contenido dañino desde octubre de 2021. El experimento comenzó después de eso. TikTok estaba, por lo tanto, en aviso sobre cómo sus sistemas de recomendación afectaban a los niños, escribieron.

      El proyecto de ley que esto alimenta

      Blackburn y Blumenthal quieren que su proyecto de ley sea acelerado. La Ley de Seguridad en Línea para Niños obligaría a las plataformas a priorizar la seguridad infantil sobre las ganancias. Murió en la Cámara en 2024, luego regresó en esta sesión. El 5 de agosto, el día después de que se publicara la historia de Businessweek, el Comité de Comercio del Senado votó para avanzar la versión revivida.

      El texto del Senado mantiene una disposición de deber de cuidado. Esa cláusula requeriría que las empresas tomen precauciones razonables para prevenir daños a la salud mental de los menores, incluidos la ansiedad, la depresión y el uso compulsivo. Blackburn argumenta que disuadiría futuros experimentos, porque la seguridad tendría que ser diseñada desde el principio.

      La Cámara tomó un camino diferente, y esa diferencia es toda la pelea. Su paquete de seguridad en línea para niños se aprobó en junio y también cubre chatbots de IA y videojuegos. Elimina la disposición de deber de cuidado por preocupaciones de la Primera Enmienda. La misma pregunta está viva en los tribunales, donde un juez de California emitió recientemente un fallo de la Primera Enmienda sobre feeds adictivos.

      El republicano de Florida Gus Bilirakis, quien defendió el proyecto de ley de la Cámara, tiene su propia historia aquí. En una audiencia de marzo de 2023, semanas después de que se redactara el documento confidencial, le preguntó a Chew sobre Chase Nasca y le dijo que su tecnología estaba llevando a la muerte. Chew respondió que la empresa se toma estos problemas muy en serio. Ofrece recursos de salud mental a los usuarios que buscan contenido sobre suicidio, dijo.

      La presión en otros lugares

      La carta llega a una empresa que ya está luchando en varios frentes. Aproximadamente 2,400 demandas por adicción están en curso después de que el Noveno Circuito se negó a cerrarlas. TikTok se ha asentado repetidamente en lugar de permitir que un caso de adolescentes llegue a un jurado.

      Los reguladores europeos están llevando a cabo procesos paralelos y tienen sus propios poderes documentales. Bruselas ha acusado a TikTok por la privacidad de los niños bajo la Ley de Servicios Digitales. Ofcom abrió una investigación sobre la seguridad infantil en julio. Una carta del Congreso no tiene poder de citación, por lo que la empresa puede rechazarla.

      Lo que TikTok responda antes del 1 de septiembre, y lo que omita, será leído de cerca en ambos lados del Atlántico.