TikTok скрывал исправление безопасности от миллионов, показывают документы

      В 2021 году TikTok изменил свой алгоритм, чтобы предотвратить затопление пользователей вредным контентом. Но безопасная версия не была предоставлена всем. 10% пользователей из США оставались на старой версии, около 15 миллионов человек на тот момент. Компания хотела протестировать, является ли безопасная лента менее зависимой. Это следует из конфиденциального документа, о котором сообщила Bloomberg.

      Документ говорит, что контрольная группа включала Чейза Наску, 16-летнего жителя Нью-Йорка. Его аккаунт участвовал в тесте. В результате, говорится в документе, «стратегии предотвращения фильтрового пузыря TikTok не сработали на этом пользователе по замыслу». Его лента затем показывала ему поток контента о самоубийствах, самоповреждениях и депрессии, говорится в документе. Он покончил с собой в феврале 2022 года.

      Что говорит документ

      Эксперимент был A/B тестом или «обратным тестом». Это стандартная техника, которая запускает две группы для измерения эффекта изменения. Здесь, как сообщает Bloomberg, тестировалось само средство безопасности. TikTok хотел знать, уменьшает ли безопасная лента «липкость», метрику, за которой следит Уолл-стрит. Тест длился до года.

      TikTok составил 14-страничный документ в марте 2023 года, и он находится под судебным печатью, сообщает Bloomberg. Он был составлен только после того, как Businessweek спросил о безопасности подростков. Он проанализировал 7563 видео, которые Чейз видел в свои последние две недели. Он обнаружил, что 73% содержали темы, такие как грусть или проблемы с психическим здоровьем, которые не нарушали его правила. Почти 10% их нарушали.

      Документ сделал две рекомендации. Он сказал, что контрольная группа должна сократиться до менее 1%, а тест должен длиться семь дней, а не до года. Даже тогда, отметил он, группа в 1% все равно оставила бы «по крайней мере 1,8 миллиона пользователей из США» без обновления. TikTok утверждает, что тест 2022 года был рутинным и что с тех пор он усовершенствовал свои тестирования.

      Почему важны слова «по замыслу»

      Эти два слова имеют вес в суде. Тысячи исков утверждают, что социальные платформы опасны по замыслу, что компании, включая TikTok, отрицают. В марте присяжные в Калифорнии признали YouTube от Google и Instagram от Meta небрежными за нацеливание на детей с зависимыми функциями. Один истец получил 6 миллионов долларов. Документ о Чейзе всплыл во время этого более широкого судебного разбирательства.

      TikTok предоставил Bloomberg заявление. «Наши сердца разбиваются за каждую семью, которая пережила трагическую утрату», — сказал представитель. Компания «глубоко привержена безопасности и благополучию пользователей», особенно подростков, добавили они, и активно инвестирует в обнаружение и соблюдение правил. TikTok и Snap достигли соглашения накануне судебного разбирательства в Калифорнии. В понедельник TikTok завершил три дополнительных соглашения.

      Что TikTok сказал Конгрессу

      Две недели после внутреннего обзора генеральный директор Шоу Чу дал показания в Конгрессе. «Безопасность и благополучие, в частности для подростков, являются основной приоритетом для TikTok», — сказал он. Один из представителей, Гас Билиракис, указал на родителей Чейза в галерее и сказал: «ваша компания разрушила их жизни». Другой, Гэри Палмер, сказал, что каждый раз, когда Чу говорил «прозрачность», «то, что я слышал, — это обман».

      В письменных ответах, датированных маем 2023 года, Конгресс спросил TikTok, сколько самоубийств пользователей ему известно. Компания ответила, что «не считает, что использование платформы привело пользователей к самоубийствам». Этот ответ, отмечает Bloomberg, пришел через два месяца после того, как TikTok проанализировал аккаунт Чейза. В письменных ответах не упоминался обратный тест.

      Широкая картина

      Бывший руководитель команды доверия и безопасности TikTok, который был там, когда проводился тест, сказал Bloomberg, что он не знал об этом. Он сказал, что A/B тесты распространены в отрасли, но этот был дефектным. Контрольная группа была слишком большой, сказал он, и она должна была исключать несовершеннолетних и контент, такой как видео о самоубийствах. TikTok не ответил на эти замечания напрямую.

      Родители Чейза подали в суд на TikTok за неправомерную смерть в 2023 году. Судья отклонил дело в прошлом году, постановив, что Раздел 230 защищает компанию. Апелляция ожидается. Дело является частью расширяющегося осознания проблем молодых пользователей и социальных медиа. Судебные органы взвешивают ответственность, а правительства стремятся ограничить доступ для несовершеннолетних.

      Эта история обсуждает самоубийство. Если вы или кто-то, кого вы знаете, испытываете трудности, поддержка доступна. Глобальный список горячих линий можно найти на befrienders.org, а в США вы можете позвонить или написать по номеру 988.