Два сенатора дают TikTok до 1 сентября, чтобы объяснить свои тесты безопасности.

      Два сенатора США написали TikTok о эксперименте, который отключил функцию безопасности для примерно 15 миллионов американских пользователей. Их письмо состоит из четырех страниц и содержит 13 вопросов. Компании дано время до 1 сентября, чтобы ответить. Сенаторы называют решение провести тест «извращенным».

      Республиканка Марша Блэкберн из Теннесси и демократ Ричард Блументал из Коннектикута отправили его в среду, сообщает Bloomberg. Письмо адресовано генеральному директору TikTok Шоу Чжу и Адаму Прессеру, который управляет американским отделением компании. Эта пара является соавторами Закона о безопасности детей в Интернете. Это делает их требования от людей, разрабатывающих закон, который должен регулировать компанию.

      Что запрашивают сенаторы

      Вопросы конкретные. Сенаторы хотят знать имена каждого сотрудника, которому сообщили об эксперименте. Они хотят объяснения, почему компания допустила несовершеннолетних к тесту. Они хотят знать, когда руководители узнали об этом. Они также хотят «полную, нецензурированную версию» внутреннего документа, описывающего это.

      Одна просьба выходит далеко за рамки этого одного эксперимента по безопасности. Пара запросила список всех алгоритмических экспериментов, которые TikTok проводил в Соединенных Штатах, где он «удерживал, отключал, задерживал или снижал функцию безопасности». Они хотят знать количество пользователей, попавших в каждый из них. Они также хотят знать, сколько из них были несовершеннолетними.

      Письмо начинается с упоминания «отвратительных новых отчетов о том, что TikTok сознательно удерживал критическую меру безопасности для миллионов американских пользователей», включая детей. Заявленная цель теста заключалась в том, чтобы выяснить, повлияет ли защита людей на прибыль. Открытия «вызывают серьезные вопросы о повторяющихся заверениях TikTok Конгрессу, родителям и американской общественности» о том, что компания ставит молодых людей выше прибыли, написали сенаторы.

      Документ, лежащий в основе письма

      Эксперимент всплыл в конфиденциальном документе TikTok 2023 года. Юристы передали его в рамках судебного разбирательства против крупнейших социальных медиа-компаний, и суд наложил на него печать. Bloomberg Businessweek опубликовал его содержание 4 августа. TikTok намеренно удерживал исправление безопасности от 15 миллионов пользователей в США, показал документ.

      TikTok отключил алгоритмическую защиту для 10% своих пользователей в США, говорится в документе, сделав их контрольной группой. Защита существовала для разрушения эхо-камер вредного контента. На тот момент 10% составляли около 15 миллионов человек. Одним из них был Чейз Наска, 16-летний парень из Бэйпорта, штат Нью-Йорк. Он был выбран случайным образом 25 января 2022 года и покончил с собой в течение месяца.

      Документ прямо указывает, почему его аккаунт отличался. «Стратегии предотвращения фильтрового пузыря TikTok не сработали для этого пользователя по замыслу», - говорится в нем. Он описывает выбор как «деликатный баланс между безопасностью и возможностью измерения влияния на DAU (ежедневные активные пользователи) и основные метрики».

      Что сказала TikTok

      TikTok не ответил на запрос о комментарии к письму. Он предоставил заявление для расследования Businessweek. Компания «глубоко привержена безопасности и благополучию пользователей», особенно подростков, сказал тогда представитель. «Наши сердца разбиваются за каждую семью, которая пережила трагическую утрату», - добавил представитель.

      Компания также указала на свои расходы. Она продолжает инвестировать в доверие и безопасность, сказал представитель, включая системы обнаружения и команды по обеспечению соблюдения, которые удаляют контент, нарушающий ее правила сообщества.

      Сенаторы утверждают, что время делает ситуацию еще хуже. Конгресс поднимал вопросы о том, как алгоритм подталкивает молодых пользователей к вредному контенту с октября 2021 года. Эксперимент начался после этого. TikTok, следовательно, был в курсе того, как его рекомендательные системы влияют на детей, написали они.

      Законопроект, к которому это ведет

      Блэкберн и Блументал хотят, чтобы их законопроект был ускорен. Закон о безопасности детей в Интернете заставит платформы ставить безопасность детей выше прибыли. Он погиб в Палате представителей в 2024 году, затем вернулся в этом созыве. 5 августа, на следующий день после публикации истории Businessweek, Комитет по торговле Сената проголосовал за продвижение обновленной версии.

      Текст Сената сохраняет положение о заботе о безопасности. Этот пункт потребует от компаний разумной заботы о предотвращении психического вреда несовершеннолетним, включая тревожность, депрессию и компульсивное использование. Блэкберн утверждает, что это предотвратит будущие эксперименты, поскольку безопасность должна быть заложена с самого начала.

      Палата пошла другим путем, и это различие является всей борьбой. Ее пакет по безопасности детей в Интернете был принят в июне и также охватывает ИИ-чат-ботов и видеоигры. Он исключает положение о заботе о безопасности из-за опасений по Первой поправке. Тот же вопрос сейчас рассматривается в судах, где судья Калифорнии недавно вынес решение по Первой поправке по поводу зависимых лент.

      Республиканец из Флориды Гас Билиракис, который поддержал законопроект Палаты, имеет свою историю здесь. На слушании в марте 2023 года, через несколько недель после написания конфиденциального документа, он спросил Чжу о Чейзе Наске и сказал ему, что его технологии приводят к смерти. Чжу ответил, что компания очень серьезно относится к этим вопросам. Она предлагает ресурсы по психическому здоровью пользователям, которые ищут контент о самоубийстве, сказал он.

      Давление с других сторон

      Письмо попадает в компанию, которая уже борется на нескольких фронтах. Примерно 2400 исков о зависимости продолжаются после того, как Девятый округ отказался их закрыть. TikTok неоднократно достигал соглашений, чтобы не допустить, чтобы дело подростка дошло до присяжных.

      Европейские регуляторы проводят параллельные процессы и имеют свои собственные полномочия по документам. Брюссель обвинил TikTok в нарушении конфиденциальности детей в рамках Закона о цифровых услугах. Ofcom открыл расследование по безопасности детей в июле. Конгрессу не хватает полномочий на выдачу повесток, поэтому компания может отказаться от этого.

      Что TikTok ответит до 1 сентября и что он опустит, будет внимательно изучено с обеих сторон Атлантики.