Два сенатора дали TikTok до 1 сентября, чтобы объяснить свои тесты на безопасность.

      Два сенатора США написали TikTok о эксперименте, который отключил функцию безопасности для примерно 15 миллионов американских пользователей. Их письмо состоит из четырех страниц и содержит 13 вопросов. Компании дано время до 1 сентября, чтобы ответить. Сенаторы называют решение провести тест «извращенным».

      Республиканка Марша Блэкберн из Теннесси и демократ Ричард Блюментал из Коннектикута отправили его в среду, сообщает Bloomberg. Письмо адресовано генеральному директору TikTok Шоу Чжоу и Адаму Прессеру, который управляет американским подразделением компании. Эта пара является соавторами Закона о безопасности детей в Интернете. Это делает их запрос требованием от людей, разрабатывающих закон, который должен регулировать компанию.

      Что запрашивают сенаторы

      Вопросы конкретные. Сенаторы хотят знать имена всех сотрудников, которым сообщили об эксперименте. Они хотят объяснения, почему компания допустила несовершеннолетних к тесту. Они хотят знать, когда руководители узнали об этом. Они также хотят «полную, нецензурированную версию» внутреннего документа, описывающего его.

      Один запрос выходит далеко за рамки этого эксперимента по безопасности. Пара запросила список всех алгоритмических экспериментов, которые TikTok проводил в Соединенных Штатах, где он «удерживал, отключал, задерживал или уменьшал функцию безопасности». Они хотят знать количество пользователей, попавших в каждый из них. Они также хотят узнать, сколько из них были несовершеннолетними.

      Письмо открывается ссылкой на «отвратительные новые сообщения о том, что TikTok сознательно удерживал критическую меру безопасности для миллионов американских пользователей», включая детей. Заявленная цель теста заключалась в том, чтобы выяснить, повлияет ли защита людей на прибыль. Открытия «поднимают серьезные вопросы о повторяющихся заверениях TikTok Конгрессу, родителям и американской общественности» о том, что интересы молодежи ставятся выше прибыли, написали сенаторы.

      Документ, стоящий за письмом

      Эксперимент всплыл в конфиденциальном документе TikTok 2023 года. Юристы передали его в рамках судебного разбирательства против крупнейших социальных медиа-компаний, и суд наложил на него печать. Bloomberg Businessweek опубликовал его содержание 4 августа. TikTok намеренно удерживал исправление безопасности от 15 миллионов пользователей в США, показал документ.

      TikTok отключил алгоритмическую защиту для 10% своих пользователей в США, говорится в документе, сделав их контрольной группой. Эта защита существовала, чтобы разрывать эхо-камеры вредного контента. На тот момент 10% составляли около 15 миллионов человек. Одним из них был Чейз Наска, 16-летний из Бэйпорта, штат Нью-Йорк. Он был выбран случайным образом 25 января 2022 года и покончил с собой в течение месяца.

      Документ прямо указывает, почему его аккаунт отличался. «Стратегии предотвращения фильтрового пузыря TikTok не сработали для этого пользователя по замыслу», - говорится в нем. Он описывает выбор как «деликатный баланс между безопасностью и возможностью измерять влияние на DAU (ежедневные активные пользователи) и основные метрики».

      Что сказала TikTok

      TikTok не ответил на запрос о комментарии к письму. Он предоставил заявление для расследования Businessweek. Компания «глубоко привержена безопасности и благополучию пользователей», особенно подростков, сказал тогда представитель. «Наши сердца разбиваются за каждую семью, которая пережила трагическую утрату», - добавил представитель.

      Компания также указала на свои расходы. Она продолжает инвестировать в Trust and Safety, сказал представитель, включая системы обнаружения и команды по обеспечению соблюдения, которые удаляют контент, нарушающий ее правила сообщества.

      Сенаторы утверждают, что время делает ситуацию хуже. Конгресс поднимал вопросы о том, как алгоритм подталкивает молодых пользователей к вредному контенту с октября 2021 года. Эксперимент начался после этого. TikTok, следовательно, был уведомлен о том, как его рекомендательные системы влияют на детей, написали они.

      Законопроект, к которому это относится

      Блэкберн и Блюментал хотят, чтобы их законопроект был ускорен. Закон о безопасности детей в Интернете заставит платформы ставить безопасность детей выше прибыли. Он погиб в Палате представителей в 2024 году, затем вернулся в этом созыве. 5 августа, на следующий день после публикации статьи Businessweek, Комитет по торговле Сената проголосовал за продвижение обновленной версии.

      Текст Сената сохраняет положение о заботе о безопасности. Этот пункт потребует от компаний проявлять разумную заботу, чтобы предотвратить ущерб психическому здоровью несовершеннолетних, включая тревожность, депрессию и компульсивное использование. Блэкберн утверждает, что это предотвратит будущие эксперименты, поскольку безопасность должна быть заложена с самого начала.

      Палата пошла другим путем, и это различие является всей борьбой. Ее пакет по безопасности детей в Интернете был принят в июне и также охватывает AI-чат-ботов и видеоигры. Он исключает положение о заботе о безопасности из-за опасений по Первой поправке. Тот же вопрос сейчас рассматривается в судах, где судья Калифорнии недавно вынес решение по Первой поправке по поводу зависимых лент.

      Республиканец из Флориды Гас Билиракис, который поддерживал законопроект Палаты, имеет свою собственную историю здесь. На слушании в марте 2023 года, через несколько недель после написания конфиденциального документа, он спросил Чжоу о Чейзе Наске и сказал ему, что его технология приводит к смерти. Чжоу ответил, что компания очень серьезно относится к этим вопросам. Она предлагает ресурсы по психическому здоровью пользователям, которые ищут контент о самоубийстве, сказал он.

      Давление в других местах

      Письмо попадает на компанию, которая уже борется на нескольких фронтах. Примерно 2400 исков о зависимости продолжаются после того, как Девятый окружной суд отказался их закрыть. TikTok неоднократно достигал соглашений, а не позволял делу подростка дойти до жюри.

      Европейские регуляторы ведут параллельные процессы, и у них есть свои собственные полномочия по документам. Брюссель обвинил TikTok в нарушении конфиденциальности детей в рамках Закона о цифровых услугах. Ofcom открыл расследование по безопасности детей в июле. Конгрессу не хватает полномочий на выдачу повесток, поэтому компания может отказаться от этого.

      Что TikTok ответит до 1 сентября и что он опустит, будет внимательно изучено с обеих сторон Атлантики.