Проблема с AI-контентом в TikTok хуже, чем вы думаете — и дети видят это больше всего

      TikTok потратил годы на совершенствование искусства понимания того, что вы хотите посмотреть дальше. Откройте приложение, прокрутите несколько раз, и вдруг вам показывают видео, которые кажутся удивительно адаптированными к вашим интересам. Но что происходит до того, как TikTok узнает, кто вы? Согласно новым исследованиям платформы для редактирования видео Kapwing, ответом становится все большее количество низкокачественного контента, созданного ИИ.

      Исследование показало, что почти 60% видео, показанных новому аккаунту TikTok, были низкокачественным контентом, созданным ИИ. Это не нишевая проблема, скрытая в обскурных уголках платформы. Это первое впечатление, которое TikTok производит на новых пользователей, прежде чем алгоритм начнет персонализировать их ленту. И если это звучит тревожно, результаты, касающиеся детского контента, еще труднее игнорировать.

      Эра мусорной пищи алгоритма

      Рекомендательный алгоритм TikTok разработан для быстрой адаптации. Платформа учитывает все — от лайков и подписок до времени просмотра и привычек прокрутки, прежде чем решить, что показать вам дальше. Чтобы понять, как выглядит нетронутый опыт TikTok, исследователи создали новый аккаунт и изучили первые 500 видео, показанных на странице «Для вас». Результаты были шокирующими: 294 из этих видео были классифицированы как мусор, созданный ИИ. Это означает, что новый пользователь с большей вероятностью столкнется с мусором, созданным ИИ, чем с контентом, созданным человеком, прежде чем TikTok получит какие-либо значимые данные о его предпочтениях.

      TikTok Unsplash

      Возможно, еще более показательно то, как TikTok сравнивается с другими платформами. Kapwing ранее провел аналогичный эксперимент на YouTube Shorts и обнаружил значительно меньше мусора, созданного ИИ. TikTok оказался не просто хуже — он был значительно хуже. На данный момент контент, созданный ИИ, не просто проникает на платформу. Он становится частью эстетики платформы по умолчанию. И это может быть настоящей историей здесь. Для многих пользователей, особенно для молодежи, видео, созданные ИИ, больше не являются случайной странностью. Они становятся нормой.

      Улица Сезам встречает странную долину

      Самая тревожная часть отчета сосредоточена на контенте, ориентированном на детей. Исследователи обнаружили, что более половины видео в категории «Дети» TikTok квалифицировались как «мусор», созданный ИИ. Один хэштег, в частности, #CartoonKids, был почти полностью захвачен материалом, созданным ИИ, и только несколько видео, похоже, были сделаны людьми. Любой, кто наткнулся на эти видео, сразу узнает формулу — знакомые мультяшные персонажи появляются в странных ситуациях, образовательные уроки полны ошибок, персонажи говорят с тревожными синтетическими голосами, а анимации меняются и трансформируются так, что это не совсем имеет смысл.

      Контент часто напоминает детские программы на первый взгляд, но разваливается в тот момент, когда вы начинаете обращать внимание. Вот что делает это тревожным. Маленькие дети не могут отличить качественный образовательный контент от имитации, созданной ИИ, которая уверенно представляет неверную информацию. Урок счета, в котором неправильно указаны числа, может показаться смешным взрослому, но у дошкольника нет того же контекста. В интернете всегда был сомнительный контент для детей. Что изменилось, так это масштаб. Генеративный ИИ позволяет создавать бесконечные потоки видео с такой скоростью, которую ни один человек не сможет достичь. И рекомендательная система TikTok, похоже, более чем готова их распространять.

      TikTok

      Проблема выходит за рамки детского контента. Исследование показало, что образовательные, научные, медицинские и исторические видео были среди категорий, наиболее сильно затронутых мусором, созданным ИИ. Это особенно печально, потому что именно в этих темах точность имеет наибольшее значение. Плохо сгенерированный комедийный скетч достаточно легко прокрутить мимо. Урок истории, наполненный вымышленными деталями, или медицинское видео, представляющее вводящие в заблуждение советы, — это совершенно другая история. Чтобы быть справедливым, не каждый создатель, использующий ИИ, производит мусор. Некоторые создатели экспериментируют с ИИ-генерированными ведущими и визуальными эффектами, чтобы сделать образовательные темы более увлекательными. В лучших случаях ИИ выступает в качестве инструмента, который поддерживает работу создателя, а не заменяет ее. Но отчет подчеркивает растущую реальность в социальных сетях: стимулы часто вознаграждают объем, а не качество. Если создатель может генерировать десятки видео за то время, которое раньше требовалось для создания одного, платформы заполняются контентом, который технически можно смотреть, но предлагает очень мало содержания.

      TikTok, похоже, осознает, что пользователи устали от этого. Компания внедрила инструменты, которые позволяют пользователям уменьшить количество контента, созданного ИИ, который они видят, и инвестировала в инициативы по повышению грамотности в области ИИ. Тем не менее, исследования показывают, что эти усилия могут не успевать за потоком. Ирония заключается в том, что социальные сети стали популярными, потому что предлагали что-то явно человеческое: креативность, личность, экспертизу и связь. ИИ может удивительно хорошо имитировать все эти вещи. Но имитация — это не то же самое, что аутентичность. Когда почти шесть из каждых десяти видео, которые видит новый пользователь, созданы ИИ, вопрос больше не в том, существует ли мусор, созданный ИИ, на TikTok. Вопрос в том, стал ли он определяющей чертой платформы. И для поколения детей, растущих с этими лентами, этот ответ имеет большее значение, чем когда-либо.