Spotify удалил 57,000 фальшивых эпизодов подкастов, продающих незаконные наркотики, после давления Конгресса

      TL;DRSpotify удалил 57,000 поддельных эпизодов подкастов, связанных с незаконной продажей наркотиков, после расследования Сената США, но действовал только после давления со стороны СМИ, которое выявило проблему.

      Spotify удалил более 57,000 поддельных эпизодов подкастов и заблокировал 3,500 аккаунтов, связанных с незаконным продвижением наркотиков, после того как расследование Сената США выявило масштаб проблемы. Эпизоды, распределенные по более чем 3,000 шоу, использовали сгенерированный ИИ аудиофайл для направления слушателей на веб-сайты, продающие модафинил, опиоиды и криптовалюту на нерегулируемых рынках. Сенатор Мэгги Хассан, демократ из Нью-Гэмпшира, возглавила конгрессное расследование, которое заставило платформу действовать.

      Цифры шокируют не своим размером, а временными рамками. За весь 2024 год Spotify заблокировал всего 87 аккаунтов за аналогичные нарушения. Резкий рост до 3,500 блокировок в 2025 году произошел только после того, как CNN опубликовала расследование в мае, подробно документирующее поток наркотиков-спама. Один из подкастов, идентифицированный CNN, напрямую ссылался на сайт под названием opioidstores.com, который впоследствии был конфискован DEA.

      Собственные данные Spotify показывают, насколько глубоко спам укоренился, прежде чем кто-либо это заметил. Девяносто четыре процента удаленных эпизодов не имели ни одного прослушивания, а 99% имели менее десяти потоков, что предполагает, что контент был индексирован и доступен для поиска задолго до того, как его услышал какой-либо человек. Эпизоды функционировали меньше как слушаемый контент и больше как SEO-векторы, направляя поисковый трафик к незаконным витринам.

      Но не все это осталось незамеченным. Некоторые эпизоды накопили тысячи прослушиваний, с голосами, сгенерированными ИИ, читающими инструкции по покупке модафинила и криптовалюты. Контент не был тонким, он был насыщен ключевыми словами, алгоритмически оптимизирован и предназначен для эксплуатации исторически разрешительного подхода Spotify к модерации подкастов.

      Платформа признала в своем ответе офису Хассан, что она "не особенно хорошо подготовлена" для выявления контента подкастов, созданного ИИ. Spotify использует автоматическую модерацию для музыки, где он внедрил инструменты для обнаружения песен, сгенерированных ИИ, и мошенничества со стримингом, но эквивалентной системы для подкастов не существует. Компания не запрещает специально подкасты, созданные ИИ, в своих условиях обслуживания, создавая пробел, который недобросовестные участники использовали в больших масштабах.

      Этот пробел особенно заметен, учитывая недавние шаги Spotify в музыкальной сфере. В апреле компания запустила значок Verified by Spotify, который явно исключает аккаунты артистов с ИИ-персонами и начала отмечать песни, сгенерированные ИИ, которые имитируют реальных артистов. Но подкасты, которых насчитывается миллионы и для загрузки которых не требуется отношений с дистрибьюторами, остаются в значительной степени без надзора.

      Расследование Хассан также показало, что Spotify не сообщил ни о каком удаленном контенте, связанном с продвижением наркотиков, правоохранительным органам. Компания удалила эпизоды и заблокировала аккаунты, но не передала материалы DEA или какому-либо другому агентству, даже когда контент содержал прямые ссылки на сайты, которые DEA впоследствии конфисковал самостоятельно. Хассан назвала ответ недостаточным и призвала Spotify внедрить проактивное обнаружение, а не ждать внешнего давления.

      Проблема не уникальна для Spotify. Подобные подкасты с наркотиками-спамом, созданные ИИ, были найдены на других платформах, хотя ни одна из них не раскрыла данные о удалении в таком масштабе. Легкость создания синтетического аудио, в сочетании с моделью открытой загрузки, которую используют большинство платформ подкастов, сделала этот медиаформат низкозатратным и высокообъемным каналом для незаконной рекламы. Контент, созданный ИИ, уже заполняет музыкальный каталог Spotify без лейблов, а сторона подкастов, похоже, еще дальше от обнаружения.

      Шаблон правоприменения, реактивный и основанный на СМИ, а не проактивный, вызывает вопросы о том, что еще остается на платформе незамеченным. Spotify перешел от 87 блокировок аккаунтов за целый год к 3,500 за считанные недели, как только репортеры и законодатели начали исследовать. Уровень 94% нулевых прослушиваний означает, что существующие системы компании не выявляли этот контент через метрики вовлеченности или отчеты пользователей, оставаясь невидимыми, пока кто-то не начал искать их намеренно.

      Spotify не объявил о каких-либо новых автоматизированных инструментах обнаружения для контента подкастов в ответ на расследование. Компания заявила, что работает над улучшением своих систем, но не предоставила сроков или технических деталей. Для платформы, которая размещает более пяти миллионов названий подкастов, отсутствие модерации подкастов, специфичной для ИИ, больше не является упущением, это выбор политики с измеримыми последствиями.