Spotify eliminó decenas de miles de podcasts falsos relacionados con la venta de drogas en línea.
Spotify ha pasado el último año eliminando silenciosamente decenas de miles de podcasts falsos que supuestamente se utilizaban para promover farmacias en línea ilegales y sitios web de estafas. Ahora, un nuevo informe del Congreso está planteando preguntas sobre cómo pudo florecer el esquema en una de las plataformas de audio más grandes del mundo en primer lugar.
Según el informe de Wired, actores malintencionados crearon miles de podcasts falsos que nunca se pretendieron para atraer oyentes reales. En cambio, estaban diseñados para manipular los rankings de búsqueda de Spotify y aumentar la visibilidad de sitios web que venden medicamentos recetados sin recetas, incluidos opioides, estimulantes y benzodiazepinas.
Spotify eliminó más de 57,000 episodios de podcasts, más de 3,000 programas de podcasts y tomó medidas contra aproximadamente 3,500 cuentas conectadas a la operación. La eliminación se produjo después de un escrutinio sostenido por parte de legisladores e investigaciones de medios que destacaron la magnitud del problema.
El informe fue liderado por la senadora Maggie Hassan, quien criticó a Spotify por no actuar con suficiente rapidez y por no informar la actividad a las fuerzas del orden a pesar de los vínculos con sitios web involucrados en ventas ilegales de drogas.
Los podcasts nunca fueron realmente podcasts
Uno de los detalles más sorprendentes es que la mayoría del contenido no fue creado para ser consumido.
Spotify dijo a los investigadores que muchos de los podcasts falsos funcionaban principalmente como spam de motores de búsqueda. Los operadores supuestamente llenaron los títulos de los podcasts, descripciones y arte de portada con enlaces que dirigían a los usuarios a sitios web de farmacias en línea y operaciones de estafa. El objetivo era explotar la autoridad de Spotify en los motores de búsqueda y mejorar el ranking de esos sitios externos.
Spotify
De hecho, Spotify dijo que el 94% de los episodios eliminados no recibieron reproducciones, mientras que el 99% atrajo menos de 10 reproducciones. Sin embargo, algunos episodios sí encontraron una audiencia. Un puñado supuestamente generó miles de escuchas e incluía instrucciones para comprar drogas como el modafinilo usando criptomonedas.
El informe también encontró contenido similar apareciendo en otras plataformas de podcasts, destacando lo fácil que se ha vuelto distribuir grandes cantidades de contenido de baja calidad a través de múltiples servicios a la vez.
La IA está haciendo que el problema del spam sea aún mayor
Investigadores y legisladores creen que la inteligencia artificial está facilitando la ejecución de estas operaciones.
El informe señala podcasts generados por IA que presentan voces sintéticas y contenido generado automáticamente diseñado para imitar programas legítimos. Spotify dijo a los investigadores que actualmente tiene sistemas de moderación de IA para el spam musical, pero no prohíbe específicamente los podcasts generados por IA. La compañía también reconoció que no está particularmente bien posicionada para identificar contenido de podcasts creado por IA.
Spotify
Spotify dice que utiliza herramientas de detección automatizadas, revisores humanos y servicios de moderación externos para identificar contenido que infringe las reglas. Sin embargo, el informe del Congreso argumenta que la magnitud de la operación de podcasts falsos demuestra brechas significativas en esas defensas.
El incidente destaca un desafío creciente que enfrentan las plataformas de internet. A medida que la IA hace que sea más barato y rápido crear contenido a gran escala, las campañas de spam ya no necesitan solo sitios web. Pueden explotar plataformas de confianza, algoritmos de búsqueda y sistemas de recomendación para llegar a los usuarios de maneras que son cada vez más difíciles de detectar.
Para Spotify, la controversia es un recordatorio de que los desafíos de moderación de contenido ya no se limitan a las redes sociales. Incluso las plataformas de podcasts se están convirtiendo en objetivos de operaciones de spam sofisticadas diseñadas para manipular los rankings de búsqueda y canalizar a los usuarios hacia servicios ilegales o potencialmente peligrosos.
Otros artículos
Spotify eliminó decenas de miles de podcasts falsos relacionados con la venta de drogas en línea.
Un informe del Congreso afirma que miles de podcasts falsos se utilizaron para impulsar sitios web de farmacias ilegales, lo que llevó a Spotify a eliminar más de 57,000 episodios.
