Spotify ha rimosso 57.000 episodi di podcast falsi che vendevano droghe illegali dopo la pressione del Congresso.

      TL;DRSpotify ha rimosso 57.000 episodi di podcast falsi legati alla vendita di droghe illegali dopo un'indagine del Senato degli Stati Uniti, ma ha agito solo dopo che la pressione dei media ha esposto il problema.

      Spotify ha rimosso più di 57.000 episodi di podcast falsi e ha bandito 3.500 account legati alla promozione di droghe illegali dopo che un'indagine del Senato degli Stati Uniti ha rivelato l'entità del problema. Gli episodi, distribuiti su più di 3.000 show, utilizzavano audio generato da intelligenza artificiale per indirizzare gli ascoltatori verso siti web che vendevano modafinil, oppioidi e criptovalute su mercati non regolamentati. La senatrice Maggie Hassan, una democratica del New Hampshire, ha guidato l'inchiesta congressuale che ha costretto la piattaforma ad agire.

      I numeri sono inquietanti non per la loro dimensione, ma per la tempistica. In tutto il 2024, Spotify ha preso provvedimenti su solo 87 account per violazioni simili. L'impennata a 3.500 divieti nel 2025 è avvenuta solo dopo che CNN ha pubblicato un'inchiesta a maggio che documentava in dettaglio il flusso di spam legato alle droghe. Un podcast identificato da CNN era collegato direttamente a un sito chiamato opioidstores.com, che la DEA ha successivamente sequestrato.

      I dati di Spotify rivelano quanto profondamente lo spam si fosse radicato prima che qualcuno se ne accorgesse. Il novantaquattro percento degli episodi rimossi aveva zero ascolti e il 99% aveva meno di dieci stream, suggerendo che il contenuto era indicizzato e ricercabile molto prima che un ascoltatore umano lo incontrasse. Gli episodi funzionavano meno come contenuto ascoltabile e più come vettori SEO, indirizzando il traffico di ricerca verso negozi illegali.

      Ma non tutto è passato inosservato. Alcuni episodi avevano accumulato migliaia di ascolti, con voci generate da intelligenza artificiale che leggevano ad alta voce istruzioni per l'acquisto di modafinil e criptovalute. Il contenuto non era sottile, era pieno di parole chiave, ottimizzato algoritmicamente e progettato per sfruttare l'approccio storicamente permissivo di Spotify alla moderazione dei podcast.

      La piattaforma ha riconosciuto nella sua risposta all'ufficio di Hassan di non essere "particolarmente ben posizionata" per identificare contenuti di podcast creati da intelligenza artificiale. Spotify utilizza la moderazione automatizzata per la musica, dove ha implementato strumenti per rilevare canzoni generate da intelligenza artificiale e frodi di streaming, ma non esiste un sistema equivalente per i podcast. L'azienda non vieta specificamente i podcast generati da intelligenza artificiale nei suoi termini di servizio, creando un vuoto che i malintenzionati hanno sfruttato su larga scala.

      Questo vuoto è particolarmente sorprendente date le recenti mosse di Spotify nel settore musicale. Ad aprile, l'azienda ha lanciato un badge Verificato da Spotify che esclude esplicitamente gli account di artisti con persona AI e ha iniziato a segnalare canzoni generate da intelligenza artificiale che imitano artisti reali. Ma i podcast, che sono milioni e non richiedono alcuna relazione con un distributore per essere caricati, rimangono in gran parte non controllati.

      L'inchiesta di Hassan ha anche scoperto che Spotify non ha segnalato alcun contenuto di promozione di droghe rimosso alle forze dell'ordine. L'azienda ha rimosso gli episodi e ha bandito gli account, ma non ha riferito il materiale alla DEA o ad altre agenzie, anche quando il contenuto conteneva link diretti a siti che la DEA ha successivamente sequestrato in modo indipendente. Hassan ha definito la risposta insufficiente e ha esortato Spotify a implementare una rilevazione proattiva piuttosto che aspettare la pressione esterna.

      Il problema non è unico per Spotify. Podcast simili di spam legati alle droghe generati da intelligenza artificiale sono stati trovati su altre piattaforme, anche se nessuna ha divulgato cifre di rimozione su questa scala. La facilità di creare audio sintetico, combinata con il modello di caricamento aperto utilizzato dalla maggior parte delle piattaforme di podcast, ha reso il mezzo un canale a basso costo e ad alto volume per la pubblicità illecita. I contenuti generati da intelligenza artificiale già inondano il catalogo musicale di Spotify senza etichette, e il lato podcast sembra essere ancora più indietro nella rilevazione.

      Il modello di enforcement, reattivo e guidato dai media piuttosto che proattivo, solleva interrogativi su cos'altro possa trovarsi sulla piattaforma non rilevato. Spotify è passata da 87 divieti di account in un intero anno a 3.500 in poche settimane, una volta che i giornalisti e i legislatori hanno iniziato a indagare. Il tasso di zero ascolti del 94% significa che i sistemi esistenti dell'azienda non stavano portando alla luce questo contenuto attraverso metriche di coinvolgimento o segnalazioni degli utenti, invisibile fino a quando qualcuno non lo cercava deliberatamente.

      Spotify non ha annunciato nuovi strumenti di rilevazione automatizzati per i contenuti dei podcast in risposta all'indagine. L'azienda ha dichiarato di stare lavorando per migliorare i suoi sistemi, ma non ha fornito alcuna tempistica o dettagli tecnici. Per una piattaforma che ospita più di cinque milioni di titoli di podcast, l'assenza di moderazione specifica per i podcast basata su intelligenza artificiale non è più una svista, ma una scelta politica con conseguenze misurabili.