I "medici" generati dall'IA che vendono cure false su TikTok sono un "enorme pericolo", avvertono gli esperti

      Il consiglio arriva con il ritmo sicuro di un medico. Riscaldare il cibo nella plastica ti dà il cancro, un cucchiaio di Coca-Cola mescolato con cipolla allevierà il tuo dolore e un integratore chiamato “Hyalethinap Plus Pro Max” sistemerà i tuoi capelli, unghie e articolazioni in un colpo solo. Il medico che lo consegna non esiste.

      Uno studio pubblicato questo mese da Hallam, un'agenzia di marketing digitale del Regno Unito, ha scoperto che i contenuti generati dall'IA apparivano nel 40% dei video sulla salute più visti su TikTok, salendo all'84% dei clip emersi dalle ricerche per “consigli sulla salute”. I ricercatori hanno analizzato 1.198 video, e i migliori video generati dall'IA avevano una media di 2,5 milioni di visualizzazioni ciascuno.

      I risultati arrivano su una piattaforma già densa di media sintetici. Quasi il 60% dei video che TikTok mostra ai nuovi utenti sono spazzatura generata dall'IA, ha scoperto uno studio separato all'inizio di quest'anno, e affermazioni dubbie che l'IA supera i medici hanno già sollevato avvertimenti sul fatto che i pazienti potrebbero essere fuorviati su larga scala.

      I medici citati nella ricerca sono stati chiari riguardo ai rischi. “Le piattaforme come TikTok devono fare di più per fermare l'aumento di pericolosi consigli medici falsi”, ha detto la Dr.ssa Emma Runswick, vicepresidente del consiglio della British Medical Association.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Il professor Frankie Swords, direttore medico nazionale dell'NHS England, ha detto che molti clinici “stanno segnalando un numero crescente di pazienti che si sentono preoccupati e confusi a causa di consigli falsi”.

      Alex Ruani, ricercatore di disinformazione sulla salute presso il University College London, è stato ancora più incisivo, descrivendo il fenomeno come “sfruttamento industrializzato della fiducia”.

      I video seguono un modello riconoscibile. Un avatar lucido, costruito con strumenti pronti all'uso, sincronizza il labiale di un copione che mescola consigli plausibili per il benessere con miti sfatati e una proposta per un prodotto che spesso non sembra esistere.

      Hallam non ha trovato traccia online di “Hyalethinap Plus Pro Max”, il rimedio anti-invecchiamento pubblicizzato in un clip ampiamente condiviso. Altri clip riciclano miti familiari sul cancro riguardo al riscaldamento del cibo nella plastica, deodoranti e dormire vicino a un telefono.

      Il modello è raramente accidentale. Molti degli account esistono per vendere qualcosa, sia un integratore di marca, un link affiliato o un abbonamento, e il camice bianco fabbricato è ciò che persuade. La lucidatura è il punto, così come la plausibilità.

      Questo non è il primo allarme. A febbraio, l'organizzazione no-profit Science Feedback ha identificato 18 di questi account in poche ore, diversi con centinaia di migliaia di follower e video che raggiungono 14 milioni di visualizzazioni.

      Gli avatar affermavano che la curcuma abbassa la glicemia alta e che il cacao crudo e la barbabietola “disostruiscono le arterie”, mentre promuovevano integratori non provati. Alcuni hanno clonato i volti di veri medici senza consenso, il tipo di falsificazione che ha generato una piccola industria nella rilevazione dei deepfake.

      La scala ha inquietato l'establishment medico su entrambi i lati dell'Atlantico. John Whyte, amministratore delegato dell'American Medical Association, ha avvertito a febbraio che i truffatori stavano clonando “i volti e le voci di veri medici accreditati” e ha chiesto che l'identità del medico fosse trattata come un bene professionale protetto.

      Ha notato che la madre di un medico era stata ingannata da un video fabbricato con sua figlia, una misura di quanto siano diventati convincenti i clip. Gli stessi strumenti che promettono guadagni nella sanità assistita dall'IA sono ora usati contro i pazienti che avrebbero dovuto servire.

      TikTok ha contestato la ricerca. Ha detto che i risultati provenivano “da un'agenzia di marketing con interessi commerciali” e non erano “una riflessione accurata della nostra piattaforma”, aggiungendo che rimuove la disinformazione sanitaria dannosa e collabora con l'Organizzazione Mondiale della Sanità e l'NHS.

      Le sue regole già vietano sia l'imitazione che i contenuti ingannevoli generati dall'IA, e l'indagine di Science Feedback ha notato che l'azienda rimuove proattivamente la maggior parte del materiale che viola le regole. Il divario è tra la politica e il feed.

      Gli strumenti di rilevamento stanno migliorando, ma l'economia va nella direzione opposta. Un'app video da sola genera circa 3 milioni di clip al mese, e gli account rimossi per imitazione sono stati visti riapparire entro un'ora. Il medico potrebbe non essere reale, ma la vendita dell'integratore sì.