Сгенерированные ИИ «врачи», продающие поддельные лекарства на TikTok, представляют собой «огромную опасность», предупреждают эксперты

      Советы приходят с уверенной интонацией врача. Разогревание пищи в пластике вызывает рак, ложка Coca-Cola, смешанная с луком, облегчит вашу боль, а добавка под названием «Hyalethinap Plus Pro Max» исправит ваши волосы, ногти и суставы за один раз. Врач, который это сообщает, не существует.

      Исследование, опубликованное в этом месяце агентством Hallam, цифровым маркетинговым агентством из Великобритании, показало, что контент, созданный ИИ, появился в 40% самых просматриваемых медицинских видео на TikTok, увеличившись до 84% клипов, найденных по запросам «советы по здоровью». Исследователи проанализировали 1198 видео, и лучшие из них, созданные ИИ, в среднем набрали по 2,5 миллиона просмотров.

      Результаты появляются на платформе, уже насыщенной синтетическими медиа. Почти 60% видео, которые TikTok показывает новым пользователям, являются «ИП-ерундой», как показало отдельное исследование, проведенное ранее в этом году, и сомнительные утверждения о том, что ИИ превосходит врачей, уже вызвали предупреждения о том, что пациенты могут быть введены в заблуждение в массовом масштабе.

      Врачи, упомянутые в исследовании, прямо говорили о рисках. «Платформы, такие как TikTok, должны сделать больше, чтобы остановить рост опасных фальшивых медицинских советов», — сказала доктор Эмма Рансуик, заместитель председателя совета Британской медицинской ассоциации.

      💜 технологий ЕС Последние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Профессор Фрэнки Свордс, национальный медицинский директор NHS England, сказал, что многие клиницисты «сообщают о растущем числе пациентов, которые чувствуют беспокойство и замешательство из-за ложных советов».

      Алекс Руани, исследователь дезинформации в области здравоохранения из Университетского колледжа Лондона, был еще резче, описывая явление как «индустриализированное использование доверия».

      Видео следуют узнаваемому шаблону. Полированный аватар, созданный с помощью готовых инструментов, синхронизирует губы с текстом, который сочетает правдоподобные советы по здоровью с опровергнутыми мифами и рекламой продукта, который часто, похоже, не существует.

      Hallam не нашел онлайн-упоминаний о «Hyalethinap Plus Pro Max», антивозрастном средстве, рекламируемом в одном широко распространенном клипе. Другие клипы перерабатывают знакомые мифы о раке, связанные с разогреванием пищи в пластике, дезодорантами и сном рядом с телефоном.

      Этот шаблон редко бывает случайным. Многие аккаунты существуют для продажи чего-то, будь то брендированная добавка, партнерская ссылка или подписка, а сфабрикованный белый халат — это то, что убеждает. Полировка — это цель, и правдоподобие тоже.

      Это не первая тревога. В феврале некоммерческая организация Science Feedback выявила 18 таких аккаунтов всего за несколько часов, несколько из которых имели сотни тысяч подписчиков и видео, набравшие 14 миллионов просмотров.

      Аватары утверждали, что куркума снижает высокий уровень сахара в крови и что сырой какао и свекла «разблокируют ваши артерии», продвигая непроверенные добавки. Некоторые клонировали лица реальных врачей без согласия, что породило небольшую индустрию по обнаружению дипфейков.

      Масштаб обеспокоил медицинское сообщество с обеих сторон Атлантики. Джон Уайт, генеральный директор Американской медицинской ассоциации, предупредил в феврале, что мошенники клонируют «лица и голоса реальных, аккредитованных врачей» и призвал рассматривать личность врача как защищаемый профессиональный актив.

      Он отметил, что мать одного врача попалась на уловку с поддельным видео с участием ее дочери, что является показателем того, насколько убедительными стали клипы. Те же инструменты, которые обещают преимущества в ИИ-поддерживаемом здравоохранении, теперь обращаются против пациентов, которым они предназначались.

      TikTok оспорил исследование. Он заявил, что результаты пришли «от маркетингового агентства с коммерческими интересами» и «не являются точным отражением нашей платформы», добавив, что удаляет вредную дезинформацию о здоровье и сотрудничает с Всемирной организацией здравоохранения и NHS.

      Его правила уже запрещают как подделку, так и вводящий в заблуждение контент, созданный ИИ, и расследование Science Feedback отметило, что компания проактивно удаляет большинство нарушающих материалов. Проблема заключается в разрыве между политикой и лентой.

      Инструменты обнаружения улучшаются, но экономика работает в обратном направлении. Один видеоприложение, по сообщениям, генерирует около 3 миллионов клипов в месяц, а аккаунты, удаленные за подделку, были замечены вновь появляющимися в течение часа. Доктор может быть не настоящим, но продажа добавок — это реальность.