Искусственные интеллектуальные ресепшенисты кажутся опасной идеей после того, как пациентка сообщила, что они не поняли её запрос.

      Ваш врач имеет AI-ресепшениста, и он действительно надеется, что вы будете говорить четко

      AI-ресепшенисты должны облегчить звонки к врачу. Но все большее количество пациентов обнаруживает, что это может быть не так – особенно когда машина испытывает трудности с тем, как они говорят, понимают инструкции или сообщают о своих потребностях.

      Недавний случай в Южном Йоркшире подчеркивает эту проблему. Джудит Баттерфилд, 71-летняя женщина, восстанавливающаяся после инсульта, рассказала BBC, что AI-ресепшенист, используемый в ее врачебной практике, неоднократно не понимал ее речь, когда она пыталась записаться на прием. Ее инсульт оставил ее речь фрагментированной и повлиял на движение правой стороны тела. После нескольких неудачных попыток она в конечном итоге зарегистрировалась в другой практике.

      С тех пор практика отключила систему. Но инцидент поднимает гораздо более серьезный вопрос: сколько в здравоохранении можно безопасно передать AI, который ожидает, что пациенты будут общаться так, как он понимает?

      Машина может справляться с очередью, но что происходит, когда пациент не вписывается в сценарий?

      AI-ресепшенист, известный как EMMA и разработанный QuantumLoopAI, был введен, чтобы помочь врачебным практикам справляться с телефонными запросами и сократить время ожидания. Healthwatch Rotherham с тех пор сообщила о жалобах от пациентов, которые испытывали трудности в общении с системой, включая людей с региональными акцентами и нарушениями речи.

      Опыт Баттерфилд показывает, почему небольшая техническая слабость может стать чем-то более серьезным в здравоохранении. Автоматизированная служба, как сообщается, просила ее не использовать громкую связь, хотя она сказала, что ей нужно держать телефон в одной руке, потому что другая рука была затронута инсультом. Когда система не смогла понять ее имя, не было человеческого инстинкта распознать, что что-то не так, и просто попросить ее повторить это по-другому.

      Проблема шире, чем одна система ресепшенистов. Healthwatch England собрала аналогичные сообщения от пациентов, сталкивающихся с AI при записи на прием, запросе медикаментов и общении о своих потребностях. Некоторые люди с нарушениями речи или обучением заявили, что автоматизированные системы не могли их понять, в то время как другие сообщали о проблемах с правильной обработкой их запросов.

      Здравоохранение не может позволить себе AI, который работает только для простых разговоров.

      AI действительно имеет очевидную привлекательность для перегруженных врачебных практик. Система, которая может немедленно отвечать на звонки, могла бы сократить очереди и освободить ресепшенистов для другой работы. QuantumLoopAI утверждает, что EMMA поддерживает несколько языков и акцентов и позволяет звонящим запрашивать человека в любое время. Компания также заявила, что практики могут настраивать приоритетный маршрут, чтобы определенные пациенты напрямую обращались к ресепшенистам.

      Но эта мера безопасности работает только в том случае, если пациенты знают о ее существовании и могут успешно ориентироваться в системе достаточно долго, чтобы ее использовать. Healthwatch предупредила, что люди с потребностями в общении, инвалидностью и низкой цифровой уверенностью могут быть особенно уязвимы к исключению из плохо спроектированной медицинской технологии. Проблема не в том, что AI иногда ошибается в слове. Дело в том, что человек на другом конце может пытаться получить доступ к здравоохранению в первую очередь.

      Поскольку врачебные практики продолжают экспериментировать с автоматизированным ресепшеном и триажем, урок из Южного Йоркшира трудно игнорировать: AI-ресепшенист должен облегчить доступ к человеку, а не стать еще одним препятствием между пациентом и заботой.