Los recepcionistas de IA parecen una idea peligrosa después de que una paciente revelara que no entendió su solicitud.

      Tu médico de cabecera tiene un recepcionista de IA, y realmente espera que hables claramente

      Los recepcionistas de IA se supone que facilitan la llamada al médico. Pero un número creciente de pacientes está descubriendo que lo contrario puede ser cierto, especialmente cuando una máquina tiene dificultades con la forma en que hablan, entienden las instrucciones o comunican sus necesidades.

      Un caso reciente en South Yorkshire pone este problema en un enfoque agudo. Judith Butterfield, una mujer de 71 años que se recupera de un derrame cerebral, le dijo a la BBC que un recepcionista de IA utilizado por su consultorio médico no entendía repetidamente su discurso cuando intentaba concertar una cita. Su derrame cerebral había dejado su habla fragmentada y afectó el movimiento en el lado derecho de su cuerpo. Después de varios intentos fallidos, finalmente se registró en otra práctica.

      Desde entonces, la consulta ha desactivado el sistema. Pero el incidente plantea una pregunta mucho más grande: ¿cuánto de la atención médica se puede entregar de manera segura a una IA que espera que los pacientes se comuniquen de una manera que entiende?

      Una máquina puede manejar la cola, pero ¿qué sucede cuando un paciente no se ajusta al guion?

      El recepcionista de IA, conocido como EMMA y desarrollado por QuantumLoopAI, se introdujo para ayudar a las prácticas de médicos de cabecera a manejar la demanda telefónica y reducir los tiempos de espera. Healthwatch Rotherham ha informado desde entonces sobre quejas de pacientes que lucharon por comunicarse con el sistema, incluidos personas con acentos regionales y discapacidades del habla.

      La experiencia de Butterfield muestra por qué una pequeña debilidad técnica puede convertirse en algo más serio en la atención médica. El servicio automatizado supuestamente le pidió que no usara el altavoz, sin embargo, ella dijo que necesitaba sostener el teléfono con una mano porque su otra mano había sido afectada por su derrame. Cuando el sistema no pudo entender su nombre, no hubo un instinto humano para reconocer que algo estaba mal y simplemente pedirle que lo repitiera de manera diferente.

      El problema es más amplio que un solo sistema de recepcionista. Healthwatch England ha recopilado relatos similares de pacientes que se encontraron con IA al reservar citas, solicitar medicamentos y comunicar sus necesidades. Algunas personas con dificultades del habla o de aprendizaje dijeron que los sistemas automatizados no podían entenderlas, mientras que otros informaron problemas para que sus solicitudes fueran manejadas correctamente.

      La atención médica no puede permitirse una IA que solo funcione para conversaciones fáciles.

      La IA tiene un atractivo obvio para las prácticas de médicos de cabecera sobrecargadas. Un sistema que puede responder llamadas de inmediato podría reducir las colas y liberar al personal de recepción para otros trabajos. QuantumLoopAI dice que EMMA admite múltiples idiomas y acentos y permite a los llamantes solicitar un humano en cualquier momento. La empresa también dijo que las prácticas pueden configurar el enrutamiento prioritario para que ciertos pacientes vayan directamente al personal de recepción.

      Pero esa salvaguarda solo funciona si los pacientes saben que existe y pueden navegar con éxito por el sistema el tiempo suficiente para usarlo. Healthwatch ha advertido que las personas con necesidades de comunicación, discapacidades y menor confianza digital pueden ser particularmente vulnerables a ser excluidas por una tecnología de atención médica mal diseñada. El problema no es que la IA ocasionalmente se equivoque en una palabra. Es que la persona al otro lado puede estar intentando acceder a la atención médica en primer lugar.

      A medida que las prácticas de médicos de cabecera continúan experimentando con la recepción y el triaje automatizados, la lección de South Yorkshire es difícil de ignorar: un recepcionista de IA debería facilitar el acceso a un humano, no convertirse en otro obstáculo entre un paciente y la atención.