Los recepcionistas de IA parecen una idea peligrosa después de que una paciente revelara que el sistema de su médico no podía entender su discurso.

      Una consulta médica en South Yorkshire ha retirado a un recepcionista de IA después de que una mujer en recuperación de un derrame cerebral no pudo hacer que la entendiera y se trasladó a otra práctica. El Estándar de Información Accesible del NHS ha requerido que las prácticas identifiquen y satisfagan las necesidades de comunicación de los pacientes desde 2016.

      Una mujer en recuperación de un derrame cerebral no pudo hacer que el recepcionista de IA de su médico la entendiera. Después de varios intentos de reservar una cita, se registró en una práctica diferente, y la consulta ha retirado desde entonces el sistema.

      Los detalles son importantes. Su derrame cerebral había dejado su habla fragmentada y afectó su lado derecho, y el servicio automatizado le pidió que no usara el altavoz, que necesitaba porque solo podía sostener el auricular con una mano.

      No fue una sola llamada fallida. Healthwatch Rotherham descubrió que el sistema, un recepcionista de IA llamado Emma, “no responde bien a variaciones en el habla, como acentos regionales o aquellos con impedimentos del habla.”

      Otros pacientes describieron haber desistido. “Nunca pude hacer que me entendiera, al final colgaba y no me molestaba en intentar reservar una cita,” le dijo uno al organismo de control, mientras que otros viajaron a la consulta en persona en su lugar.

      Su desarrollador lo ve de manera diferente. QuantumLoopAI dice que Emma está entrenada en una amplia gama de acentos y dialectos, soporta 17 idiomas, permite a los llamantes pedir un miembro del personal en cualquier momento, y que más del 90% de los pacientes informan una mejora.

      La dirección nacional no es alejarse de esto. La aplicación del NHS utilizará IA para clasificar a los pacientes como parte de una renovación tecnológica de £10 mil millones.

      La respuesta de gobernanza hasta ahora es local. La junta de atención integrada de South Yorkshire dice que está trabajando con Healthwatch en directrices y describe la adopción de estos sistemas como una decisión individual de cada práctica médica.

      Lo que viene es más capaz, no menos. Un proveedor británico está construyendo un modelo de triaje para el NHS con Nvidia, diseñado para determinar lo que un paciente necesita antes de que un clínico lo vea.

      Ya existe un estándar para esto. El Estándar de Información Accesible obliga a las prácticas médicas a identificar, registrar, señalar y satisfacer las necesidades de comunicación de los pacientes, y lo ha hecho desde 2016.

      Europa clasifica la tecnología en sí. La Ley de IA de la UE coloca el triaje de pacientes de atención médica de emergencia en su categoría de alto riesgo, lo que implica pruebas, registro y deberes de supervisión humana que una línea de reservas no tiene.

      Gran Bretaña tiene el estándar sin la clasificación. Lo que tiene hoy es una práctica que desconectó la máquina, después de que una mujer en recuperación de un derrame cerebral se rindió y fue a otro lugar.