Los escribas de IA están confundiendo los nombres de los medicamentos y los diagnósticos en los registros del NHS.

      Un paciente en Inglaterra fue informado de que tenía desmielinización, el daño nervioso que subyace a condiciones como la esclerosis múltiple. El resultado de la prueba en realidad había leído “desmielinización nula”, y un escriba de IA había omitido la palabra que revertía el significado.

      Ese caso aparece en una advertencia de Healthwatch England, el organismo regulador de pacientes, reportada hoy por el Guardian. Su hallazgo es que las herramientas que ahora transcriben consultas para médicos de cabecera y médicos de hospitales están confundiendo nombres de medicamentos y diagnósticos, y que a menudo son los pacientes quienes lo notan.

      Veintisiete diferentes escribas de IA están en uso en el servicio de salud en Inglaterra. Se sientan en la sala de consultas, escuchan y producen la nota que va al registro y la carta que va al paciente.

      Los errores recopilados por el organismo regulador son mundanos en forma y serios en efecto. Un escriba intercambió un medicamento recetado por otro diferente con un nombre similar, el tipo de confusión que la farmacología se esfuerza considerablemente por eliminar.

      Otro resumen omitió la instrucción de un consultor de que el paciente debía solicitar una receta repetida para el medicamento contra la migraña. Un tercero registró a un médico diciéndole a un paciente que continuara con su Prozac, cuando ese médico no lo había recetado ni discutido.

      El hilo común es que nada parecía roto. Una nota fluida y plausible es exactamente lo que estos sistemas producen, razón por la cual un error sobrevive la mirada que un clínico ocupado le da antes de firmar.

      “Estas inexactitudes pueden persistir en sus registros si el paciente no las detecta”, advirtió el organismo regulador. Eso coloca la última línea de defensa en la persona menos equipada para saber lo que la nota debería haber dicho.

      Rachel Power, directora ejecutiva de la Asociación de Pacientes, está entre quienes expresan preocupaciones, junto a clínicos como el médico de cabecera de Londres Shier Ziser Dawood y Charlotte Blease de la Universidad de Uppsala en Suecia. La objeción no es tanto a la tecnología como a su llegada sin una red de seguridad.

      Porque no hay una supervisión a nivel de Inglaterra de estas herramientas. La Agencia Reguladora de Medicamentos y Productos de Salud no ha clasificado a los escribas de IA como dispositivos médicos, lo que los deja fuera del régimen que los probaría por seguridad y efectividad antes de su implementación.

      El regulador publicó una guía en agosto aclarando dónde se sitúa la línea. Un sistema que solo transcribe lo que se dijo no es un dispositivo, mientras que uno que sugiere un diagnóstico o un tratamiento podría serlo, lo que pone un gran peso en cómo cada producto es descrito por su vendedor.

      El incentivo que sigue es lo suficientemente obvio. Un escriba comercializado como un transcriptor pasivo evita un proceso regulatorio que un escriba comercializado como asistente clínico tendría que completar.

      El error de transcripción también es un fallo diferente del que la mayoría del trabajo de seguridad de IA anticipa. Nadie aquí fue engañado por un hecho alucinado; una oración real fue expresada ligeramente incorrecta, y ligeramente incorrecta es suficiente cuando la oración nombra un medicamento.

      Nada de esto aborda por qué estas herramientas se difunden tan rápidamente. La documentación clínica es la carga administrativa de la que los médicos se quejan más, y un sistema que elimina de manera confiable una hora de escritura al día será adoptado, ya sea que alguien lo haya evaluado o no.

      El problema es lo que sucede entre esos dos hechos. Una herramienta adoptada por su velocidad, no evaluada debido a cómo se categoriza, produciendo un documento que se convierte en el registro clínico permanente, es una cadena en la que ningún eslabón es claramente responsabilidad de nadie.

      El remedio que señala el organismo regulador es poco glamuroso y probablemente correcto. Los pacientes deberían ser informados cuando se utiliza un escriba y recibir sus notas para verificar, lo que convierte un mecanismo de seguridad accidental en uno deliberado.

      Veintisiete productos, ninguna clasificación de dispositivo y un chequeo realizado por quien sea que lea su carta con atención: esa es la disposición actual en el NHS en Inglaterra.