El piloto de prescripción de IA de Utah alarma a su junta médica

      TL;DR Utah se ha convertido en el primer estado de EE. UU. en permitir que un chatbot de IA, Doctronic, renueve recetas sin un médico, a través de un "sandbox" regulatorio que exime las leyes de licencias. La junta de licencias médicas del estado, sorprendida por el lanzamiento de enero, pidió en abril que se detuviera el piloto debido a riesgos de seguridad, pero el estado se negó. El caso expone un vacío regulatorio federal-estatal en torno a la IA en la medicina. Utah se ha convertido silenciosamente en el primer estado de EE. UU. en permitir que un chatbot de IA renueve recetas sin un médico, según la Associated Press. El programa, dirigido por una empresa llamada Doctronic, se lanzó en enero y ha desatado un feroz debate médico. Los residentes pueden omitir la consulta médica y renovar recetas en línea a través del chatbot. Este pregunta sobre su medicación e historial, verifica una base de datos nacional de farmacias y renueva la receta o la eleva a un médico humano. El lanzamiento fue posible solo a través de un "sandbox regulatorio" que permite a los funcionarios de Utah eximir leyes para la IA prometedora. Las reglas estatales y federales, de otro modo, restringen la prescripción a profesionales médicos con licencia. “Hemos cruzado un umbral en términos de dar algo que no es humano una licencia médica, ya sea que queramos llamarlo así o no”, dijo el Dr. Eric Bressman de la Universidad de Pensilvania a la AP. Él y otros dicen que no se oponen a la prescripción de IA, pero quieren que se mantenga a estándares tan rigurosos como los de los médicos humanos. La junta que quedó fuera La junta de licencias médicas de Utah dice que solo se enteró del programa cuando el lanzamiento de enero hizo noticia. En una carta de abril, 11 miembros pidieron que se detuviera el piloto, citando los riesgos de la renovación automática de medicamentos con efectos secundarios o interacciones. “Esencialmente nos dijeron: ‘Sí, esto está sucediendo. Y no, no tienes voz en ello’”, dijo el Dr. Alan Smith, un médico de familia que preside la junta pero habló por sí mismo. El estado se negó a suspenderlo, señalando que los médicos humanos aún revisan cada renovación en esta primera fase. El programa está actualmente supervisado por una junta de cinco miembros de especialistas en IA, ninguno de ellos médicos. Doctronic espera pasar a renovaciones totalmente automatizadas pronto. Smith advierte que los riesgos son reales, señalando que los aproximadamente 190 medicamentos renovables de Doctronic incluyen anticoagulantes, que se vuelven peligrosos si un paciente desarrolla hemorragias internas. La Asociación Médica Americana ha reiterado la preocupación de que “las renovaciones de recetas no son casillas de verificación rutinarias”. Un vacío regulatorio por diseño El caso expone un enredo jurisdiccional, ya que la tecnología médica está regulada a nivel federal mientras que los profesionales médicos son supervisados por los estados. Doctronic enmarca su IA como parte de la práctica médica regulada por el estado, aunque algunos expertos argumentan que ha cruzado al territorio de la FDA. La empresa no quiso decir si ha solicitado permiso a la FDA. La agencia dijo a la AP que no ha autorizado chatbots de IA, pero quiere fomentar la innovación, una postura de no intervención que se ajusta a un aflojamiento más amplio de la supervisión sobre las herramientas de salud de IA. Los críticos ven una rima histórica, con Bressman comparando el momento con la medicina desorganizada de principios del siglo XX, antes de que existieran juntas y estándares. El modelo para licenciar servicios médicos de IA en otros estados proviene del Cicero Institute, un grupo de expertos pro-IA fundado por Joe Lonsdale, cofundador de Palantir. Los riesgos no son abstractos, ya que los investigadores de seguridad han advertido que los chatbots médicos pueden sonar autoritarios mientras dispensan consejos peligrosos. Otros advierten que eliminar a los humanos del cuidado puede socavar los mismos resultados que promete. Los rivales también se apresuran a mapear esos modos de falla. Meta llegó a hacerse pasar por adolescentes para probar cómo los chatbots competidores manejan temas sensibles. Doctronic planea estudios revisados por pares más adelante este año, aunque su único artículo publicado hasta ahora fue escrito por sus propios científicos y no revisado de manera independiente. Como lo expresó un profesor de derecho de Utah, las empresas corren el riesgo de dejar que la tecnología avance más allá de la evidencia, traicionando la confianza pública en el proceso.