La IA médica reemplazó a las enfermeras y eludió sus propios controles.

      La propuesta para la IA médica es que libera a los clínicos para cuidar de los pacientes. Dos historias esta semana sugieren que la realidad puede ir en la dirección opuesta. En Nueva York, las enfermeras dicen que el software las reemplazó. En Minnesota, un exlíder de la Clínica Mayo dice que el software no era seguro para confiar.

      Marilyn Shuler pasó 39 años leyendo los historiales de pacientes en el hospital Montefiore en el Bronx. Este mes fue una de una docena de enfermeras despedidas, reemplazadas por un software de IA que realiza parte del mismo trabajo, dice su sindicato.

      Las enfermeras manejaban la revisión de utilización. Leían historiales y discutían con las aseguradoras sobre qué cuidados estaban cubiertos. La Asociación de Enfermeras del Estado de Nueva York dice que los despidos rompieron un contrato que las enfermeras acababan de ganar a través de una huelga, informó el Guardian.

      “También debería preocupar a cada profesional y paciente que se preocupe por… la calidad de la atención que reciben”, dijo Shaiju Kalathil, una enfermera de Montefiore y representante del sindicato. Montefiore disputa el relato. Llama a las afirmaciones del sindicato “inexactas y engañosas”, y dice que el cambio implica un programa de papeleo no clínico.

      Lo que vio el informante

      Si Nueva York se trata de empleos, Minnesota se trata de confianza. Y es más alarmante. El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora!

      Traci Tamiko Eto se unió a la Clínica Mayo en 2023 para ayudar a construir salvaguardias en torno a su IA. En una nueva demanda, dice que el hospital la degradó y luego la despidió por alertar sobre el despliegue de su IA, informó Minnesota Public Radio.

      Sus afirmaciones son específicas. El equipo detrás de un asistente de IA llamado MAYA, alega, eliminó resultados de pruebas poco halagadores, exageró lo que la herramienta podía hacer y la impulsó sin la supervisión adecuada. En un momento, dice la demanda, la herramienta tenía una tasa de error de hasta el 67%.

      Mayo dice que está comprometido con una IA responsable, con privacidad, seguridad y cumplimiento integrados en su trabajo. El relato de Eto, si se sostiene en la corte, describe algo diferente. Describe un sistema apresurado que pasó por alto los controles destinados a detectar sus errores.

      La brecha entre la promesa y la práctica

      Estos son dos casos, no una tendencia. Pero se sitúan a ambos lados de la misma línea de falla.

      La atención médica es donde se supone que los beneficios de la IA son más claros, y donde sus fracasos son menos perdonables. Un anuncio mal hecho es embarazoso. Un historial mal hecho es peligroso.

      El registro más amplio ya es inquietante. Utah ha permitido que una IA renueve recetas sin un médico. La investigación sigue encontrando que depender de la IA puede erosionar silenciosamente las habilidades que los profesionales deben mantener, y que está acortando carreras experimentadas. Empleadores desde Allianz hasta Thomson Reuters ya están intercambiando personal por modelos.

      Quién asume el riesgo

      El hilo común es quién termina asumiendo el riesgo. Montefiore se queda con los ahorros; el paciente hereda lo que el software pasa por alto. Mayo obtiene la eficiencia; el informante, dice, fue despedido.

      Ninguno de los casos ha sido probado en la corte, y ambos hospitales defienden su historial. Pero juntos pinchan la historia ordenada de que la IA médica solo agrega una mano amiga. A veces, quita una. Y a veces, la persona que entendía mejor la máquina es la primera en ser despedida.