Los defensores de la salud en el Reino Unido advierten que las herramientas de transcripción de IA podrían poner en riesgo a los pacientes.

      Los escribas de IA están ayudando a los médicos a ahorrar tiempo en la burocracia, pero nuevos hallazgos muestran que las transcripciones automatizadas pueden introducir errores graves en los registros de los pacientes.

      Los escribas de IA están distorsionando diagnósticos y recetas

      Un nuevo informe de The Guardian destaca cómo las herramientas de transcripción automatizada están estropeando rutinariamente los registros médicos en el Reino Unido. Los hallazgos de Healthwatch England, un grupo de defensa del consumidor independiente para pacientes en el sistema de salud pública del Reino Unido, revelan que los pacientes están detectando errores graves de transcripción que ponen en peligro su salud si no se corrigen.

      Heidi

      En un caso alarmante, una herramienta de IA revisó un resumen de una resonancia magnética y documentó que un paciente tenía desmielinización, una grave condición nerviosa vinculada a la esclerosis múltiple. La exploración en realidad reveló "desmielinización nula", lo que significa que el problema no estaba presente. En otros casos reportados, las herramientas de IA confundieron nombres de medicamentos similares u omitieron instrucciones críticas para recetas repetidas. Los defensores de los pacientes advierten que estos errores amenazan con distorsionar permanentemente los registros médicos, especialmente cuando los clínicos sobrecargados firman las transcripciones generadas sin revisar cuidadosamente cada línea.

      Un patrón global sin salvaguardias de seguridad

      Este problema se extiende mucho más allá de los incidentes reportados en el Reino Unido. El mes pasado, las autoridades de salud australianas emitieron una advertencia similar, aconsejando a los médicos que no confíen demasiado en el software de transcripción de IA no verificado, citando graves brechas de privacidad junto con peligros para la seguridad clínica. En ambas regiones, los médicos están lidiando con docenas de herramientas de IA no reguladas que ocasionalmente alucinan conversaciones enteras, llegando incluso a añadir medicamentos psiquiátricos no mencionados como Prozac en los registros de los pacientes.

      El problema en EE. UU. se ve agravado por la decisión de los reguladores de no clasificar a los escribas de IA como dispositivos médicos. Eso deja a los sistemas de salud sin ninguna supervisión central para verificar que una herramienta sea realmente precisa antes de que se active. En lugar de ahorrar tiempo, estos asistentes de IA defectuosos están obligando a los clínicos a verificar cada transcripción en busca de fabricaciones, lo que efectivamente derrota el propósito de adoptarlos en primer lugar.

      Pranob es un periodista tecnológico experimentado con más de ocho años de experiencia cubriendo tecnología de consumo. Su trabajo ha sido…

      Por qué la próxima generación de IA doméstica tiene ruedas y un corazón

      OlloBot lleva la tecnología fuera del mostrador y a la vida diaria con un nuevo compañero expresivo

      Durante la última década, interactuar con la inteligencia artificial doméstica ha seguido un patrón predecible y rígido. Una persona dice una palabra de activación, pregunta por el clima o para apagar las luces, el altavoz responde y luego el intercambio termina ahí. Si bien es funcional, esto mantiene a los dispositivos inteligentes estrictamente transaccionales. Siguen siendo herramientas activadas para una tarea específica en lugar de sistemas que se integran naturalmente en un espacio vital. OlloBot está trazando un camino fundamentalmente diferente con el OlloNi SS1, un compañero de IA encarnado, que se refiere a la inteligencia artificial incorporada en un cuerpo físico y móvil en lugar de atrapada dentro de una pantalla.

      Leer más

      La IA quiere convertir un simple video de teléfono en datos de rendimiento ciclista por los que los ciclistas serios pagan miles

      Los costosos datos de rendimiento del ciclismo podrían eventualmente provenir de la cámara de tu teléfono

      El ciclismo no es un pasatiempo caro por sí mismo. Pero a medida que comienzas a tomártelo en serio, un ciclista puede gastar una cantidad francamente exorbitante de dinero midiendo lo que sus piernas están haciendo. En un entorno más profesional, cosas como pedales instrumentados, computadoras de bicicleta, sensores de frecuencia cardíaca y mucho más comienzan a volverse importantes. Todo esto solo ayuda a extraer más información de cada paseo. Ahora, investigadores de la Universidad La Trobe (a través de TechXplore) están explorando si un dispositivo de hardware que la mayoría de las personas ya posee podría eventualmente manejar una parte sorprendentemente sofisticada de ese trabajo. Este no es un hardware especializado; es un pequeño gadget que cabe en tu bolsillo, y sí, es tu teléfono. Los investigadores del Centro de Investigación Biomédica Holsworth están desarrollando modelos de IA capaces de estimar las fuerzas que un ciclista aplica a los pedales utilizando el movimiento capturado en video. Un ciclista puede simplemente grabarse con un teléfono inteligente y recibir información biomecánica que actualmente requiere un equipo mucho más especializado.

      Leer más

      La Internet Archive acaba de hacer que décadas de IA vintage sean jugables en tu navegador, y es fascinante

      Antes de los grandes modelos de lenguaje, toda una generación de software de computadoras domésticas ya estaba simulando la experiencia de hablar con algo vivo.

      La Internet Archive tiene la costumbre de preservar cosas únicas, aquellas en las que nadie más pensó, y su nueva colección es el mejor ejemplo hasta ahora. Diría que es una que cada historiador de IA debería marcar. Curada bajo el título "Inteligencia Artificial Vintage", la colección contiene décadas de software que intentó convencer a las personas de que estaban hablando con una máquina pensante (aunque con un éxito muy variable).

      Leer más