I sostenitori della salute nel Regno Unito avvertono che gli strumenti di trascrizione AI potrebbero mettere a rischio i pazienti

      Gli scribi AI stanno aiutando i medici a risparmiare tempo sulla burocrazia, ma nuove scoperte mostrano che le trascrizioni automatizzate possono introdurre gravi errori nei registri dei pazienti.

      Gli scribi AI stanno rapidamente entrando negli studi dei medici, promettendo di ridurre la noiosa burocrazia e liberare tempo per la cura dei pazienti. Tuttavia, prove crescenti suggeriscono che questi strumenti stanno introducendo un nuovo insieme di rischi sia per i pazienti che per i clinici.

      Gli scribi AI stanno distorcendo diagnosi e prescrizioni

      Un nuovo rapporto del The Guardian evidenzia come gli strumenti di trascrizione automatizzati stiano regolarmente rovinando i registri medici nel Regno Unito. I risultati di Healthwatch England, un gruppo indipendente di difesa dei consumatori per i pazienti nel sistema sanitario pubblico del Regno Unito, rivelano che i pazienti stanno scoprendo gravi errori di trascrizione che mettono a rischio la loro salute se non corretti.

      Heidi

      In un caso allarmante, uno strumento AI ha esaminato un riassunto di una risonanza magnetica e ha documentato che un paziente aveva demielinizzazione, una grave condizione nervosa legata alla sclerosi multipla. La scansione in realtà rivelava "nessuna demielinizzazione", il che significava che il problema non era presente. In altri casi segnalati, gli strumenti AI hanno confuso nomi di farmaci simili o omesso istruzioni critiche per le prescrizioni ripetute. I difensori dei pazienti avvertono che questi errori minacciano di distorcere permanentemente i registri medici, specialmente quando i clinici sovraccarichi approvano trascrizioni generate senza esaminare attentamente ogni riga.

      Un modello globale senza alcuna protezione di sicurezza

      Questo problema si estende ben oltre gli incidenti segnalati nel Regno Unito. Solo il mese scorso, le autorità sanitarie australiane hanno emesso un avviso simile, consigliando ai medici di non fare affidamento eccessivo su software di trascrizione AI non verificati, citando gravi lacune nella privacy insieme a rischi per la sicurezza clinica. In entrambe le regioni, i medici stanno gestendo dozzine di strumenti AI non regolamentati che occasionalmente "hallucinate" intere conversazioni, arrivando ad aggiungere farmaci psichiatrici non menzionati come il Prozac nei registri dei pazienti.

      Il problema negli Stati Uniti è ulteriormente aggravato dai regolatori che scelgono di non classificare gli scribi AI come dispositivi medici. Ciò lascia i sistemi sanitari senza alcun controllo centrale per verificare che uno strumento sia effettivamente accurato prima di essere messo in uso. Invece di risparmiare tempo, questi assistenti AI difettosi costringono i clinici a ricontrollare ogni trascrizione per invenzioni, sconfiggendo effettivamente lo scopo di adottarli in primo luogo.

      Pranob è un giornalista tecnologico esperto con oltre otto anni di esperienza nella copertura della tecnologia per i consumatori. Il suo lavoro è stato…

      Perché la prossima generazione di AI domestica ha ruote e un cuore

      OlloBot sposta la tecnologia dal bancone alla vita quotidiana con un nuovo compagno espressivo

      Negli ultimi dieci anni, interagire con l'intelligenza artificiale domestica ha seguito un modello prevedibile e rigido. Una persona dice una parola di attivazione, chiede il meteo o di spegnere le luci, l'altoparlante risponde e poi lo scambio finisce lì. Sebbene sia funzionale, questo mantiene i dispositivi intelligenti rigorosamente transazionali. Rimangono strumenti attivati per un compito specifico piuttosto che sistemi che si integrano naturalmente in uno spazio abitativo. OlloBot sta tracciando un percorso fondamentalmente diverso con l'OlloNi SS1, un compagno AI incarnato, che si riferisce all'intelligenza artificiale integrata in un corpo fisico e mobile piuttosto che intrappolata all'interno di uno schermo.

      Leggi di più

      L'AI vuole trasformare un semplice video telefonico in dati sulle prestazioni ciclistiche per cui i ciclisti seri pagano migliaia

      I costosi dati sulle prestazioni del ciclismo potrebbero eventualmente provenire dalla fotocamera del tuo telefono

      Il ciclismo non è un hobby costoso di per sé. Ma man mano che inizi a prendere sul serio, un ciclista può spendere una somma francamente esorbitante per misurare ciò che le sue gambe stanno facendo. In un contesto più professionale, cose come pedali strumentati, computer da bicicletta, sensori di frequenza cardiaca e molto altro iniziano a diventare importanti. Tutto ciò aiuta semplicemente a estrarre più informazioni da ogni corsa. Ora, i ricercatori dell'Università di La Trobe (via TechXplore) stanno esplorando se un pezzo di hardware che la maggior parte delle persone possiede già potrebbe eventualmente gestire una parte sorprendentemente sofisticata di quel lavoro. Non si tratta nemmeno di hardware specializzato; è un piccolo gadget che si adatta nella tua tasca--e sì, è il tuo telefono. I ricercatori del Holsworth Biomedical Research Centre stanno sviluppando modelli AI in grado di stimare le forze che un ciclista applica ai pedali utilizzando il movimento catturato in video. Un ciclista può semplicemente registrarsi con uno smartphone e ricevere informazioni biomeccaniche che attualmente richiedono attrezzature molto più specializzate.

      Leggi di più

      L'Internet Archive ha appena reso giocabili decenni di AI vintage nel tuo browser, ed è affascinante

      Prima dei modelli di linguaggio di grandi dimensioni, un'intera generazione di software per computer domestici stava già simulando l'esperienza di parlare con qualcosa di vivo.

      L'Internet Archive ha l'abitudine di preservare cose uniche, quelle a cui nessun altro ha pensato, e la sua nuova collezione è il miglior esempio finora. Direi che è una collezione che ogni storico dell'AI dovrebbe salvare tra i segnalibri. Curata sotto il titolo "Intelligenza Artificiale Vintage", la collezione contiene decenni di software che hanno cercato di convincere le persone che stavano parlando con una macchina pensante (anche se con successi molto variabili).

      Leggi di più