I receptionist AI sembrano un'idea pericolosa dopo che un paziente ha rivelato che non è riuscito a comprendere la sua richiesta.

      Il tuo medico di base ha un receptionist AI, e spera davvero che tu parli chiaramente

      I receptionist AI dovrebbero rendere più facile chiamare il medico. Ma un numero crescente di pazienti scopre che il contrario può essere vero, in particolare quando una macchina fatica a comprendere il modo in cui parlano, a capire le istruzioni o a comunicare le loro esigenze.

      Un caso recente nello South Yorkshire mette a fuoco questo problema. Judith Butterfield, una donna di 71 anni in fase di recupero da un ictus, ha detto alla BBC che un receptionist AI utilizzato dal suo studio medico non riusciva ripetutamente a comprendere il suo discorso quando cercava di prenotare un appuntamento. Il suo ictus le aveva lasciato il linguaggio frammentato e aveva influenzato il movimento sul lato destro del suo corpo. Dopo diversi tentativi infruttuosi, alla fine si è registrata presso un'altra pratica.

      Lo studio ha da allora disattivato il sistema. Ma l'incidente solleva una questione molto più grande: quanto della sanità può essere affidato in sicurezza a un'AI che si aspetta che i pazienti comunichino in un modo che comprende?

      Una macchina può gestire la coda, ma cosa succede quando un paziente non si adatta allo script?

      Il receptionist AI, noto come EMMA e sviluppato da QuantumLoopAI, è stato introdotto per aiutare le pratiche mediche a gestire la domanda telefonica e ridurre i tempi di attesa. Healthwatch Rotherham ha da allora riportato lamentele da parte di pazienti che hanno faticato a comunicare con il sistema, inclusi persone con accenti regionali e difficoltà nel linguaggio.

      L'esperienza di Butterfield mostra perché una piccola debolezza tecnica può diventare qualcosa di più serio nella sanità. Il servizio automatizzato le ha chiesto di non usare il vivavoce, ma lei ha detto di aver bisogno di tenere il telefono in una mano perché l'altra mano era stata colpita dal suo ictus. Quando il sistema non è riuscito a capire il suo nome, non c'era l'istinto umano di riconoscere che qualcosa non andava e semplicemente chiederle di ripeterlo in modo diverso.

      L'argomento è più ampio di un singolo sistema di receptionist. Healthwatch England ha raccolto racconti simili da pazienti che hanno incontrato l'AI durante la prenotazione di appuntamenti, la richiesta di farmaci e la comunicazione delle loro esigenze. Alcune persone con difficoltà nel linguaggio o di apprendimento hanno detto che i sistemi automatizzati non riuscivano a comprenderle, mentre altri hanno segnalato problemi nel far gestire correttamente le loro richieste.

      La sanità non può permettersi un'AI che funziona solo per conversazioni semplici.

      L'AI ha un evidente fascino per le pratiche mediche sovraccariche. Un sistema che può rispondere immediatamente alle chiamate potrebbe ridurre le code e liberare il personale di reception per altri lavori. QuantumLoopAI afferma che EMMA supporta più lingue e accenti e consente ai chiamanti di richiedere un umano in qualsiasi momento. L'azienda ha anche detto che le pratiche possono configurare il routing prioritario in modo che alcuni pazienti vadano direttamente al personale di reception.

      Ma quella salvaguardia funziona solo se i pazienti sanno che esiste e possono navigare con successo nel sistema abbastanza a lungo da usarlo. Healthwatch ha avvertito che le persone con esigenze comunicative, disabilità e una minore fiducia digitale possono essere particolarmente vulnerabili all'esclusione da una tecnologia sanitaria mal progettata. Il problema non è che l'AI occasionalmente sbagli una parola. È che la persona dall'altra parte potrebbe cercare di accedere alla sanità in primo luogo.

      Mentre le pratiche mediche continuano a sperimentare con la reception automatizzata e il triage, la lezione del South Yorkshire è difficile da ignorare: un receptionist AI dovrebbe rendere più facile raggiungere un umano, non diventare un altro ostacolo tra un paziente e le cure.