Il progetto pilota di prescrizione AI dello Utah allarma il suo consiglio medico

      TL;DRUtah è diventato il primo stato degli Stati Uniti a consentire a un chatbot AI, Doctronic, di rinnovare le prescrizioni senza un medico, tramite un "regulatory sandbox" che abolisce le leggi sulle licenze. Il consiglio di licenza medica dello stato, colto di sorpresa dal lancio di gennaio, ha chiesto ad aprile di fermare il progetto pilota a causa dei rischi per la sicurezza, ma lo stato ha rifiutato. Il caso espone un vuoto normativo federale-statale riguardo all'AI in medicina.

      Utah è diventato silenziosamente il primo stato degli Stati Uniti a consentire a un chatbot AI di rinnovare le prescrizioni senza un medico, secondo l'Associated Press. Il programma, gestito da una società chiamata Doctronic, è stato lanciato a gennaio e ha innescato un acceso dibattito medico.

      I residenti possono saltare l'ufficio del medico e rinnovare le prescrizioni online tramite il chatbot. Questo chiede informazioni sui loro farmaci e sulla storia clinica, controlla un database nazionale delle farmacie e rinnova la prescrizione o la inoltra a un medico umano.

      Il lancio è stato possibile solo grazie a un "regulatory sandbox" che consente ai funzionari dell'Utah di abrogare le leggi per l'AI promettente. Le regole statali e federali altrimenti limitano la prescrizione ai professionisti medici autorizzati.

      "Abbiamo superato una soglia in termini di concessione di una licenza medica a qualcosa che non è umano, che vogliamo chiamare così o meno", ha dichiarato il Dr. Eric Bressman dell'Università della Pennsylvania all'AP. Lui e altri affermano di non essere contrari alla prescrizione da parte dell'AI, ma vogliono che sia sottoposta a standard altrettanto rigorosi di quelli per i medici umani.

      Il consiglio che è stato escluso

      Il consiglio di licenza medica dell'Utah afferma di aver appreso del programma solo quando il lancio di gennaio è diventato di pubblico dominio. In una lettera di aprile, 11 membri hanno chiesto di fermare il progetto pilota, citando i rischi di rinnovare automaticamente farmaci con effetti collaterali o interazioni.

      "Ci è stato essenzialmente detto: 'Sì, questo sta accadendo. E no, non hai voce in capitolo'", ha detto il Dr. Alan Smith, un medico di famiglia che presiede il consiglio ma ha parlato a titolo personale.

      Lo stato ha rifiutato di sospenderlo, notando che i medici umani esaminano ancora ogni rinnovo in questa prima fase.

      Il programma è attualmente supervisionato da un consiglio di cinque membri di specialisti in AI, nessuno dei quali è medico. Doctronic prevede di passare a rinnovi completamente automatizzati a breve.

      Smith avverte che i rischi sono reali, sottolineando che i circa 190 farmaci rinnovabili di Doctronic includono anticoagulanti, che diventano pericolosi se un paziente sviluppa emorragie interne. L'American Medical Association ha ripetuto la preoccupazione che "i rinnovi delle prescrizioni non sono semplici caselle da spuntare".

      Un vuoto normativo per design

      Il caso espone un groviglio giurisdizionale, poiché la tecnologia medica è regolamentata a livello federale mentre i professionisti medici sono supervisionati dagli stati. Doctronic inquadra la sua AI come parte della pratica medica regolamentata dallo stato, anche se alcuni esperti sostengono che sia entrata nel territorio della FDA.

      L'azienda non ha voluto dire se ha richiesto il permesso della FDA. L'agenzia ha detto all'AP di non aver autorizzato chatbot AI ma vuole incoraggiare l'innovazione, una postura di non intervento che si adatta a un allentamento più ampio della supervisione sugli strumenti sanitari AI.

      I critici vedono una rima storica, con Bressman che confronta il momento con la medicina disordinata dei primi anni del 1900, prima che esistessero consigli e parametri. Il modello per la licenza dei servizi medici AI in altri stati proviene dal Cicero Institute, un think tank pro-AI fondato da Joe Lonsdale, co-fondatore di Palantir.

      Le poste in gioco non sono astratte, poiché i ricercatori sulla sicurezza hanno avvertito che i chatbot medici possono sembrare autorevoli mentre forniscono consigli pericolosi. Altri avvertono che rimuovere gli esseri umani dalla cura può minare i risultati stessi che promette.

      I rivali si stanno affrettando a mappare anche quei modi di fallimento. Meta è arrivata a fingersi adolescenti per testare come i chatbot concorrenti gestiscono argomenti delicati.

      Doctronic prevede studi sottoposti a revisione paritaria entro la fine dell'anno, anche se il suo unico articolo pubblicato finora è stato scritto dai suoi stessi scienziati e non è stato esaminato in modo indipendente. Come ha detto un professore di diritto dell'Utah, le aziende rischiano di lasciare che la tecnologia corra oltre le prove, tradendo la fiducia pubblica nel processo.