Пилотный проект по назначению рецептов с использованием ИИ в Юте вызывает тревогу у медицинского совета

      TL;DRЮта стала первым штатом США, который разрешил чат-боту ИИ, Doctronic, продлевать рецепты без врача через регулируемую песочницу, которая отменяет законы о лицензировании. Медицинская лицензирующая комиссия штата, оказавшаяся в замешательстве из-за запуска в январе, в апреле призвала приостановить пилотный проект из-за рисков для безопасности, но штат отказался. Этот случай выявляет федеральный и государственный регуляторный вакуум вокруг ИИ в медицине.

      Юта тихо стала первым штатом США, который разрешил чат-боту ИИ продлевать рецепты без врача, согласно Associated Press. Программа, управляемая компанией Doctronic, была запущена в январе и вызвала ожесточенные медицинские дебаты.

      Жители могут пропустить визит к врачу и пополнить рецепты онлайн через чат-бота. Он задает вопросы о лекарствах и истории болезни, проверяет национальную аптечную базу данных и либо продлевает рецепт, либо передает дело человеку-врачу.

      Запуск стал возможен только благодаря «регулируемой песочнице», которая позволяет чиновникам Юты отменять законы для многообещающего ИИ. Государственные и федеральные правила в противном случае ограничивают назначение лекарств лицензированными медицинскими специалистами.

      «Мы перешли порог в том, что даем что-то, что не является человеком, медицинскую лицензию, хотим мы называть это так или нет», — сказал доктор Эрик Брессман из Университета Пенсильвании в интервью AP. Он и другие утверждают, что не против назначения ИИ, но хотят, чтобы оно соответствовало таким же строгим стандартам, как и для врачей-людей.

      Комиссия, которая осталась в стороне

      Медицинская лицензирующая комиссия Юты заявила, что узнала о программе только тогда, когда запуск в январе попал в новости. В апрельском письме 11 членов призвали приостановить пилотный проект, ссылаясь на риски автоматического продления лекарств с побочными эффектами или взаимодействиями.

      «Нам по сути сказали: «Да, это происходит. И нет, у вас нет права голоса в этом», — сказал доктор Алан Смит, семейный врач, который возглавляет комиссию, но говорил от своего имени.

      Штат отказался приостановить программу, отметив, что человеческие врачи все еще проверяют каждое пополнение на этом первом этапе.

      В настоящее время программу контролирует пятиместная комиссия специалистов по ИИ, ни один из которых не является врачом. Doctronic ожидает перейти к полностью автоматическим пополнениям в ближайшее время.

      Смит предупреждает, что риски реальны, указывая на то, что примерно 190 пополняемых медикаментов Doctronic включают разжижающие кровь препараты, которые становятся опасными, если у пациента развивается внутреннее кровотечение. Американская медицинская ассоциация также выразила обеспокоенность тем, что «продления рецептов не являются рутинными галочками».

      Регуляторный вакуум по замыслу

      Этот случай выявляет юридическую путаницу, поскольку медицинские технологии регулируются на федеральном уровне, в то время как медицинские специалисты находятся под контролем штатов. Doctronic рассматривает свой ИИ как часть медицинской практики, регулируемой штатом, хотя некоторые эксперты утверждают, что он пересек границы FDA.

      Компания не стала комментировать, обращалась ли она за разрешением FDA. Агентство сообщило AP, что не разрешало ни одного чат-бота ИИ, но хочет поощрять инновации, что соответствует более широкому ослаблению контроля за инструментами ИИ в здравоохранении.

      Критики видят в этом повторение истории, сравнивая момент с беспорядочной медициной начала 20 века, до появления комиссий и стандартов. Шаблон для лицензирования медицинских услуг ИИ в других штатах исходит от Института Цицерона, про-ИИ аналитического центра, основанного соучредителем Palantir Джо Лонсдейлом.

      Ставки не абстрактны, поскольку исследователи безопасности предупреждали, что медицинские чат-боты могут звучать авторитетно, давая опасные советы. Другие предостерегают, что исключение людей из ухода может подорвать те результаты, которые он обещает.

      Конкуренты также спешат картировать эти режимы неудач. Meta даже пошла так далеко, что притворялась подростками, чтобы протестировать, как конкурирующие чат-боты справляются с чувствительными темами.

      Doctronic планирует провести рецензируемые исследования позже в этом году, хотя единственная опубликованная работа на данный момент была написана ее собственными учеными и не была независимо рецензирована. Как выразился один профессор права из Юты, компании рискуют позволить технологии развиваться быстрее, чем доказательства, и предать общественное доверие в этом процессе.