Медицинский ИИ заменил медсестер и уклонился от собственных проверок

      Предложение о медицинском ИИ заключается в том, что он освобождает клиницистов для ухода за пациентами. Две истории на этой неделе показывают, что реальность может быть другой. В Нью-Йорке медсестры утверждают, что программное обеспечение заменило их. В Миннесоте бывший руководитель клиники Мэйо говорит, что программное обеспечение было небезопасно для доверия.

      Мэрилин Шулер провела 39 лет, читая медицинские карты пациентов в больнице Монтефиоре в Бронксе. В этом месяце она стала одной из дюжины медсестер, уволенных и замененных ИИ-программным обеспечением, которое выполняет часть той же работы, говорит их профсоюз.

      Медсестры занимались проверкой использования. Они читали карты и спорили с страховщиками о том, какое лечение покрывается. Ассоциация медсестер штата Нью-Йорк заявляет, что увольнения нарушили контракт, который медсестры только что выиграли в результате забастовки, сообщает Guardian.

      «Это также должно волновать каждого практикующего врача и пациента, который заботится о… качестве получаемой ими помощи», — сказал Шайю Калатхил, медсестра Монтефиоре и представитель профсоюза. Монтефиоре оспаривает этот отчет. Она называет утверждения профсоюза «неточными и вводящими в заблуждение» и говорит, что изменения касаются неклинической программы по работе с документами.

      Что увидел информатор

      Если Нью-Йорк касается рабочих мест, то Миннесота касается доверия. И это более тревожно. 💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и некоторые сомнительные произведения ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Трейси Тамику Это присоединилась к клинике Мэйо в 2023 году, чтобы помочь создать меры безопасности вокруг ее ИИ. В новом иске она утверждает, что больница понизила ее в должности, а затем уволила за то, что она подняла тревогу о внедрении ИИ, сообщает Minnesota Public Radio.

      Ее утверждения конкретны. Команда, стоящая за ИИ-помощником под названием MAYA, по ее словам, удаляла неблагоприятные результаты тестов, преувеличивала возможности инструмента и продвигала его без надлежащего контроля. В какой-то момент, согласно иску, у инструмента была ошибка до 67%.

      Мэйо заявляет, что он привержен ответственному ИИ, с учетом конфиденциальности, безопасности и соблюдения норм в своей работе. Рассказ Это, если он подтвердится в суде, описывает нечто иное. Он описывает систему, которая была торопливо продвинута мимо проверок, предназначенных для выявления ее ошибок.

      Разрыв между обещанием и практикой

      Это два случая, а не тенденция. Но они находятся по обе стороны одной и той же линии разлома.

      Здравоохранение — это область, где преимущества ИИ должны быть наиболее очевидными, и где его неудачи менее прощаемы. Изуродованная реклама — это неловко. Изуродованная карта — это опасно.

      Широкая картина уже вызывает беспокойство. Юта позволила ИИ обновлять рецепты без врача. Исследования продолжают показывать, что опора на ИИ может тихо подрывать навыки, которые профессионалы должны сохранять, и что это сокращает опытные карьеры. Работодатели от Allianz до Thomson Reuters уже меняют сотрудников на модели.

      Кто несет риск

      Общая нить — это то, кто в конечном итоге несет риск. Монтефиоре сохраняет сбережения; пациент наследует все, что пропустило программное обеспечение. Мэйо получает эффективность; информатор, по ее словам, был показан к двери.

      Ни одно из дел не было протестировано в суде, и обе больницы защищают свои достижения. Но вместе они разрушают аккуратную историю о том, что медицинский ИИ всегда только добавляет помощь. Иногда он убирает одну. И иногда первым, кому говорят уйти, оказывается тот, кто лучше всего понимал машину.