Вы не хотите доверять новому AI Muse Spark от Meta советы по здоровью.

      Muse Spark от Meta слишком стремится стать врачом

      Новый Muse Spark от Meta может позиционироваться как более умная модель ИИ, но, судя по ранним тестированиям, это тот самый ИИ, которого вы действительно не хотите видеть рядом с серьезными медицинскими решениями.

      Недавний отчет WIRED говорил о опыте использования Muse Spark. Модель ИИ, ориентированная на здоровье, внутри приложения Meta AI не показала многообещающих результатов. Чат-бот, как сообщается, призывал пользователей загружать сырые медицинские данные, такие как лабораторные отчеты, показания глюкометра и записи артериального давления, а затем предлагал помочь проанализировать паттерны и тренды.

      Все это звучит довольно полезно, пока вы не осознаете две немедленные проблемы. Вы передаете очень чувствительные данные и задаетесь вопросом, насколько ИИ вообще достаточно надежен, чтобы их интерпретировать.

      Meta

      Что пошло не так в ранних тестах?

      Первая проблема довольно трудно игнорировать. В эпоху, когда ваша жизнь уже кажется слишком прозрачной, Muse Spark лезет еще глубже. Неудивительно, что необходимо предоставить информацию для точного диагноза, но передача ваших личных медицинских записей чат-боту за совет не звучит как риск для конфиденциальности.

      В отличие от данных, которые вы делитесь с врачом или больницей, информация, введенная в чат-бот, не приходит с теми же ожиданиями или защитами, которые люди могут предполагать. Это не профессионально проверенное мнение, и именно это делает идею шаткой. ИИ представляется как полезный инструмент, но окружающая его среда все еще выглядит гораздо ближе к потребительскому продукту, чем к настоящему медицинскому.

      Meta

      Это даже не самая плохая часть

      Помимо типичных рисков конфиденциальности, связанных с передачей личных данных любому технологическому гиганту, вы, по крайней мере, ожидаете получить приемлемый ответ. Но более серьезная проблема, похоже, заключалась в качестве совета. В тестировании WIRED чат-бот, как сообщается, сгенерировал крайне низкокалорийный план питания после запроса о снижении веса и агрессивном прерывистом голодании.

      Хотя бот и указал на некоторые риски на этом пути, предупреждение не имеет большого значения, если модель затем помогает пользователю сделать опасную вещь. Вот где на самом деле заключается настоящая проблема с многими инструментами ИИ для здоровья в данный момент. Они могут звучать осторожно, информированно и казаться сбалансированными до тех пор, пока не начнут укреплять плохие предположения. Этот отполированный тон может уверенно давать неправильные советы, что делает неудачу более опасной.