Моя подруга больна раком. Я видел, как она спрашивала ChatGPT о медицинских советах, и это потрясло меня.

      Я написал эту статью примерно в 3 часа ночи, сидя в лобби клиники, пока мой друг разговаривал с онкологом в кабинете за мной. Воздух, конечно, насыщен запахом медикаментов, а атмосфера имеет явный налет мрачности, который заставляет меня покинуть это место как можно скорее. Однако подавляющее чувство — это гнев и ярость.

      Всего час назад я получил звонок от своей 24-летней подруги, которая жаловалась на сильную головную боль и боль в животе. В настоящее время она проходит лечение от рака груди, и после того, как я видел, как она переживает это испытание на протяжении последних двух лет, я поспешил к ней, надеясь, что это не серьезно. Не задавая слишком много вопросов, я нашел ближайшую больницу и отвез ее на обследование.

      По пути в больницу я спросил ее, когда началась боль и испытывала ли она какие-либо другие тревожные симптомы. Ее ответ шокировал меня, и до такой степени, что мне хотелось вырвать у нее телефон и разбить его на куски. «После того, как я вернулась с работы, я почувствовала головокружение и также почувствовала, что что-то не так в моем животе. Поэтому я спросила ChatGPT, могу ли я принять обезболивающее, и через несколько часов после того, как я их приняла, боль в животе усилилась с жжением. Я также несколько раз рвала.»

      Кто должен действовать ответственно?

      Unsplash

      Признание потрясло меня, а повседневный тон, с которым она описывала свои взаимодействия с ChatGPT, был еще более пугающим. Но в этом инциденте так много слоев, что я решил запретить ИИ для своих близких, особенно когда дело касается разговоров о здоровье и благополучии. Как человек, который крайне чувствителен к медикаментам и проходит лечение от рака, спрашивать ИИ о приеме лекарств было последним, что вы могли бы ожидать от любого здравомыслящего человека.

      Я не знаю точно, кто виноват в этом потенциально угрожающем жизни приключении. Она просто сфотографировала обезболивающее, ввела его в ChatGPT и спросила, может ли она принять две таблетки одновременно. Ее врач рекомендовал ей только одну таблетку за раз, и то, когда боль слишком сильна, чтобы терпеть. ChatGPT сказал ей, что она должна принять одно обезболивающее, а два — только с рекомендацией врача.

      Когда я спросил, почему она обратилась к ИИ-боту, она позже сказала мне, что ChatGPT «легче получить ответы. Я даже не знаю, что реально в интернете». Для человека, который должен был бросить учебу после средней школы и поддерживать свою семью случайными работами, я понимал ее затруднительное положение. Я не мог читать ей лекции о концепциях цифровой грамотности и проверки фактов. В этом чате было так много неправильного, и обе стороны здесь виноваты.

      Вот где начинается проблема. Она не является носителем языка хинди, и когда она перевела свой запрос на хинди, это было грамматической катастрофой из-за всего лишь одного слова. Она хотела спросить, может ли она принять две таблетки лекарства, изображенного на фотографии. Но ее сломанный перевод заставил это звучать так, будто она спрашивала ChatGPT, может ли она принять «оба лекарства».

      Вот здесь ChatGPT тоже споткнулся. На фотографии показана таблетка, на которой виден только ее химический состав — диклофенак и серраптопептидаза. Название лекарства было видно лишь наполовину. Тем не менее, ИИ-бот точно определил обезболивающее как «что-то вроде Cipzen-D». Но перед этим он также упомянул другое лекарство, Fenak Plus, чей химический состав — диклофенак и парацетамол, о котором она ранее говорила в другом разговоре.

      ChatGPT Unsplash

      Это совершенно другой состав, хотя оба легко доступны как безрецептурные обезболивающие, которые можно даже купить (что тревожно) без надлежащего рецепта в местных аптеках. Таким образом, в целом у нас есть одна человеческая ошибка (с переводом) и две ошибки со стороны ChatGPT, потому что он также черпал знания из своей памяти. Тем не менее, совет был точным.

      ИИ-бот OpenAI ясно предупредил, что прием обоих лекарств — это плохой шаг, добавив, что это может привести к передозировке диклофенака. ИИ-бот также описал побочные эффекты, которые включали жжение в животе, проблемы, связанные с язвой, кровотечение и долгосрочные негативные последствия для почек.

      Имейте в виду, что на фотографию, загруженную в ChatGPT, было изображено только одно обезболивающее. Он также рекомендовал, чтобы только одно из этих обезболивающих принималось за раз, а не оба. Моя подруга, вспомнив, что оба лекарства были прописаны врачами в какой-то момент (хотя не вместе), приняла их оба для быстрого облегчения боли и вскоре почувствовала последствия.

      Врач также был в ярости и, что вполне справедливо, когда моя подруга рассказала им, почему она приняла две таблетки одновременно, упрекнул ее за то, что она не проконсультировалась с медицинским работником. Это было последовано уколом, чтобы облегчить ее боль, и новым медицинским рецептом на обезболивающие, которые не навредят ее хрупкому организму.

      Как журналист по технологиям, который писал о рисках взаимодействия с ИИ по чувствительным темам, особенно здоровью и благополучию, я чувствовал себя неудачником. Я чувствовал, что никогда на самом деле не обсуждал риски ИИ-ботов с моей подругой. И только после страшного инцидента я предупредил ее о рисках.

      Когда она призналась, что использовала ChatGPT для медицинских советов в нескольких других случаях в прошлом, я забрал у нее телефон и удалил приложение. Более того, я попросил ее никогда больше не обращаться к другому ИИ-чат-боту — такому как Gemini или Claude — за медицинскими советами, или к интернету в целом. Единственный путь вперед — это разговор с врачом или посещение клиники.

      Проблема восприятия

      ChatGPT в режиме Live. OpenAI

      Я не обвиняю ее полностью в этом эпизоде. Учитывая, как ChatGPT укоренился в повседневных цифровых привычках масс как всезнающий джинн, трудно ее осуждать. Люди видят в этом более удобный (и правдивый) ответный механизм по сравнению с трудностями поиска ответов в Google Search, нажимая на синие ссылки и просматривая ответы на веб-страницах.

      Справедливо сказать, что они не ошибаются. Получать прямые ответы от ИИ-бота, такого как ChatGPT, и, что важно, на естественном языке за считанные секунды гораздо удобнее, чем блуждать по лабиринту ссылок Google Search. Google также осознает изменяющееся поведение пользователей, что также объясняет акцент на разговорном ИИ в поиске.

      На сегодняшний день разговорные ответы, предоставляемые Gemini, находятся на вершине обычных результатов поиска. Идея идентична: предоставление пользователям кратких ответов, извлеченных из синих ссылок на Google Search, прежде чем они начнут более глубокий поиск знаний, читая несколько источников, разбросанных по полудюжине вкладок.

      В их защиту, ChatGPT (или большинство передовых ИИ-моделей, если говорить об этом) особенно осторожен, когда кто-то ищет советы по здоровью и благополучию. В подавляющем большинстве таких ответов ИИ-боты просят пользователя проконсультироваться с сертифицированным медицинским работником или обратиться на соответствующую горячую линию. Но снова, то, как эти ИИ-чат-боты вошли в общественное обсуждение как быстрый и надежный источник знаний, делает их одинаково пугающими.

      Несколько дней назад я смотрел жаркие дебаты на новостном канале в прайм-тайм. Во время жаркого обмена мнениями один из участников попросил своего оппонента проверить факты, спросив ChatGPT. В тот момент я увидел, как о ChatGPT говорили как о современном эквиваленте поиска ответов в энциклопедии, и это происходило с платформы, которая влияет на миллионы людей на втором по величине рынке ИИ-чат-ботов в мире.

      Потеря в переводе

      США находятся на вершине принятия ИИ, но в стране также, возможно, самое высокое осознание рисков использования ИИ-чат-ботов. В Индии цифровая грамотность (и осведомленность о ИИ) значительно