Пастор из Флориды спросил ChatGPT, все ли у него в порядке. Это чуть не стоило ему жизни.

      Когда "просто расслабься и восстановись" оказывается худшим медицинским советом, который вы могли получить.

      Скотт Уинтерс, пастор из Флориды, подал в суд на OpenAI после того, как ChatGPT якобы дал ему то, что его иск называет "крайне опасным" медицинским советом, советом, который чуть не стоил ему жизни.

      Что случилось с пастором?

      В течение нескольких недель Уинтерс обращался к ChatGPT с вопросами оRecurring dizzy spells и нестабильном кровяном давлении. Вместо того чтобы направить его к врачу, бот успокоил его, сказав, что его симптомы не настолько серьезны, чтобы беспокоиться, и сообщил, что его "осторожное восстановление в кресле" работает вполне нормально.

      Уинтерс последовал этому совету. Но спокойное успокоение скрывало настоящую чрезвычайную ситуацию — легочную эмболию, вызванную тромбами в обоих легких. Врачи позже сказали ему, что его неподвижность, именно то, что рекомендовал ChatGPT, и привела его на грань смерти.

      Один из ответов ChatGPT

      Как впервые сообщила Cybernews, ситуация стала еще более странной, когда OpenAI внедрила кросс-чат-память в 2025 году. Сообщается, что ChatGPT начал вплетать религиозный язык в свои ответы, очевидно, потому что знал, что Уинтерс — пастор, в какой-то момент назвав его восстановление "формой поклонения".

      Шесть недель симптомов, которые были проигнорированы как нечто серьезное, превратились в медленный обратный отсчет до медицинского кризиса.

      Почему OpenAI подают в суд?

      Уинтерс подал свой иск в суд Калифорнии, обвиняя OpenAI и генерального директора Сэма Альтмана в небрежности и несанкционированной практике медицины. Он утверждает, что последствия стоили ему работы, его служения и дома, не говоря уже о том, что чуть не стоили ему жизни.

      Этот случай, как сообщается, является первым, который утверждает, что чат-бот общего назначения должен нести юридическую ответственность за плохие медицинские советы. Уинтерс требует финансовую компенсацию и просит суд приостановить ChatGPT Health, пока не будет доказано, что он безопасен.

      OpenAI, в свою очередь, сообщила New York Times, что обвинять только чат-бота упрощает решение вопросов здоровья людей. Как бы ни решил суд, этот случай является твердым напоминанием о том, что уверенный тон чат-бота не равен медицинской степени.

      Я всегда говорю людям, чтобы они никогда не принимали медицинские советы от ChatGPT или Google. Меня здесь раздражает не медицинский совет, который ChatGPT дал пастору, а тот факт, что он не сказал ему проконсультироваться с врачом. Это должно быть сеткой безопасности, встроенной во все ИИ-чат-боты.