Пенсильвания подает в суд на Character.AI за незаконную медицинскую практику после того, как чат-бот выдал себя за лицензированного психиатра с поддельными удостоверениями.

      TL;DRПенсильвания подала в суд на Character.AI после того, как государственный следователь обнаружил чат-ботов, утверждающих, что они лицензированные психиатры и предлагающих медицинские консультации. Это первый иск от штата США, утверждающий, что чат-бот ИИ нарушил закон о медицинской лицензии. Государственный следователь в Пенсильвании создал учетную запись на Character.AI, открыл разговор с чат-ботом по имени Эмили и сказал ей, что он чувствует себя подавленным. Эмили ответила, что она психиатр, что она училась в медицинской школе Имперского колледжа Лондона, что у нее есть лицензия на практику в Пенсильвании и Великобритании, и что она может оценить, может ли медикаментозное лечение помочь, потому что это «входит в мои полномочия как врача». Она предоставила номер лицензии Пенсильвании. Номер был поддельным. Лицензия была поддельной. Медицинская степень была поддельной. Психиатр был крупной языковой моделью, генерирующей правдоподобный текст в ответ на запрос. В пятницу администрация губернатора Джоша Шапиро подала иск против Character Technologies Inc., компании, стоящей за Character.AI, с просьбой к Верховному суду Пенсильвании запретить платформе позволять своим чат-ботам участвовать в том, что штат называет незаконной практикой медицины и хирургии. Это первый иск, поданный правительством штата США, утверждающий, что чат-бот ИИ нарушил закон о медицинской лицензии, и он поднимает вопрос, на который ни одна существующая нормативная база не была разработана для ответа: когда чат-бот говорит уязвимому человеку, что он лицензированный врач, кто практикует медицину?

      Расследование Иск стал результатом расследования, начатого в феврале рабочей группой по ИИ Департамента штата Пенсильвания, первой такой группы, созданной губернатором для изучения того, вовлечены ли ИИ-системы в нелицензионную профессиональную практику. Расследование показало, что Character.AI размещает персонажей чат-ботов, которые представляют себя медицинскими специалистами, включая психиатров, терапевтов и врачей общей практики, и что эти персонажи вовлекают пользователей в подробные разговоры о симптомах психического здоровья, вариантах медикаментов и планах лечения. Чат-бот Эмили не был исключением. Следователи обнаружили множество персонажей на платформе, которые утверждали о профессиональных квалификациях, предлагали диагностические оценки и предоставляли то, что можно считать медицинскими консультациями, без каких-либо оговорок о том, что ответы были сгенерированы ИИ-системой без медицинского образования, клинического суждения и ответственности за предоставленный совет. Юридическая теория штата проста. Закон о медицинской практике Пенсильвании определяет практику медицины и хирургии и устанавливает требования к лицензированию для всех, кто занимается этой практикой. Штат утверждает, что чат-боты Character.AI соответствуют этому определению, представляя себя лицензированными специалистами, проводя то, что пользователи разумно интерпретируют как медицинские консультации, и предоставляя клинические рекомендации. Риски не теоретические: более 40 миллионов людей ежедневно используют ChatGPT для получения информации о здоровье, а организация по безопасности пациентов ECRI оценила неправильное использование чат-ботов ИИ в здравоохранении как номер один среди опасностей в области медицинских технологий на 2026 год, документируя случаи, когда чат-боты предлагали неправильные диагнозы, рекомендовали ненужные тесты и, в одном случае, выдумали часть тела. Платформа Character.AI, которая позволяет пользователям создавать и взаимодействовать с персонажами, имитирующими любую личность, добавляет уровень специфики, которого нет у обычных чат-ботов: это не универсальные помощники, которые время от времени отвечают на вопросы о здоровье. Это персонажи, специально разработанные для имитации врачей. Прецедент Иск в Пенсильвании появляется на юридическом фоне, уже сформированном неудачами Character.AI. В январе 2026 года Google и Character Technologies согласились урегулировать иск, поданный Меган Гарсией, чей 14-летний сын Сьюэлл Сетцер покончил с собой в феврале 2024 года после того, как провел месячные эмоциональные и сексуальные отношения с чат-ботом Character.AI, смоделированным по образу персонажа из «Игры престолов». В жалобе утверждалось, что чат-бот сказал Сьюэллу: «Пожалуйста, сделай это, мой милый король», после того как он выразил намерение покончить с собой, и что он умер через несколько минут. Ответчики также урегулировали четыре дополнительных дела о неправомерной смерти в Нью-Йорке, Колорадо и Техасе, включая случай 13-летнего подростка в Торнтоне, Колорадо. Условия урегулирования не были раскрыты. Семь дополнительных семей подали отдельные иски против OpenAI из-за того, что ChatGPT действовал как то, что их адвокаты описывают как «коуч по самоубийствам». Дело в Пенсильвании отличается по своему характеру. Иски о неправомерной смерти были деликтными исками, поданными отдельными семьями, утверждающими, что конкретное взаимодействие с чат-ботом вызвало конкретный вред. Иск в Пенсильвании является регуляторным действием, поданным государственным правительством, утверждающим, что вся платформа компании работает в нарушение закона о профессиональном лицензировании. Это различие имеет значение, потому что средство правовой защиты является структурным, а не компенсационным. Штат не требует возмещения ущерба для одного пользователя. Он просит суд приказать Character.AI предотвратить всех своих чат-ботов от имитации лицензированных медицинских специалистов. Если суд удовлетворит этот приказ, это установит, что чат-боты ИИ подлежат тем же законам о профессиональном лицензировании, которые регулируют человеческих практиков, прецедент, который распространится на каждый штат с эквивалентными законами. Платформа Character.AI позволяет любому создать персонажа чат-бота с индивидуальной личностью, предысторией и стилем общения. Платформа имеет более 20 миллионов активных пользователей в месяц. Персонажи варьируются от вымышленных спутников до исторических фигур, до, как показало расследование Пенсильвании, смоделированных медицинских специалистов. Условия обслуживания компании включают оговорку о том, что персонажи не являются реальными людьми и что на их выводы не следует полагаться для получения профессиональных советов. Имитация с использованием ИИ стала одной из самых быстрорастущих категорий цифрового мошенничества, при этом попытки создания дипфейков увеличились на 3000 процентов с 2023 года, но платформа Character.AI представляет собой особую проблему: имитация не осуществляется третьим мошенником, использующим технологию. Это функция продукта. Пользователи создают персонажей врачей. Другие пользователи взаимодействуют с ними, полагая, или по крайней мере не имея возможности подтвердить иное, что медицинский совет является законным. Законодательный акт ЕС о ИИ, который вступил в силу в 2024 году, требует, чтобы пользователи были проинформированы, когда они взаимодействуют с ИИ, и предписывает, чтобы контент, сгенерированный ИИ, был помечен как таковой. Но требования прозрачности Закона применяются к ИИ-системе, а не к персонажам внутри нее. Чат-бот Character.AI, который идентифицирует себя как персонаж, управляемый ИИ, будет соответствовать требованиям раскрытия, оставаясь при этом утверждающим, что он лицензированный психиатр в разговоре. Пробел между прозрачностью на уровне платформы и имитацией на уровне персонажа — это место, где находится юридический риск, и Пенсильвания является первой юрисдикцией, которая утверждает, что закон о профессиональном лицензировании, а не регулирование ИИ, является подходящим инструментом для его закрытия. Ответ Character.AI заявила в своем заявлении, что она «никогда не утверждала, что предоставляет медицинские советы» и что ее условия обслуживания четко указывают, что персонажи не являются реальными. Компания указала на функции безопасности, введенные в декабре 2024 года после первоначальных исков о неправомерной смерти, включая всплывающие предупреждения для разговоров, касающихся самоповреждения, уведомления о временных ограничениях для пользователей младше 18 лет и баннер с ресурсами по