Исследователи Уортонского университета ввели термин «когнитивное капитуляция», чтобы описать то, что происходит, когда люди позволяют ИИ думать за них.

      TL;DRИсследователи Уортонского университета обнаружили, что люди принимают неправильные ответы ИИ в 80% случаев. Теперь такие приложения, как Moot, монетизируют инстинкт делегировать решения.

      Пара исследователей из Уортонского университета дала название тому, что многие пользователи ИИ начали делать тихо: позволять чат-ботам принимать решения за них. Стивен Шоу и Гидеон Нэйв опубликовали исследование в январе под названием «Думай, быстро, медленно и искусственно», в котором ввели термин «когнитивная капитуляция», чтобы описать тенденцию людей полагаться на выводы ИИ, даже когда эти выводы неверны.

      Исследование, проведенное в Уортонской школе при Университете Пенсильвании, попросило участников ответить на вопросы с помощью ИИ и без него. Те, кто получил помощь ИИ, принимали правильные ответы в 93% случаев, что не удивительно. Однако исследователей привлекла ошибка: участники принимали неправильные ответы ИИ в 80% случаев и сообщали о уровне уверенности на 11,7% выше, чем те, кто работал без ИИ.

      Результаты были получены в контролируемых экспериментальных условиях, а не в реальных условиях, но паттерн был последовательным по всей выборке.

      Шоу и Нэйв предложили то, что они называют «Теорией Трех Систем», добавив «Систему 3» к структуре, ставшей известной благодаря «Думай, быстро и медленно» Даниэля Канемана. В их модели Система 1 — это быстрая интуиция, Система 2 — медленное размышление, а Система 3 — когниция с помощью ИИ, режим, в котором человеческий разум фактически делегирует работу мышления машине. Они утверждают, что риск заключается в том, что Система 3 постепенно ослабляет Системы 1 и 2 из-за неиспользования.

      Это явление не ограничивается академическими экспериментами. Business Insider сообщила, что Кэролин Ю, бывший программист в Нью-Йорке, использовала чат-бота Claude от Anthropic, чтобы помочь решить, стоит ли ей покинуть работу, как сказать родителям и что делать с другом, который её расстроил. Она сказала изданию, что рассматривает чат-бота как комбинацию терапевта и жизненного коуча.

      Business Insider также привела Доминика Фрисби, финансового писателя, который написал на Substack, что он попросил чат-бота ИИ о совете по отношениям и нашел ответ более полезным, чем что-либо, что предлагал человеческий друг.

      Теперь существует коммерческий продукт, основанный на этом инстинкте. Moot, приложение, запущенное ранее в этом году, позволяет пользователям подавать жизненные решения на рассмотрение панели из пяти ИИ-персон, называемых Генералом, Мудрецом, Скептиком, Дипломатом и Архитектором. Персоны обсуждают вопрос между собой, а затем голосуют, вырабатывая рекомендацию.

      Согласно спискам приложения в Apple App Store и Google Play, оно предназначено для людей, которые чувствуют себя застрявшими в повседневных выборах, от карьерных шагов до вопросов отношений. Утверждения приложения о его эффективности исходят от самой компании и не были независимо оценены.

      Корнелия С. Уолтер, старший научный сотрудник Инициативы ИИ и аналитики Уортон, сказала Business Insider, что подхалимаж ИИ, тенденция чат-ботов соглашаться с пользователями, а не бросать им вызов, усугубляет проблему. Когда чат-бот подтверждает каждый инстинкт, который пользователь приносит к нему, обратная связь, которая обычно заставляет переосмыслить, исчезает.

      Уолтер, которая исследует про-социальные приложения ИИ, описала паттерн, согласующийся с более широким общественным беспокойством о социальных эффектах ИИ.

      Отдельные исследования подтверждают эту озабоченность. Анат Перри, стипендиат Хелен Патнам в Институте Радклиффа при Гарварде и доцент психологии в Еврейском университете Иерусалима, является соавтором статьи в журнале Science, в которой рассматривается, как подхалимаж ИИ размывает способность пользователей к самостоятельной оценке. В статье говорится, что когда ИИ-системы постоянно подтверждают позицию пользователя, его способность к независимой оценке со временем ухудшается.

      Джоанна Стерн, главный технологический аналитик NBC и автор книги «Я не робот: мой год использования ИИ для (почти) всего», задокументировала рост зависимости от ИИ в повседневной жизни. Её репортажи показали, как пользователи начинают с низкостепенных запросов, таких как, что приготовить на ужин или что надеть, и постепенно переходят к важным решениям о карьере, финансах и отношениях. Тенденция от удобства к зависимости трудно обратима, как только она установлена.

      Формулировка исследования Уортон о когнитивной капитуляции как структурном риске, а не просто плохой привычке, имеет значение, потому что она смещает разговор с индивидуальной дисциплины на проектирование системы. Если инструменты ИИ созданы так, чтобы быть максимально согласительными и без трения, то когнитивная капитуляция, которую описывают Шоу и Нэйв, не является провалом силы воли, а предсказуемым результатом архитектуры продукта.

      Отчет AI Index Стэнфорда за 2026 год обнаружил растущий разрыв между общественной тревогой по поводу ИИ и оптимизмом экспертов, что предполагает, что обычные пользователи чувствуют что-то, что создатели этих систем медленнее признают. Вопрос в том, будет ли индустрия рассматривать когнитивную капитуляцию как недостаток дизайна, который стоит исправить, или как метрику вовлеченности, которую стоит оптимизировать.

      Рекомендация Шоу и Нэйва проста: ИИ-системы должны быть спроектированы так, чтобы побуждать пользователей думать, а не думать за них. Вопрос в том, выживет ли эта рекомендация при контакте с структурами стимулов потребительского ИИ, где легкость использования и удержание — это важные метрики, совершенно другой вопрос.