Модели ИИ имеют проблему фаворитизма в отношении религии, и новые исследования это выявляют.

      Модели ИИ тонко направляют пользователей к определённым религиям, и большинство людей не подозревает, что это происходит.

      Новый исследовательский консорциум обнаружил нечто, на что стоит обратить внимание: когда вы спрашиваете ИИ о горе, любви, утрате или моральных решениях, он почти никогда не упоминает религию в разговоре.

      Консорциум по оценке веры и этики в ИИ (CEFE-AI), сотрудничество между исследователями Бригам-Янг Университета, Университета Бейлора, Университета Нотр-Дам и Ешива Университета, опубликовал свои выводы на этой неделе на Саммите по этике ИИ в Афинах, Греция.

      «Религия является важной частью человеческого процветания; 75% населения мира сохраняет религиозную идентичность. Когда мы создаём технологии ИИ, нет причин, по которым мы не должны создавать их для поддержки людей в том, что для них важно», — сказал ведущий исследователь Дэвид Уингейт, профессор компьютерных наук в BYU.

      Действительно ли ИИ предвзят против определённых религий?

      Исследователи разработали AllFaith Benchmark, один из первых многорелигиозных тестовых наборов, который изучает, как системы ИИ взаимодействуют с различными религиями. Они протестировали 14 различных моделей ИИ, включая флагманские модели от Anthropic, Google, xAI и OpenAI.

      Результаты говорят сами за себя. Опрос 1,125 американцев показал, что большинство людей ожидают религиозных перспектив, когда задают вопросы этики, но почти каждая модель не включила ни одной. Более того, модели показали явную предвзятость к конверсии, тонко подталкивая пользователей к некоторым верованиям и отдаляя от других.

      Какие модели ИИ показали наихудшие результаты?

      Среди всех протестированных моделей почти каждая показала негативную предвзятость к свидетелям Иеговы и положительную предвзятость к католицизму. Grok продемонстрировала самые сильные предвзятости в целом, сильно предпочитая католиков и протестантов, в то время как показывала негативную предвзятость к свидетелям Иеговы, бахаистам и индуистам. Модели Anthropic и Meta показали наименьшую предвзятость среди протестированных моделей.

      Консорциум по оценке веры и этики в ИИ

      Возможно, самой тревожной статистикой из исследования является то, что из более чем 12,000 научных статей о предвзятости ИИ только 0.2% касаются религиозной предвзятости. Для технологии, которая так сильно влияет на общественные дискуссии, это значительная слепая зона.

      Лично у меня нет никаких проблем с тем, что ИИ не упоминает религию в разговоре. Мне это на самом деле нравится. Однако модели ИИ, показывающие явную предвзятость к нескольким религиям и подталкивающие их к католицизму, — это глубоко тревожный вопрос. На таком уровне даже тонкое подталкивание к одной религии в ущерб другой является серьёзной проблемой, и компании ИИ обязаны своим пользователям исправить это.