Исследования показывают, что резюме ИИ лучше для обучения, даже если они могут изменить ваши мнения.

      Исследователи из Йельского университета обнаружили, что резюме, написанные ИИ, являются лучшими учителями, чем написанные людьми, но есть одно "но".

      Большинство из нас теперь получает информацию с помощью ИИ-чат-ботов и поисковых систем. Даже Google сначала показывает нам резюме, созданное ИИ, прежде чем направить нас к источникам, из которых были собраны ответы.

      Новое исследование из Йеля предполагает, что, хотя ответы, сгенерированные ИИ, быстры, удобны и легко читаемы, они также могут влиять на наши мнения. Дэниел Карелл, доцент социологии в Йеле, и его команда хотели выяснить, помогает ли чтение резюме, написанных ИИ, людям учиться лучше, чем чтение резюме, написанных людьми.

      Чтобы это проверить, участникам показывали короткие резюме исторических событий, некоторые из которых были написаны людьми, а другие — инструментами ИИ, такими как ChatGPT, а затем их тестировали на том, что они запомнили.

      Результат? Люди, которые читали резюме, написанные ИИ, последовательно отвечали на большее количество вопросов правильно.

      Является ли ИИ просто лучшим в распространении информации, чем люди?

      Карелл объясняет это тем, как ИИ представляет информацию. "Это как если бы модель взяла Википедию и сделала ее более читаемой", — сказал он. Резюме ИИ были более плавными, ясными и легкими для запоминания, независимо от того, знали ли участники, что они читают контент, сгенерированный ИИ.

      Это означает, что даже когда людям говорили, что резюме написано ИИ, они все равно учились больше от него, чем от версии, написанной человеком.

      Должно ли это вас беспокоить?

      Вот где становится интересно. В последующей статье, опубликованной в PNAS Nexus, те же исследователи обнаружили, что резюме ИИ не только лучше обучают, но и влияют на политические мнения.

      Если резюме ИИ имело либеральный уклон, читатели уходили с более либеральными мнениями. Консервативный уклон имел противоположный эффект. Исследователи считают, что это происходит потому, что ИИ не просто представляет факты, но и формулирует их таким образом, который кажется более логичным и убедительным.

      Инструменты ИИ становятся стандартным способом, которым люди узнают о истории и текущих событиях. Это не обязательно плохо. Но знание того, что инструмент, формирующий то, что вы учите, также может тихо формировать то, что вы думаете, — это то, что стоит иметь в виду.

      В то же время галлюцинации ИИ остаются значительной проблемой, и резюме, сгенерированные ИИ, могут быть еще более вводящими в заблуждение для людей. Исследование, проведенное учеными из Института информационных наук USC, показало, что системы ИИ могут проводить пропагандистские кампании с минимальным человеческим участием.

      Если добавить к этому идею о том, что ИИ может быть более убедительным, чем люди, страшно думать о том, как эти инструменты могут быть использованы для манипуляции человеческим мышлением и рассуждением, направляя нас к более фрагментированному миру.