Если вы используете инструменты ИИ, такие как ChatGPT, для проверки фактов в новостях, у нас для вас плохие новости.

      По мере того как искусственный интеллект становится универсальным инструментом для всего, от домашних заданий до исследований на рабочем месте, многие люди также обращаются к чат-ботам, таким как ChatGPT, Gemini, Claude и Grok, чтобы проверить, являются ли новостные истории правдой. Однако новые исследования показывают, что эта привычка может на самом деле ухудшить способность людей выявлять дезинформацию с течением времени.

      Новое исследование MIT Media Lab показало, что полагание на ИИ для определения точности новостей может ослабить способность человека самостоятельно идентифицировать фальшивый или вводящий в заблуждение контент. Исследователи сравнили этот эффект с системами навигации GPS, которые облегчают путешествия, но могут постепенно снижать естественное чувство направления у человека. Подобным образом инструменты ИИ могут сделать проверку фактов более удобной, одновременно тихо подрывая критическое мышление.

      Эти выводы появляются в то время, когда поисковые системы и чат-боты на основе ИИ все чаще используются в качестве альтернатив традиционным поисковым системам. Поскольку резюме, созданные ИИ, становятся все более распространенными в Интернете, вопросы о точности, предвзятости и чрезмерной зависимости становятся все труднее игнорировать.

      ИИ может делать пользователей менее эффективными в выявлении дезинформации

      Согласно исследователям MIT, участники, которые сильно полагались на помощь ИИ, становились менее способными самостоятельно оценивать достоверность новостных историй. Проблема заключается не только в том, что ИИ иногда может ошибаться, но и в том, что пользователи могут начать передавать свою оценку технологии, вместо того чтобы активно оценивать информацию самостоятельно.

      Эта проблема усиливается растущим объемом исследований, изучающих роль ИИ в проверке фактов. Предыдущие исследования показали, что большие языковые модели могут испытывать трудности с последовательной проверкой информации, особенно когда речь идет о нюансированных темах, политических заявлениях или быстро меняющихся новостных событиях. Исследователи также отметили значительное различие в производительности между различными моделями ИИ и предметными областями.

      Еще одной проблемой является то, что системы ИИ часто уверенно представляют ответы, даже когда эти ответы неполные или неверные. Это может создать ложное чувство доверия, особенно когда пользователи воспринимают чат-ботов как авторитетные источники, а не как помощников, которые все еще требуют проверки.

      Исследователи MIT утверждают, что хотя ИИ может помочь в резюмировании информации или предоставлении соответствующего контекста, он не должен заменять независимую оценку и навыки медиаграмотности.

      Проблема заключается не только в точности – это зависимость

      Широкая проблема, на которую указывает исследование, заключается в зависимости. Если пользователи все больше полагаются на ИИ для определения того, что является правдой, они могут стать менее опытными в оценке источников, проверке доказательств и распознавании вводящих в заблуждение нарративов.

      Этот риск становится особенно важным, поскольку инструменты ИИ интегрируются в поисковые системы, социальные медиа, браузеры и операционные системы. Вместо того чтобы активно сравнивать несколько источников, пользователи могут быть соблазнены принять ответ чат-бота как окончательное слово.

      Исследователи не утверждают, что ИИ не имеет роли в проверке фактов. Во многих случаях ИИ может помочь пользователям быстро собирать информацию, резюмировать сложные темы или выявлять дополнительные источники, которые стоит изучить. Однако исследование предполагает, что лучшие результаты достигаются, когда ИИ выступает в роли помощника по исследованию, а не замены человеческому суждению.

      Вывод прост: ИИ может помочь вам исследовать новости, но это может быть не лучший инструмент для принятия решения о том, что является правдой от вашего имени. По мере того как чат-боты становятся все более мощными и убедительными, поддержание здорового скептицизма может стать столь же важным, как и доступ к самой технологии.