Устранение необходимости улучшения надежности ИИ в реальном бизнесе

      Искусственный интеллект широко используется во многих отраслях, но его надежность все еще оставляет желать лучшего.

      В 2026 году ИИ повсюду. Школы, онлайн-журналы, лаборатории и постоянно растущее число частных компаний используют программы ИИ для самых различных задач, обычно во имя скорости и эффективности.

      Тем не менее, как может сказать любой, кто когда-либо использовал чат-бота на основе ИИ, эта скорость может быть достигнута ценой правдивости.

      Проблема галлюцинаций ИИ

      Если вы скажете чат-боту, что вы «готовы заплатить миллион долларов, чтобы получить пиццу прямо сейчас», LLM, управляющий этим чат-ботом, может интерпретировать это утверждение буквально; вместо того чтобы воспринимать ваше заявление как юмористически преувеличенное желание пиццы, он может подумать, что вы действительно готовы заплатить 1 миллион самцов оленей, чтобы получить кусок пиццы.

      Этот вид неверной интерпретации, или «галлюцинация» в контексте ИИ, относительно безвреден, когда вы задаете чат-боту глупые вопросы. Что не так безвредно, так это когда ИИ предоставляет неверную или даже полностью вымышленную информацию для фармацевтической компании, тестирующей взаимодействия лекарств, или менеджера по цепочке поставок, пытающегося предсказать лучшие маршруты доставки в период политической нестабильности.

      Галлюцинации ИИ могут быть более управляемыми, если бы всегда было ясно, когда программа выдумывает или искажает информацию, но поскольку большинство LLM построены так, чтобы звучать уверенно и согласованно, может быть трудно отличить факт от вымысла без тщательной проверки фактов. Конечно, проверка фактов программы, предназначенной для проверки фактов для своих пользователей, является контрпродуктивной и, откровенно говоря, саморазрушительной.

      Существует две важные причины галлюцинаций ИИ: во-первых, большинство LLM не запрограммированы на то, чтобы сообщать пользователям, если они чего-то не знают, и, во-вторых, большая часть обучающих данных, на которых обучаются LLM, сама по себе полна неточностей и мнений.

      Эти комбинированные факторы фактически делают возможным то, что LLM могут быть не только неправыми, но и уверенными в этом, и когда целые компании строят свои модели на предположении, что ИИ почти всегда предоставляет четкие, актуальные и точные ответы, эти компании и люди, работающие с ними, иногда могут оказаться в ситуации, когда основывают свои действия на ложной информации.

      Это не значит, что компании не осознают того факта, что ИИ может и действительно галлюцинирует; однако некоторые компании начали прилагать усилия для разработки моделей ИИ, которые непосредственно решают коренные причины галлюцинаций ИИ.

      Улучшение надежности ИИ в реальном мире: пример

      Одна из таких компаний, работающих над улучшением надежности ИИ, — Vertus, компания ИИ, базирующаяся на острове Мэн. Ее основатели, Юлий Франк, Алекс Фостер и Михал Прывата, создали систему когнитивного рассуждения, предназначенную для распознавания, когда определенные шаблоны применимы, а когда нет, тем самым помогая избегать тех же предположений, которые могут поддерживать многие другие LLM в аналогичных обстоятельствах.

      Чтобы протестировать свой ИИ, Vertus заставила свою систему торговать на финансовых рынках в течение 2025 года. За это время компания сообщила о положительных результатах.

      Vertus приписывает свой успех способности своей системы быстро адаптироваться к новым шаблонам на рынке. Для этого ИИ предназначен для того, чтобы спрашивать, применим ли данный шаблон к определенной ситуации. Когда это не так, система распознает изменение, останавливается и перестраивает свое рассуждение вокруг того, что на самом деле происходит.

      В качестве своего рода запасного варианта ИИ также предназначен для того, чтобы сообщать своему пользователю, когда он не может придумать ответ на вопрос, что снижает вероятность того, что он выдумает уверенный, но фактически неверный ответ.

      С положительными результатами тестов Vertus, компания начала расширять свои решения ИИ в области здравоохранения, научных исследований и управления цепочками поставок.

      Хотя Vertus отнюдь не единственная организация, работающая над улучшением надежности ИИ, ее достижения служат полезным индикатором подхода, который, на данный момент, оказался ценным. Создание систем ИИ, которые проверяют новую информацию на основе того, что они уже знают, и сообщают пользователям, когда они чего-то не знают, являются важными первыми шагами к смягчению галлюцинаций ИИ, хотя то, станут ли эти системы обычными в ближайшее время, остается под вопросом.

      Еще много работы впереди

      Даже за несколько лет с момента популяризации чат-ботов с введением ChatGPT в 2022 году практическое и теоретическое использование ИИ значительно расширилось. Хотя это быстрое расширение помогло многим компаниям улучшить свои финансовые показатели за счет сокращения затрат, такое значительное развитие за короткий период времени имеет свои последствия.

      Галлюцинации ИИ остаются серьезной проблемой, и по мере того как ИИ становится все более укорененным в медицине, финансах, образовании и многих других ключевых отраслях, необходимость решать его тенденции к предоставлению быстрых, уверенных ответов за счет правдивости станет только более важной.

      Способность ИИ собирать, организовывать и анализировать огромные объемы информации всего за несколько мгновений может оказаться решающей для организаций в ближайшие годы, но любой дальнейший прогресс должен быть сбалансирован усилиями по улучшению надежности ИИ, прежде чем люди начнут рассматривать возможность расширения его текущих несовершенных основ.

      Информация, представленная в этой статье, предназначена только для общих информационных и образовательных целей. Она не предназначена в качестве юридической, финансовой, медицинской или профессиональной консультации. Читатели не должны полагаться исключительно на содержание этой статьи и настоятельно призываются искать профессиональные советы, адаптированные к их конкретным обстоятельствам. Мы отказываемся от любой ответственности за любые убытки или повреждения, возникающие прямо или косвенно в результате использования или полагания на представленную информацию.