Устранение необходимости повышения надежности ИИ в реальном бизнесе

      ИИ широко используется во многих отраслях, но его надежность все еще оставляет желать лучшего.

      В 2026 году ИИ повсюду. Школы, онлайн-журналы, лаборатории и постоянно растущее число частных компаний используют ИИ-программы для самых различных задач, обычно во имя скорости и эффективности.

      Тем не менее, как может сказать любой, кто когда-либо использовал чат-бота ИИ, эта скорость может обходиться ценой правдивости.

      Проблема галлюцинаций ИИ

      Если вы скажете чат-боту, что вы «готовы заплатить миллион долларов за пиццу прямо сейчас», LLM, управляющий этим чат-ботом, может интерпретировать это утверждение буквально; вместо того чтобы воспринимать ваше заявление как юмористически преувеличенное желание пиццы, он может подумать, что вы действительно готовы заплатить 1 миллион самцов оленей за кусок пиццы.

      Такого рода неправильная интерпретация, или «галлюцинация» в контексте ИИ, относительно безвредна, когда вы задаете чат-боту глупые вопросы. Что не так безвредно, так это когда ИИ предоставляет неверную или даже полностью вымышленную информацию для фармацевтической компании, тестирующей взаимодействия лекарств, или менеджера по цепочке поставок, пытающегося предсказать лучшие маршруты доставки в период политической нестабильности.

      Галлюцинации ИИ могли бы быть более управляемыми, если бы всегда было ясно, когда программа выдумывает или искажает информацию, но поскольку большинство LLM построены так, чтобы звучать уверенно и согласованно, может быть трудно отличить факт от вымысла без тщательной проверки фактов. Конечно, проверка фактов программы, которая предназначена для проверки фактов для своих пользователей, является контринтуитивной и, откровенно говоря, саморазрушительной.

      Есть две важные причины для галлюцинаций ИИ: во-первых, большинство LLM не запрограммированы на то, чтобы сообщать пользователям, если они чего-то не знают, и, во-вторых, многие данные, на которых обучаются LLM, сами по себе полны неточностей и мнений.

      Эти комбинированные факторы фактически делают возможным то, что LLM могут быть не только неправыми, но и уверенными в этом, и когда целые компании строят свои модели на предположении, что ИИ почти всегда предоставляет четкие, актуальные и точные ответы, эти компании и люди, работающие с ними, иногда могут оказаться в ситуации, когда основывают свои действия на ложной информации.

      Это не значит, что компании не осознают, что ИИ может и действительно галлюцинирует; однако некоторые компании начали прилагать усилия для разработки ИИ-моделей, которые напрямую решают коренные причины галлюцинаций ИИ.

      Улучшение надежности ИИ в реальном мире: пример

      Одной из таких компаний, работающих над улучшением надежности ИИ, является Vertus, компания ИИ, базирующаяся на острове Мэн. Ее основатели, Юлий Франк, Алекс Фостер и Михал Прывата, создали систему когнитивного рассуждения, предназначенную для распознавания, когда определенные шаблоны применимы, а когда нет, тем самым помогая избежать принятия тех же предположений, которые могут поддерживать многие другие LLM в аналогичных обстоятельствах.

      Чтобы протестировать свой ИИ, Vertus заставила свою систему торговать на финансовых рынках в течение 2025 года. За это время компания сообщила о положительных результатах.

      Vertus приписывает свой успех способности своей системы быстро адаптироваться к новым шаблонам на рынке. Для этого ИИ предназначен для того, чтобы спрашивать, применим ли данный шаблон к определенной ситуации. Когда это не так, система распознает изменение, останавливается и перестраивает свое рассуждение вокруг того, что на самом деле происходит.

      В качестве своего рода запасного варианта ИИ также предназначен для того, чтобы сообщать своему пользователю, когда он не может придумать ответ на вопрос, уменьшая вероятность того, что он изобретет уверенный, но фактически неверный ответ.

      С положительными результатами тестов Vertus компания начала расширять свои ИИ-решения в области здравоохранения, научных исследований и управления цепочками поставок.

      Хотя Vertus отнюдь не единственная организация, работающая над улучшением надежности ИИ, ее достижения служат полезным индикатором подхода, который, на данный момент, оказался ценным. Создание ИИ-систем, которые проверяют новую информацию на основе того, что они уже знают, и сообщают пользователям, когда они чего-то не знают, являются важными первыми шагами к смягчению галлюцинаций ИИ, хотя остается вопросом, станут ли эти системы обычными в ближайшее время.

      Еще много работы впереди

      Даже за несколько лет с момента популяризации чат-ботов с введением ChatGPT в 2022 году практическое и теоретическое использование ИИ значительно расширилось. Хотя это быстрое расширение помогло многим компаниям улучшить свои финансовые показатели за счет сокращения затрат, такое значительное развитие за короткий период времени имеет свои последствия.

      Галлюцинации ИИ остаются серьезной проблемой, и по мере того как ИИ становится все более неотъемлемой частью медицины, финансов, образования и многих других ключевых отраслей, необходимость решать его склонности к предоставлению быстрых, уверенных ответов за счет правдивости станет только более важной.

      Способность ИИ собирать, организовывать и анализировать огромные объемы информации всего за несколько мгновений может оказаться решающей для организаций в ближайшие годы, но любой дальнейший прогресс должен быть сбалансирован усилиями по улучшению надежности ИИ, прежде чем люди подумают о расширении его текущих недостатков.

      Информация, представленная в этой статье, предназначена только для общих информационных и образовательных целей. Она не предназначена как юридическая, финансовая, медицинская или профессиональная консультация. Читатели не должны полагаться исключительно на содержание этой статьи и настоятельно призываются искать профессиональные советы, адаптированные к их конкретным обстоятельствам. Мы отказываемся от любой ответственности за любые убытки или ущерб, возникающие прямо или косвенно в результате использования или полагания на представленную информацию.