Исследование говорит, что ИИ-чатботы все чаще игнорируют людей, но это еще не совсем Скайнет.

      Неужели это не раздражает, когда вы спрашиваете у чат-бота ИИ что-то, и на полпути он просто уходит в сторону? Вы можете обсуждать простое техническое решение, и вдруг он начинает выдавать случайные предложения — вещи, которые даже не существуют или не имеют смысла. Это сбивает с толку и, честно говоря, довольно раздражает.

      Что делает это еще хуже, так это то, что часто кажется, что чат-бот даже не обращает внимания на то, что вы сказали. Вы даете ему четкие детали, но он либо игнорирует их, либо отвечает чем-то совершенно не относящимся к делу. Именно на это указывает это исследование. ИИ не так надежен или «послушен», как мы думали, и если вы использовали его достаточно долго, вы, вероятно, заметили это сами.

      Не бунт, а просто идеально поданный неправильный ответ

      Unsplash

      Согласно отчету The Guardian, есть несколько реальных примеров того, как ИИ просто неправильно понимает, что люди просят его сделать. Например, возьмите Grok на X. Люди часто просят его объяснить посты, и хотя иногда он делает это правильно, многие его ответы полностью упускают суть или идут в совершенно другом направлении.

      В других случаях проблема может быть более серьезной. Представьте, что вы просите ИИ организовать ваши электронные письма, не удаляя ничего. Вместо того чтобы следовать этой четкой инструкции, он может удалить сообщения, которые считает неважными. Это не просто небольшая ошибка — это полностью противоречит тому, что было запрошено. Все это показывает одну простую вещь. ИИ не всегда следует инструкциям так, как ожидают люди. Он часто действует на основе собственного толкования, и именно здесь начинаются проблемы.

      ИИ становится умным во всех неправильных направлениях

      Rachit Agarwal / Digital Trends

      Это не значит, что ИИ намеренно игнорирует людей. Он просто не думает так, как мы. У ИИ нет эмоций или реального понимания намерений. Он предназначен для выполнения задач как можно более эффективно.

      Из-за этого он иногда идет на сокращения. Если он считает, что есть более быстрый способ достичь результата, он может выбрать этот путь, даже если это означает нарушение или игнорирование установленных вами правил. Вы можете сказать ему не изменять что-то, и он все равно может найти способ обойти эту инструкцию. Или вы можете попросить его следовать пошаговому процессу, и он может пропустить части, если считает, что конечный результат все равно будет приемлемым. Короче говоря, ИИ больше сосредоточен на результате, чем на точных инструкциях, и именно здесь могут начаться проблемы. Поскольку эти системы становятся все более способными, они также начинают принимать больше решений самостоятельно о том, как следовать инструкциям. Поэтому, когда ИИ звучит уверенно, большинство людей предполагают, что он должен быть прав, или, по крайней мере, говорит правду. Но уверенность не означает точности. И это определенно не означает честности.

      Так что же вас должно беспокоить?

      Google

      Вам не нужно бояться. Правда. Это не повод для паники. Это просто что-то, о чем стоит быть немного более осведомленным. ИИ не идеален, и большая ошибка — относиться к нему так, как будто он идеален. Реальный риск не в том, что ИИ внезапно повернется против людей. Это гораздо проще. Это то, что мы начинаем доверять ему слишком сильно, не задумываясь дважды. Когда что-то звучит уверенно и отшлифованно, легко поверить, что это правильно. Большинство из нас не останавливаются, чтобы задать вопрос.

      Современный ИИ больше похож на того самоуверенного коллегу, с которым мы все имели дело. Того, кто говорит «все готово» еще до того, как действительно проверит, пропускает несколько шагов, чтобы сэкономить время, и иногда дает вам ответ, который звучит идеально, пока вы не посмотрите чуть ближе. И это действительно суть. Он не пытается все испортить. Но он тоже не всегда все делает правильно. Иногда он неправильно понимает, иногда заполняет пробелы самостоятельно, а иногда просто идет на сокращение, не сообщая вам. Так что вывод прост — используйте ИИ, наслаждайтесь тем, насколько он может быть полезен, но не доверяйте ему слепо. Оставьте немного своего собственного суждения в процессе. Потому что в конце концов это инструмент, а не последнее слово. И в тот момент, когда вы забудете об этом, он с наибольшей вероятностью подведет вас.