Экономика доверия. Почему ИИ переопределит, как измеряется ценность

      Растущее чувство тревоги формирует то, как профессионалы взаимодействуют с искусственным интеллектом, особенно по мере расширения его возможностей в создании и выполнении информации. Дэн Пратл, основатель Quadron, считает, что эта тревога отражает более глубокую структурную проблему, которая выходит за рамки автоматизации и касается того, как саму ценность признают.

      «Мы достигли точки, в которой зрелость ИИ привела к тому, что почти все чувствуют себя неуверенно», — говорит Пратл, указывая на более широкое несоответствие между технологическим прогрессом и системами, предназначенными для вознаграждения человеческого вклада. По его мнению, существующие рамки для признания и финансовой отдачи либо не смогли эволюционировать, либо деградировали в то, что он описывает как спекулятивные или игровые среды, ссылаясь на события на крипторынках и экосистемах торговли, ориентированных на розничную торговлю.

      Центральный аргумент Пратла заключается в том, что ИИ ускоряет сдвиг, который продолжается уже много лет. «ИИ очень хорошо умеет превращать знания и выполнение этих знаний в товар», — объясняет он. «Редким ресурсом становится последний этап, экспертиза, суждение, возможность применения суждения». Поскольку знания становятся все более доступными, а выполнение все более автоматизированным, он утверждает, что различать высококачественную работу от низкокачественного результата становится значительно сложнее, особенно для неэкспертов, оценивающих это.

      Эта динамика создает то, что Пратл называет «мета-проблемой», когда объем доступной информации продолжает расти, но механизмы для проверки достоверности не успевают за этим. «Если вы не эксперт, вся высококачественная работа выглядит одинаково», — отмечает он, подчеркивая, что текущие системы предлагают ограниченные возможности для различения между точным пониманием и уверенными, но неподтвержденными утверждениями.

      💜 технологий ЕС Последние события на технологической сцене ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!В этой среде, по словам Пратла, видимость часто заменяет достоверность. Социальные платформы, по его оценке, склонны вознаграждать внимание, а не приоритизировать точность, позволяя тому, что он называет «самыми громкими голосами», превосходить более строгую, но менее заметную экспертизу. «Нет системы, которая вознаграждала бы за правильность», — говорит он. «Нет механизма для быстрой проверки людей и предоставления несогласным голосам места за столом».

      Пратл предполагает, что по мере того как контент, созданный ИИ, становится все более распространенным, отсутствие надежных сигналов достоверности рискует подорвать процесс принятия решений в различных секторах, от бизнеса до здравоохранения. Исследования показывают, что онлайн-дезинформация и дезинформация обходятся мировой экономике примерно в 78 миллиардов долларов в год, подчеркивая серьезность ситуации.

      В ответ Пратл предлагает экономику достоверности, которая по сути представляет собой систему, предназначенную для измерения, проверки и вознаграждения экспертизы более структурированным и масштабируемым образом. Вместо того чтобы сосредотачиваться только на результатах, эта модель смещает акцент на суждение и доверие. Таким образом, она помогает создать механизмы, которые приписывают ценность индивидуумам на основе качества и влияния их решений.

      Quadron, компания, которую он основал, позиционируется как усилие по созданию инфраструктуры, необходимой для такой системы. По словам Пратла, это включает три основных компонента.

      Первый — это корпоративный уровень, который вводит завершающий и целостный слой для работы внутри организаций. «У меня есть несколько платформ для повышения продуктивности, но часто я замечаю, что не хватает завершающего слоя для окончательного, комплексного использования», — говорит он. Этот слой, объясняет Пратл, предназначен для того, чтобы гарантировать, что людей признают за применение здравого суждения и предоставление проверенных результатов, а не за участие в текущих рабочих процессах без четкой атрибуции.

      Второй компонент — это слой проверки, направленный на модернизацию того, как структурируются и делятся знания. Пратл характеризует существующие системы интеллектуальной собственности как устаревшие и недостаточные для темпа и масштаба современного обмена знаниями. Вместо них Quadron разрабатывает механизмы, которые позволяют выявлять и оценивать идеи, сохраняя при этом соответствующий уровень безопасности.

      Третий элемент состоит из того, что Пратл называет рынками достоверности, которые отличаются от традиционных рынков прогнозов, сосредоточиваясь на специфической экспертизе в определенной области. «Это не обобщенная спекуляция. Вы не делаете ставки на внешние события, в которых не понимаете шансы», — объясняет он. Вместо этого эти рынки предназначены для калибровки достоверности в реальном времени, связывая людей с соответствующей экспертизой и позволяя оценивать их суждения в соответствующих контекстах. Он добавляет: «Организациям нужен контекст и структура, что требует другого методологического подхода. Индивидам нужны стимулы и вознаграждения, чтобы организовать свою информацию таким образом. Мы строим системы, чтобы обеспечить и то, и другое».

      Перспектива Пратла основана на карьере, охватывающей право, программное обеспечение с открытым исходным кодом, краудфандинг и криптовалюту, каждая из которых, по его словам, выявила ограничения в том, как системы стимулируют и поддерживают значимое участие. Размышляя об этих опытах, он делится: «Многие такие системы не имели структурной целостности на уровне стимулов, чтобы существовать за пределами своих первоначальных создателей, и они часто теряли согласованность, как только первоначальные мотивации ослабевали».

      Более личный катализатор возник во время медицинского кризиса, связанного с его матерью, когда доступ к критически важной информации оказался непостоянным, несмотря на то, что она была технически доступна. «Информация была централизована, но не была по-настоящему доступна», — говорит он, отмечая систему, где стимулы не соответствовали необходимости выявления действенных знаний.

      Окончательный результат, по его словам, зависел от неформальных сетей, а не от структурированных систем, что, по его мнению, является неприемлемой реальностью, учитывая доступные сейчас инструменты.

      В предстоящие годы, утверждает Пратл, дальнейшее развитие ИИ только усилит эти проблемы, если не будут введены новые системы для их решения. Без механизмов, которые вознаграждают точность и выявляют достоверную экспертизу, он предполагает, что процессы принятия решений рискуют стать все более зависимыми от видимости или случая, а не от обоснованного суждения.

      «Мы все эксперты», — говорит он. «Наша экспертиза ценна, если она структурирована и представлена правильным образом». По его мнению, экономика достоверности представляет собой возможность выровнять технологический прогресс с человеческой ценностью, обеспечивая, чтобы люди оставались активными участниками систем, управляемых ИИ, и при этом были признаны и вознаграждены за качество своих вкладов.