Парадокс обратной информации Наделлы: скрытая стоимость ИИ

      Генеральный директор Microsoft Сатья Наделла говорит, что каждая компания, использующая ИИ, платит за него дважды: один раз деньгами и один раз секретами, которые она передает, чтобы сделать это полезным. Он называет это Парадоксом Обратной Информации. Он также управляет компанией, которая помогла создать эту ловушку.

      Сатья Наделла предупреждает всех, кто покупает ИИ. Вы платите за него дважды. А второй платеж — это ваши коронные сокровища.

      В длинном эссе на X, которое собрало 10 миллионов просмотров, глава Microsoft изложил идею, которую он называет Парадоксом Обратной Информации. Это остроумно, немного странно и более чем немного неловко, исходя от него.

      Платите один раз деньгами, один раз секретами

      Название является отсылкой к нобелевскому экономисту Кеннету Арроу. Исходный парадокс Арроу заключался в проблеме продавца. Чтобы продать информацию, вам часто нужно ее раскрыть, а как только она раскрыта, почему кто-то должен платить?

      Наделла переворачивает это. В эпоху ИИ, утверждает он, риск лежит на покупателе. Чтобы сделать модель действительно полезной, вам нужно кормить ее своими собственными знаниями. Чем лучше вы хотите, чтобы она работала, тем больше вы ей даете.

      Таким образом, вы платите деньгами, а затем снова чем-то более ценным: ноу-хау, которое делает вашу компанию вашей. «Продавец узнает о вас все больше и больше, пока вы используете то, что купили», — написал он, — «в то время как вы очень мало узнаете о том, что продавец узнает в ответ».

      Утечка, которую вы не можете увидеть

      Умная часть заключается в том, что он говорит, что знания ускользают. Не через какое-то очевидное нарушение, а через то, что он называет «выбросами»: подсказки, которые вы пишете, инструменты, которые используют ваши агенты, и, прежде всего, исправления, которые вы вносите, когда модель ошибается.

      Каждое исправление обучает модель. «Это тот вид знаний, который конкурент никогда не сможет купить», — написал Наделла, — «и тот, который утечет почти незаметно: след за следом, исправление за исправлением, оценка за оценкой».

      Его вердикт прямолинеен. Если обучение течет только в одном направлении, деньги текут вместе с ним, к тому, кто владеет ИИ, а не к тому, кто владеет знаниями.

      Ирония выполняет большую работу

      Вот в чем загвоздка. Это говорит Microsoft.

      Редмонд вложил миллиарды в OpenAI и разместил ChatGPT на Azure. Его помощник Copilot создан для глубокого доступа к электронной почте, файлам и чату компании. В 2024 году примерно половина руководителей данных в одном опросе приостановила или ограничила использование Copilot именно из-за этого страха, как отметил Register.

      К его чести, Наделла указывает на двойные стандарты своей стороны. Лаборатории ИИ требуют права на добросовестное использование для обучения на публичной сети, а затем ограничивают клиентов в том, чтобы делать то же самое с выходными данными модели. Он не прав. Он также продает решение.

      Ответ Наделлы и его предложение

      Решение, говорит он, — это жесткая «граница доверия» вокруг данных, оценок и памяти компании. Ничто не пересекает ее, «даже выбросы интеллекта, без согласия». Он заимствует фразу у Алекса Карпа из Palantir о желании владеть средствами производства.

      Его контрольный список состоит из пяти пунктов. Владейте своими оценками. Создавайте обучающие среды внутри своей собственной границы арендатора. Держите уровень оркестрации свободным от какой-либо одной модели. Затем позвольте всему этому накапливаться. Microsoft, естественно, продает продукты, которые делают каждую из этих вещей.

      Уберите предложение, и основная мысль все равно остается. Это тот же самый руководитель, который выступил против гигантов ИИ, которых он помог построить. Передовые лаборатории тихо накапливают состояние на ноу-хау других компаний. А фирмы, которые передают его, пока что делают это бесплатно.