Ваше следующее функциональное обновление программного обеспечения для бизнеса не будет отправлено. Оно будет сгенерировано.

      TL;DREnterprise программное обеспечение приближается к изменению, когда AI-ассистенты генерируют функции по запросу, а не отправляют их через бэклоги продуктов. Вместо того чтобы подавать запрос и ждать месяцы, пользователь описывает, что ему нужно, и система генерирует небольшую программу для выполнения этой задачи. Статья исследует, что это означает для продуктовых команд, безопасности, управления и определения самой «функции».

      Бэклог функций предприятия — это место, куда идут хорошие пользовательские запросы, чтобы ждать. Это ожидание скоро станет намного короче, не потому что продуктовые команды стали быстрее, а потому что недостающая функция теперь может быть сгенерирована в момент запроса и отброшена через тридцать секунд.

      Руководитель команды поддержки открывает свое приложение для помощи и спрашивает:

      «Покажите мне все заявки за этот месяц, которые были решены, а затем повторно открыты в течение 48 часов, сгруппированные по агенту, который их закрыл».

      Ни один отчет этого не делает. Ни одна комбинация фильтров не может это выразить. Ни одна панель инструментов не существует.

      Несколько лет назад это стало бы заявкой для продуктовой команды, зарегистрированной, приоритизированной и часто доставленной с опозданием или вовсе не доставленной. В последнее время AI-ассистент мог бы извлечь статью из базы знаний, объясняющую, как она могла бы экспортировать данные заявок и анализировать их в таблице.

      Теперь есть третья возможность. Ассистент генерирует небольшую программу для именно этого запроса. Программа сканирует записи заявок, сопоставляет каждое событие решения с последующими повторными открытиями, проверяет, был ли промежуток менее 48 часов, и возвращает сгруппированное резюме. Модель получает эту таблицу и объясняет шаблон.

      Продуктовая команда никогда не создавала отчет. Пользователь никогда не писал код. Для одной задачи недостающая функция существовала именно там, где она была нужна.

      Это не лучшее извлечение. Это начало программируемого контекста.

      Извлечение выбирает доказательства. Код вычисляет новые доказательства.

      RAG решило подлинную проблему: пользователи могли задавать вопросы на естественном языке и получать ответы, основанные на источниках, которые интерфейс никогда не показывал. Но извлечение выбирает из уже существующих доказательств: документа, отрывка, строки.

      Многие вопросы предприятий не отвечаются никаким существующим артефактом. Они отвечаются процедурой: фильтрацией, объединением, вычислением и обобщением по источникам.

      Какие заявки были повторно открыты только после передачи в другую команду? Какие отчеты о расходах превышают среднее значение по отделу более чем на половину? Какие развертывания провалились на этой неделе, которые также провалились на прошлой неделе, и что изменилось между ними?

      Продуктовая команда может заранее создать общие процедуры. Она не может предсказать все из них.

      Это и есть разрыв, который закрывает программируемый контекст. Модель переводит намерение пользователя в временную программу. Приложение выполняет ее в соответствии с утвержденными возможностями и помещает только вычисленный результат в контекстное окно. Это не интерпретатор общего назначения с доступом ко всему языку, приложение точно определяет, какие операции может вызывать сгенерированный код. Код может существовать для одного запроса, сгенерирован, выполнен, зарегистрирован, отброшен.

      Пользователи решат, что AI на самом деле видит.

      Каждая модель AI имеет ограниченную рабочую память, контекстное окно, которое определяет, о чем она может рассуждать по каждому запросу. Управление этим окном было невидимой сантехникой, принадлежащей командам платформы. Это остается критически важным. Но более крупный сдвиг становится возможным: пользователи определяют, что входит в контекст, описывая вычисление, которое им нужно.

      «Покажите мне разрешенные заявки, где клиент ответил в течение дня, какие общие темы?» «Сравните время первого ответа по агентам в этом месяце по сравнению с прошлым и отметьте тех, кто стал медленнее.» «Найдите отчеты о расходах, поданные в последний день квартала, сгруппированные по утверждающему.»

      Каждый запрос — это временная функция. Сгенерированная программа вычисляет артефакт в форме ответа, и только этот артефакт входит в контекст. Это настройка контекста по намерению, а не по настройке подсказок.

      Где на самом деле выполняется сгенерированный код?

      Если модель может сгенерировать надежную программу, что-то все равно должно ее выполнять. Песочницы на стороне сервера — очевидный выбор для тяжелых вычислений и объединений между системами. Но есть среда выполнения, которая уже открыта у большинства пользователей предприятий: браузер.

      Каждое веб-приложение для предприятий поставляет движок JavaScript каждому пользователю, который входит в систему. Этот движок может выполнять сгенерированный код без отдельной серверной службы, шага развертывания или запроса инфраструктуры. Пользователь не устанавливает ничего и не переключает инструменты, вычисление происходит внутри продукта, который он уже использует.

      Выполнение на стороне клиента также имеет важное архитектурное преимущество: сессия браузера уже представляет вошедшего в систему пользователя.

      Предположим, что приложение для помощи предоставляет сгенерированному JavaScript узкий интерфейс, listTickets, getTicketTimeline, getAgentStats. Каждый вызов отправляется на сервер, используя делегированную личность текущего пользователя. Те же правила, основанные на ролях и уровне записей, которые управляют экранами приложения, управляют сгенерированным вычислением. Не требуется отдельная учетная запись службы с более широким доступом.

      Это обходит повторяющуюся проблему архитектуры агента: центральная личность, которая может видеть больше, чем человек, задающий вопрос. Программа извлекает только записи, которые текущий пользователь имеет право видеть, обрабатывает их локально и отправляет компактный результат модели, уменьшая как использование контекста, так и ненужное перемещение данных.

      Выполнение на стороне клиента становится стратегией инженерии контекста: вычислять рядом с пользователем, под личностью пользователя и предоставлять модели доказательства в форме ответа, а не сырые записи.

      Личность необходима, но недостаточна.

      Существует опасная версия этой идеи: сгенерировать JavaScript и выполнить его с помощью eval() внутри главной страницы приложения, предоставляя ему полный доступ к DOM, хранилищу браузера, конечным точкам записи и исходящим сетям.

      Существует более безопасный путь в языке. Новый конструктор Function() компилирует строку в функцию, которая не может захватить локальные переменные вызывающей области, но она все равно выполняется в глобальной области, если не будет дополнительно ограничена. В сочетании с песочницей iframe или worker, это становится практическим пределом выполнения, где приложение передает сгенерированной функции только те возможности, которые оно выбирает.

      Запуск на клиенте не делает авторизацию автоматической. Браузер предоставляет личность; сервер все равно должен авторизовать каждый API-запрос.

      Убедительный дизайн предоставляет сгенерированному коду возможности, а не учетные данные. Он выполняется в изолированном worker, песочнице или ограниченной среде выполнения, без неограниченного доступа к документу, куки, сети или файловой системе. Приложение открывает небольшой набор типизированных, подлежащих аудиту операций. Чтения являются стандартными. Записи требуют отдельного разрешения и, для значительных действий, явного подтверждения.

      Среда выполнения нуждается в ограничениях по времени выполнения, памяти, размеру результата и количеству вызовов API. Каждый запуск должен регистрировать сгенерированную программу, запрашивающую личность, вызванные возможности и происхождение данных.

      Еще одна граница имеет значение и легко упустить: разрешение на просмотр записи не подразумевает разрешение на отправку ее в любую конечную точку модели. Прежде чем вычисленный результат войдет в контекстное окно, приложение должно применить свои политики обработки данных и соответствия модели.

      Принцип прост: пусть сгенерированный код вычисляет. Никогда не позволяйте ему сбежать.

      От каталогов функций к вычислительным средам.

      JavaScript на стороне клиента и навыки на стороне сервера — это два примера одного и того же возникающего шаблона.

      Переиспользуемый навык может содержать проверенный Python-скрипт для повторяющейся задачи. Эфемерная программа может быть сгенерирована для одного вопроса и больше никогда не выполняться. Среда выполнения браузера подходит для интерактивного анализа под делегированной личностью. Песочница сервера обрабатывает дорогостоящие вычисления и доступ между системами.

      Продуктовые команды все еще постав