Perplexity подписывается на процессор Vera от Nvidia, так как производитель чипов выходит за рамки ускорителей ИИ.

      Перплексити стала одной из первых крупных компаний в области ИИ, которая заявила, что будет использовать новый процессор Vera от Nvidia, универсальный чип, на который Nvidia ставит, надеясь, что он сможет вывести компанию за пределы ускорителей, которые сделали её самой ценной компанией в мире. Компания по поиску ИИ сообщила, что планирует запускать свои агентские рабочие нагрузки на Vera, присоединившись к ранней группе пользователей, которую Nvidia стремится продемонстрировать.

      Vera является процессорной частью платформы Vera Rubin от Nvidia, основанной на архитектуре Arm, с десятками специализированных ядер, созданных для поддержки следующего поколения ускорителей компании.

      Это также самый явный шаг Nvidia на рынок обычных серверных процессоров, пространство, долгое время контролируемое Intel и AMD, и он появляется в то время, когда Nvidia уже назвала Anthropic и OpenAI среди своих первых пользователей.

      Предложение Перплексити для чипа заключается в скорости выполнения конкретной задачи. Нэйт Капп, вице-президент компании по корпоративной инфраструктуре, заявил, что Vera выполняла агентские задачи кодирования примерно в 1,5 раза быстрее, чем традиционные процессоры, которые использовала Перплексити, назвав её однопоточную производительность близкой к необходимой для работы.

      Эта работа не маленькая. Перплексити сейчас обрабатывает более 400 миллионов поисковых запросов в месяц, каждый из которых проходит через инференс-пipeline, который с самого начала полагался на оборудование Nvidia, включая GPU H100 и программное обеспечение Triton и TensorRT компании.

      Агентские функции — это то, что делает процессор важным в данном контексте. Когда система ИИ связывает множество вызовов моделей, использования инструментов и выполнения кода для завершения задачи, универсальный процессор, координирующий всё это, становится узким местом, столь же реальным, как и ускоритель, выполняющий сложные вычисления.

      Сама Vera является специализированным дизайном Arm, объединяющим десятки ядер, созданных Nvidia, с быстрой, низкопотребляющей памятью и высокоскоростным соединением с ускорителями компании. Предложение заключается в том, что чип, настроенный той же фирмой, которая производит GPU, может перемещать данные между двумя компонентами с меньшими потерями, чем стандартная деталь.

      Для Nvidia это одобрение имеет такое же значение, как и заказ. Компания сообщила инвесторам, что ожидает получить около 20 миллиардов долларов от продаж процессоров Vera в этом финансовом году, что является её первой ставкой на рынок универсальных вычислений, который она оценивает примерно в 200 миллиардов долларов.

      Этот шаг частично защитный. Несколько крупнейших клиентов Nvidia, среди которых OpenAI, разрабатывают свои собственные чипы ИИ, и линия процессоров позволяет Nvidia продавать больше на каждом стойке, даже когда её ускорители сталкиваются с конкуренцией. Она также предлагает стартапам вычисления сейчас и оплату позже, чтобы закрепить спрос.

      Широкая экосистема вокруг Vera Rubin быстро заполняется. На стороне памяти Nvidia и SK Hynix заключили многолетнее соглашение по HBM4 для поставки платформы, одно из нескольких соглашений о поставках, поддерживающих дорожную карту.

      Выбор Перплексити также говорит о том, куда движется поиск ИИ. Поскольку конкуренты интегрируют генеративные ответы во всё, что уже изменило способ поиска людей, стоимость выполнения этих ответов в масштабе стала конкурентной проблемой сама по себе.

      Дешевый инференс — это рычаг. Более быстрые процессоры позволяют компании обслуживать больше запросов за те же затраты или внедрять агентские функции, которые связывают множество вызовов без роста расходов.

      Для Перплексити, которая быстро росла и активно привлекала средства для финансирования этого роста, удержание стоимости за запрос близко к экзистенциальному вопросу. Каждая эффективность, которую она может извлечь из оборудования, — это маржа, которую ей не нужно искать у инвесторов или взимать с пользователей больше.

      Ни одна из сторон не сообщила, когда Vera будет поставляться в больших объемах, и Перплексити не уточнила, сколько из её парка перейдёт на новую платформу. Более сложное испытание наступит позже, когда Vera должна будет завоевать доверие предприятий, которые уже знают и доверяют Intel и AMD так, как они ещё не знают процессоров Nvidia.