Perplexity подписывается на процессор Vera от Nvidia, поскольку производитель чипов продвигается дальше в области ускорителей ИИ.

      Перплексити стала одной из первых крупных компаний в области ИИ, которая заявила, что будет использовать новый процессор Vera от Nvidia, универсальный чип, на который Nvidia ставит, полагая, что он сможет вывести компанию за пределы ускорителей, которые сделали её самой ценной компанией в мире. Компания по поиску ИИ сообщила, что планирует запускать свои агентские рабочие нагрузки на Vera, присоединившись к ранней группе пользователей, которую Nvidia стремится продемонстрировать.

      Vera является процессорной частью платформы Vera Rubin от Nvidia, основанной на архитектуре Arm, с десятками специализированных ядер, созданных для поддержки следующего поколения ускорителей компании.

      Это также самый явный шаг Nvidia на рынок обычных серверных процессоров, пространство, долгое время контролируемое Intel и AMD, и он происходит в то время, когда Nvidia уже назвала Anthropic и OpenAI среди своих первых пользователей.

      Предложение Перплексити для этого чипа заключается в скорости выполнения конкретной задачи. Нэйт Капп, вице-президент компании по корпоративной инфраструктуре, заявил, что Vera выполняет агентные кодовые задачи примерно в 1,5 раза быстрее, чем традиционные процессоры, которые использовала Перплексити, назвав её однопоточную производительность близкой к требованиям работы.

      Эта работа не мала. Перплексити сейчас обрабатывает более 400 миллионов поисковых запросов в месяц, каждый из которых проходит через инференс-пайплайн, который с самого начала полагался на оборудование Nvidia, включая GPU H100 и программное обеспечение Triton и TensorRT компании.

      Агентные функции — это то, что делает процессор важным в данном контексте. Когда система ИИ объединяет множество вызовов моделей, использования инструментов и выполнения кода для завершения задачи, универсальный процессор, координирующий всё это, становится узким местом, столь же реальным, как и ускоритель, выполняющий сложные вычисления.

      Сама Vera является специализированным дизайном на базе Arm, объединяющим десятки ядер, созданных Nvidia, с быстрой, низкопотребляющей памятью и высокоскоростным соединением с ускорителями компании. Предложение заключается в том, что чип, настроенный той же фирмой, которая производит GPU, может передавать данные между двумя компонентами с меньшими потерями, чем стандартная деталь.

      Для Nvidia это одобрение имеет такое же значение, как и заказ. Компания сообщила инвесторам, что ожидает получить около 20 миллиардов долларов от продаж процессоров Vera в этом финансовом году, что является её первоначальным предложением на рынке универсальных вычислений, который она оценивает примерно в 200 миллиардов долларов.

      Этот шаг частично является защитным. Несколько крупнейших клиентов Nvidia, среди которых OpenAI, разрабатывают собственные чипы ИИ, и линия процессоров позволяет Nvidia продавать больше каждого стойки, даже когда её ускорители сталкиваются с конкуренцией. Она также предлагает стартапам вычисления сейчас и оплату позже, чтобы закрепить спрос.

      Широкая экосистема вокруг Vera Rubin быстро заполняется. На стороне памяти Nvidia и SK Hynix заключили многолетнее соглашение по поставке HBM4 для платформы, одно из нескольких соглашений о поставках, поддерживающих дорожную карту.

      Выбор Перплексити также говорит о том, в каком направлении движется поиск ИИ. Поскольку конкуренты интегрируют генеративные ответы во всё, что уже изменило способ поиска людей, стоимость выполнения этих ответов в масштабе стала конкурентной проблемой сама по себе.

      Дешёвый инференс — это рычаг. Более быстрые процессоры позволяют компании обслуживать больше запросов за те же затраты или внедрять агентные функции, которые объединяют множество вызовов без роста расходов.

      Для Перплексити, которая быстро росла и активно привлекала средства для финансирования этого роста, удержание стоимости за запрос близко к экзистенциальному вопросу. Каждая эффективность, которую она может извлечь из оборудования, — это маржа, которую не нужно искать у инвесторов или взимать с пользователей больше.

      Ни одна из сторон не сообщила, когда Vera будет поставляться в больших объемах, и Перплексити не уточнила, сколько из её парка перейдёт на новую платформу. Более сложное испытание наступит позже, когда Vera должна будет завоевать доверие предприятий, которые уже знают и доверяют Intel и AMD так, как они ещё не знают процессоров Nvidia.