Perplexity подписывается на процессор Vera от Nvidia, поскольку производитель чипов выходит за рамки ускорителей ИИ.

      Перплексити стала одной из первых крупных компаний в области ИИ, которая заявила, что будет использовать новый процессор Vera от Nvidia, универсальный чип, на который Nvidia делает ставку, надеясь, что он поможет ей выйти за рамки ускорителей, которые сделали её самой ценной компанией в мире. Компания по поиску ИИ сообщила, что планирует запускать свои агентские рабочие нагрузки на Vera, присоединившись к ранней группе пользователей, которую Nvidia стремится продемонстрировать.

      Vera является процессорной частью платформы Vera Rubin от Nvidia, основанной на архитектуре Arm, с десятками кастомных ядер, созданных для поддержки следующего поколения ускорителей компании.

      Это также самый явный шаг Nvidia на рынок обычных серверных процессоров, пространство, долгое время контролируемое Intel и AMD, и он происходит в то время, когда Nvidia уже назвала Anthropic и OpenAI среди своих первых пользователей.

      Предложение Перплексити для этого чипа заключается в скорости выполнения конкретной задачи. Нейт Капп, вице-президент компании по корпоративной инфраструктуре, заявил, что Vera выполняла агентские задачи кодирования примерно в 1,5 раза быстрее, чем традиционные процессоры, которые использовала Перплексити, назвав её однопоточную производительность близкой к требованиям работы.

      Эта работа не маленькая. Перплексити сейчас обрабатывает более 400 миллионов поисковых запросов в месяц, каждый из которых проходит через инференс-пайплайн, который с самого начала полагался на оборудование Nvidia, включая GPU H100 и программное обеспечение Triton и TensorRT компании.

      Агентские функции — это то, что делает процессор важным в данном контексте. Когда система ИИ объединяет множество вызовов модели, использования инструментов и выполнения кода для завершения задачи, универсальный процессор, координирующий всё это, становится узким местом, столь же реальным, как и ускоритель, выполняющий сложные вычисления.

      Сама Vera является кастомным дизайном на базе Arm, соединяющим десятки ядер, разработанных Nvidia, с быстрой, низкопотребляющей памятью и высокоскоростным соединением с ускорителями компании. Предложение заключается в том, что чип, настроенный той же фирмой, которая производит GPU, может перемещать данные между двумя компонентами с меньшими потерями, чем стандартная деталь.

      Для Nvidia это одобрение имеет такое же значение, как и заказ. Компания сообщила инвесторам, что ожидает получить около 20 миллиардов долларов от продаж процессоров Vera в этом финансовом году, что является её первой ставкой на рынок универсальных вычислений, который она оценивает примерно в 200 миллиардов долларов.

      Этот шаг частично является защитным. Несколько крупнейших клиентов Nvidia, среди которых OpenAI, разрабатывают собственные чипы ИИ, и линия процессоров позволяет Nvidia продавать больше оборудования в каждом стойке, даже когда её ускорители сталкиваются с конкуренцией. Она также предлагает стартапам возможность использовать вычисления сейчас и платить позже, чтобы закрепить спрос.

      Широкая экосистема вокруг Vera Rubin быстро заполняется. На стороне памяти Nvidia и SK Hynix заключили многолетнее соглашение по поставке HBM4 для платформы, одно из нескольких соглашений о поставках, поддерживающих дорожную карту.

      Выбор Перплексити также говорит о том, куда движется поиск ИИ. Поскольку конкуренты интегрируют генеративные ответы во всё, что уже изменило способ поиска людей, стоимость выполнения этих ответов в больших масштабах стала конкурентной проблемой сама по себе.

      Дешевый инференс — это рычаг. Более быстрые процессоры позволяют компании обрабатывать больше запросов за те же деньги или внедрять агентские функции, которые объединяют множество вызовов без увеличения затрат.

      Для Перплексити, которая быстро росла и активно привлекала средства для финансирования этого роста, удержание стоимости за запрос близко к экзистенциальному вопросу. Каждая эффективность, которую она может извлечь из оборудования, — это маржа, которую не нужно искать у инвесторов или взимать с пользователей больше.

      Ни одна из сторон не сообщила, когда Vera будет поставляться в больших объемах, и Перплексити не уточнила, сколько из её флота перейдёт на новую платформу. Более сложное испытание наступит позже, когда Vera должна будет завоевать доверие предприятий, которые уже знают и доверяют Intel и AMD так, как они ещё не знают процессоров Nvidia.