Nebius приобретает 20-численный Eigen AI за 643 миллиона долларов, поскольку оптимизация вывода становится самым ценным слоем инфраструктуры ИИ.

      TL;DRNebius, нидерландский неоклауд, который отделился от Яндекса в 2024 году, согласился приобрести Eigen AI за 643 миллиона долларов, оценивая стартап из 20 человек, выпускников MIT, примерно в 32 миллиона долларов на сотрудника. Технология оптимизации вывода Eigen максимизирует количество токенов на каждом графическом процессоре Nvidia, что является наиболее ценным качеством в инфраструктуре ИИ. Сделка укрепляет платформу вывода Token Factory Nebius по мере быстрого расширения рынка неоклаудов, где CoreWeave и FluidStack привлекают миллиарды.

      Группа Nebius, нидерландская компания облачных вычислений, которая отделилась от российского интернет-провайдера Яндекс в 2024 году, согласилась приобрести Eigen AI за примерно 643 миллиона долларов в акциях и наличных. Сделка, объявленная 1 мая, касается стартапа из 20 человек, основанного выпускниками лаборатории HAN MIT. На рынке, где крупнейшие компании ИИ оцениваются в сотни миллиардов, а самые заметные приобретения включают тысячи инженеров, сумма в 643 миллиона долларов за 20 человек требует объяснения. Объяснение — это вывод. Технология Eigen AI максимизирует количество токенов, основных единиц данных в больших языковых моделях, которые каждый чип Nvidia может генерировать при запуске моделей ИИ. "Это как олимпийский вид спорта на текущем рынке: кто может извлечь больше токенов за ту же цену?" — сказал Роман Чернин, сооснователь Nebius и главный бизнес-офицер. Члены команды Eigen, по его словам, "как олимпийские бегуны в этой дисциплине." Оказалось, что эта дисциплина стоит 32 миллиона долларов на человека.

      Экономика

      Самая дорогая проблема в индустрии ИИ — это не обучение моделей. Это их запуск. Обучение передовой модели — это одноразовые капитальные затраты, измеряемые сотнями миллионов долларов, которые производят набор весов. Вывод, процесс запуска этих весов для генерации ответов для пользователей, является повторяющейся операционной затратой, которая увеличивается с каждым запросом, каждым вызовом API и каждым произведенным токеном. Для компаний, которые продают ИИ как услугу, вывод является доминирующей статьей затрат. Каждая процентная точка эффективности, достигнутая в выводе, каждый дополнительный токен, выжатый из того же графического процессора Nvidia, напрямую переводится в более низкие затраты или более высокие маржи. Eigen AI специализируется именно на этом: оптимизации производительности моделей с открытым исходным кодом от OpenAI, Alibaba, Meta и Nvidia, чтобы каждый чип производил больше выходных данных при том же потреблении электроэнергии и кремния.

      Техника, которая сделала основателей Eigen AI заметными в этой области, — это квантование весов с учетом активации, метод сжатия моделей ИИ с более высокой точностью до более низкой без значительной потери качества выхода. Сооснователь Вэй-Чен Ванг получил премию MLSys 2024 за лучшую статью за эту работу. На практике квантование позволяет модели, которая обычно требует четыре графических процессора для работы, работать на двух, или позволяет модели, работающей на одном графическом процессоре, генерировать токены в два раза быстрее. Для облачного провайдера, такого как Nebius, который привлек 700 миллионов долларов от Nvidia и Accel для расширения своего парка графических процессоров, возможность извлекать больше ценности из каждого чипа меняет экономику всего бизнеса.

      Приобретатель

      💜 технологий ЕС Последние слухи из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!Nebius занимает специфическую позицию на рынке инфраструктуры ИИ. Это одна из группы компаний, называемых "неоклаудами", облачных провайдеров, которые арендуют вычислительные мощности ИИ предприятиям, а не создают потребительские продукты. Установленные гипермасштаберы, такие как AWS, Microsoft Azure и Google Cloud, доминируют на облачном рынке в целом, но неоклады вырезали нишу, предлагая оптимизированную для ИИ инфраструктуру с более низкими накладными расходами и более быстрой разверткой. Nebius утроил свою мощность графических процессоров Nvidia в своем дата-центре в Финляндии, развернув чипы H200 от Nvidia, и запустил дата-центр в Париже в рамках инвестиционного плана на 1 миллиард долларов в Европе. В ноябре он представил Token Factory, управляемый продукт вывода, который конкурирует со стартапами, такими как Fireworks и Baseten, а также с собственными предложениями вывода гипермасштаберов.

      Приобретение Eigen AI предназначено для того, чтобы сделать Token Factory самой эффективной платформой вывода на рынке. С интегрированным слоем оптимизации Eigen в Token Factory Nebius может предложить клиентам более низкие цены за токен или более высокую пропускную способность с того же оборудования, что является конкурентным преимуществом на рынке, где цены прозрачны, а затраты на переключение низки. Рынок неоклаудов быстро расширяется, компании, такие как CoreWeave, подписывают инфраструктурные контракты на десятки миллиардов. FluidStack, еще один неоклауд, ведет переговоры о привлечении 1 миллиарда долларов при оценке в 18 миллиардов долларов. Конкурентная динамика ясна: кто может предложить больше токенов за доллар за графический процессор, тот и победит.

      Стратегия

      Сделка с Eigen является вторым приобретением Nebius за три месяца, после покупки в феврале компании Tavily, занимающейся поиском агентов ИИ, за 275 миллионов долларов. Чернин сказал, что компания рассматривает другие возможности сделок. Эта схема предполагает стратегию приобретения небольших, технически отличных команд, чьи возможности потребовали бы годы для создания внутри компании. Eigen AI приносит 20 человек и стек оптимизации производственного уровня. Tavily принесла инфраструктуру поиска для агентов ИИ. Оба приобретения добавляют возможности, которые поднимают Nebius вверх по стеку, от аренды сырой мощности графических процессоров к предоставлению более ценных услуг, которые напрямую взаимодействуют с клиентами.

      "Мы не хотим быть инфраструктурой, а кто-то выше нас работает с реальными клиентами," — сказал Чернин. Это дилемма неоклауда в одном предложении. Аренда мощности графических процессоров прибыльна, но становится товарной. Маржи улучшаются по мере приближения к уровню приложений: от сырых вычислений до управляемого вывода, до оптимизированного обслуживания моделей, до тонкой настройки конвейеров, до конечных точек корпоративного уровня. Технология Eigen AI работает на пересечении вычислений и обслуживания моделей, что именно там, где ценность в инфраструктуре ИИ мигрирует. Цена в 643 миллиона долларов, примерно 32 миллиона долларов на сотрудника, отражает рынок, где самым дефицитным ресурсом являются не чипы или капитал, а люди, которые знают, как заставить чипы производить больше токенов за меньшие деньги. С учетом нехватки мощности дата-центров Nebius резервирует часть своей вычислительной мощности для Token Factory, а не продает ее в многолетних оптовых сделках, взимая премиальные цены за контракты на вывод с коротким уведомлением. Экономика работает только в том случае, если каждый графический процессор генерирует как можно больше токенов. Именно это Nebius только что купил.