IBM ставит 240 миллионов долларов на дешевую, открытую инференцию, чтобы противостоять гипермасштабным компаниям

      Многоступенчатое соглашение со стартапом Together AI позволит системам Nvidia Blackwell работать в IBM Cloud, и ставка заключается в том, что предприятия сейчас больше заботятся о стоимости работы ИИ, чем о престижности модели, выполняющей эту работу.

      IBM решила, что деньги в области искусственного интеллекта больше не только в создании самой умной модели, но и в ее дешевой эксплуатации, и вложила в эту убежденность 240 миллионов долларов.

      Компания подписала многолетнее соглашение с Together AI, стартапом из Сан-Франциско, чтобы создать кластер ИИ-инференса большого масштаба в IBM Cloud, и предложение нацелено на предприятия, стремящиеся сократить свои расходы на ИИ.

      Кластер будет работать на системах Nvidia HGX B300, построенных на архитектуре Blackwell, которую Nvidia позиционирует как специально настроенную для инференса, объединенной с сетевым оборудованием Spectrum-X компании, что является тем же рецептом, который преследует волна специалистов, ставящих на то, что настоящие прибыли ИИ заключаются в дешевом инференсе, а не в постоянно увеличивающихся тренировочных запусках.

      Together AI — интересный партнер. Оцененный в 8,3 миллиарда долларов на июль, его платформа позволяет компаниям обучать и запускать рабочие нагрузки на открытых моделях, включая DeepSeek, MiniMax и Kimi, и позиционирует себя как более дешевую и гибкую альтернативу закрытым, проприетарным системам, которые доминируют в заголовках.

      Сообщается, что он обрабатывает около 400 триллионов токенов в месяц, что дает представление о том, сколько сырого инференса сейчас проходит через эти трубы, и о том, почему такой устаревший поставщик, как IBM, хотел бы получить долю этого трафика на своем облаке.

      Инференс, бизнес фактического ответа на запросы после обучения модели, тихо стал одним из крупнейших факторов спроса на вычислительные мощности, и именно поэтому этот слой привлек внимание денег и талантов.

      Недавно Nebius заплатила 643 миллиона долларов за поглощение команды из 20 человек, работающей над оптимизацией инференса, цена, которая имеет смысл только если вы верите, что снижение стоимости за токен — это то, где сейчас находятся маржи.

      Вторая половина истории — это медленное движение предприятий к открытому исходному коду. Бизнесы хотят сократить свои расходы на ИИ, открытые модели получают реальное признание внутри крупных организаций.

      И есть также аспект безопасности, поскольку беспокойства по поводу кибербезопасности закрытых моделей от Anthropic, OpenAI и Meta упоминаются как одна из причин, по которой некоторые компании предпочли бы использовать что-то, что они могут проверить и разместить сами.

      Ничто из этого не является чисто техническим предпочтением, потому что для банка или больницы возможность хранить чувствительные данные на инфраструктуре, которую они контролируют, часто является самой сутью.

      Для IBM размещение дешевого, открытого инференса — это способ выбрать бой, который она действительно может выиграть.

      Компания никогда не могла бы превзойти Amazon, Microsoft или Google по чистому масштабу облака, поэтому позиционирование IBM Cloud как места для недорогого запуска открытых моделей позволяет ей конкурировать по экономике, а не по размеру, и это хорошо сочетается с более широким европейским интересом к инфраструктуре, которая не привязана к одному американскому гиганту.

      Этот интерес проявляется и в других местах на карте. Стремление создать инференс-емкость, которой могут доверять и контролировать предприятия и правительства, породило такие компании, как TensorX, которая собрала 8 миллионов евро для создания суверенного ИИ-инференса для Европы на Nvidia Blackwell, напоминая о том, что тот же кремний, на котором основана ставка IBM, подключается к более широкому аргументу о том, кто владеет трубопроводами.

      В этом есть запах золотой лихорадки, и IBM это знает. Соревнование открытого и закрытого в корпоративном ИИ часто рассматривалось как дебаты о возможностях.

      Тем не менее, более показательная битва теперь касается цены, и кластер стоимостью 240 миллионов долларов, полный чипов Blackwell, — это способ IBM сказать, что она предпочла бы продавать лопаты и кирки, чем обещания.

      Будет ли дешевый, открытый инференс таким же устойчивым и прибыльным, как надеются его сторонники, — это ставка, которую весь сектор тихо делает, и кластер стоимостью 240 миллионов долларов является одной из его крупных ставок на данный момент.