IBM ставит 240 миллионов долларов на дешевый, открытый исходный код для инференса, чтобы конкурировать с гипермасштабными компаниями

      Многоступенчатое соглашение со стартапом Together AI позволит системам Nvidia Blackwell работать в IBM Cloud, и ставка заключается в том, что предприятия теперь больше заботятся о стоимости работы ИИ, чем о престижности модели, выполняющей эту работу.

      IBM решила, что деньги в искусственном интеллекте больше не только в создании самой умной модели, но и в ее недорогой эксплуатации, и вложила в это убеждение 240 миллионов долларов.

      Компания подписала многоступенчатое соглашение с Together AI, стартапом из Сан-Франциско, для создания крупномасштабного кластера ИИ-инференса в IBM Cloud, и предложение нацелено на предприятия, стремящиеся сократить свои расходы на ИИ.

      Кластер будет работать на системах Nvidia HGX B300, построенных на архитектуре Blackwell, которую Nvidia позиционирует как специально настроенную для инференса, объединенной с сетевым решением Spectrum-X компании, что является тем же рецептом, который преследует волна специалистов, ставящих на то, что настоящая прибыль ИИ заключается в дешевом инференсе, а не в постоянно увеличивающихся тренировочных запусках.

      Together AI — интересный партнер. Оцененная в 8,3 миллиарда долларов на июль, ее платформа позволяет компаниям обучать и запускать рабочие нагрузки на открытых моделях, включая DeepSeek, MiniMax и Kimi, и она позиционирует себя как более дешевую и гибкую альтернативу закрытым, проприетарным системам, которые доминируют в заголовках.

      Сообщается, что она обслуживает около 400 триллионов токенов в месяц, что дает представление о том, сколько сырого инференса сейчас проходит через эти трубы, и о том, почему такой устаревший поставщик, как IBM, хотел бы получить долю этого трафика, работающего на его собственном облаке.

      Инференс, бизнес фактического ответа на запросы после обучения модели, тихо стал одним из крупнейших драйверов спроса на вычислительные мощности, и именно поэтому этот слой привлек внимание денег и талантов.

      Недавно Nebius заплатила 643 миллиона долларов, чтобы поглотить команду из 20 человек, работающую над оптимизацией инференса, цена, которая имеет смысл только если вы верите, что снижение стоимости за токен — это то, где сейчас находятся маржи.

      Вторая половина истории — это медленное движение предприятий к открытому исходному коду. Бизнесы хотят сократить свои расходы на ИИ, открытые модели получают реальное признание внутри крупных организаций.

      И есть также аспект безопасности, поскольку беспокойства по поводу кибербезопасности закрытых моделей от Anthropic, OpenAI и Meta упоминаются как одна из причин, по которой некоторые компании предпочли бы запускать что-то, что они могут проверить и разместить сами.

      Ничто из этого не является чисто техническим предпочтением, потому что для банка или больницы возможность хранить чувствительные данные на инфраструктуре, которую они контролируют, часто является самой сутью.

      Для IBM размещение дешевого, открытого инференса — это способ выбрать бой, который она действительно может выиграть.

      Компания никогда не сможет превзойти Amazon, Microsoft или Google по чистому масштабу облака, поэтому позиционирование IBM Cloud как места для недорогого запуска открытых моделей позволяет ей конкурировать по экономике, а не по размеру, и это хорошо сочетается с более широким европейским интересом к инфраструктуре, которая не привязана к одному американскому гиганту.

      Этот интерес проявляется и в других местах на карте. Стремление создать инференс-емкость, которой могут доверять и контролировать предприятия и правительства, породило такие компании, как TensorX, которая собрала 8 миллионов евро для создания суверенного инференса ИИ для Европы на Nvidia Blackwell, напоминая о том, что тот же кремний, на котором основана ставка IBM, подключается к более широкому аргументу о том, кто владеет инфраструктурой.

      В этом есть запах золотой лихорадки, и IBM это знает. Соревнование открытого и закрытого в корпоративном ИИ часто рассматривалось как дебаты о возможностях.

      Тем не менее, более показательная битва сейчас касается цены, и кластер стоимостью 240 миллионов долларов, полный чипов Blackwell, — это способ IBM сказать, что ей больше нравится продавать лопаты и кирки, чем обещания.

      Доказать, что дешевый, открытый инференс окажется таким же устойчивым и прибыльным, как надеются его сторонники, — это ставка, которую весь сектор тихо делает, и кластер стоимостью 240 миллионов долларов — это одна из его крупных ставок на данный момент.