IBM apuesta $240 millones en inferencia barata y de código abierto para competir con los hyperscalers

      Un acuerdo a varios años con la startup Together AI colocará sistemas Blackwell de Nvidia en IBM Cloud, y la apuesta es que las empresas ahora se preocupan más por el costo de ejecutar IA que por el prestigio del modelo que la ejecuta.

      IBM ha decidido que el dinero en inteligencia artificial ya no está solo en construir el modelo más inteligente, sino en ejecutarlo de manera económica, y ha respaldado esa convicción con 240 millones de dólares.

      La compañía ha firmado un acuerdo a varios años con Together AI, una startup de San Francisco, para establecer un clúster de inferencia de IA a gran escala en IBM Cloud, y la propuesta está dirigida directamente a las empresas que intentan reducir sus facturas de IA.

      El clúster funcionará en sistemas Nvidia HGX B300, construidos sobre la arquitectura Blackwell que Nvidia comercializa como ajustada específicamente para inferencia, entrelazada con la red Ethernet Spectrum-X de la compañía, que es la misma receta que una ola de especialistas ha estado persiguiendo al apostar que las verdaderas ganancias de la IA residen en la inferencia económica en lugar de en ejecuciones de entrenamiento cada vez más grandes.

      Together AI es un socio interesante para elegir. Valuada en 8.3 mil millones de dólares en julio, su plataforma permite a las empresas entrenar y ejecutar cargas de trabajo en modelos de código abierto, incluidos DeepSeek, MiniMax y Kimi, y se presenta como una alternativa más económica y flexible a los sistemas cerrados y propietarios que dominan los titulares.

      Se informa que atiende alrededor de 400 billones de tokens al mes, una cifra que da una idea de cuánta inferencia cruda ahora fluye a través de estas tuberías, y de por qué un proveedor legado como IBM querría una parte de ese tráfico corriendo en su propia nube.

      La inferencia, el negocio de responder consultas una vez que un modelo está entrenado, se ha convertido silenciosamente en uno de los mayores impulsores de la demanda de capacidad de computación, razón por la cual esta capa ha atraído una competencia por dinero y talento.

      Nebius pagó recientemente 643 millones de dólares para absorber un equipo de 20 personas que trabajaban en la optimización de la inferencia, un precio que solo tiene sentido si crees que reducir el costo por token es donde ahora están los márgenes.

      La otra mitad de la historia es la lenta deriva empresarial hacia el código abierto. Las empresas quieren recortar lo que gastan en IA, los modelos abiertos están ganando tracción genuina dentro de grandes organizaciones.

      Y también hay una dimensión de seguridad, ya que las preocupaciones de ciberseguridad sobre modelos cerrados de Anthropic, OpenAI y Meta se citan como una razón por la cual algunas empresas preferirían ejecutar algo que puedan inspeccionar y alojar ellas mismas.

      Nada de eso es una preferencia puramente técnica, porque para un banco o un hospital, la capacidad de mantener datos sensibles en una infraestructura que controla es a menudo el objetivo principal.

      Para IBM, alojar inferencia económica y de código abierto es una forma de elegir una pelea que podría ganar.

      La compañía nunca iba a superar a Amazon, Microsoft o Google en pura escala de nube, por lo que posicionar IBM Cloud como el lugar para ejecutar modelos abiertos de manera asequible le permite competir en economía en lugar de en tamaño, y se alinea perfectamente con un apetito europeo más amplio por infraestructuras que no están bloqueadas a un solo gigante estadounidense.

      Ese apetito se está manifestando en otros lugares del mapa. El impulso por construir capacidad de inferencia en la que las empresas y los gobiernos puedan confiar y controlar ha dado lugar a organizaciones como TensorX, que recaudó 8 millones de euros para construir inferencia de IA soberana para Europa en Nvidia Blackwell, un recordatorio de que el mismo silicio que sustenta la apuesta de IBM se está conectando a un argumento más amplio sobre quién posee la plomería.

      Hay un atisbo de fiebre del oro en todo esto, y IBM lo sabe. El concurso abierto versus cerrado en la IA empresarial a menudo se ha enmarcado como un debate sobre capacidad.

      Sin embargo, la batalla más reveladora ahora es sobre el precio, y un clúster de 240 millones de dólares lleno de chips Blackwell es la forma en que IBM dice que prefiere vender las palas y picos en lugar de la promesa.

      Si la inferencia económica y abierta resulta ser tan pegajosa y rentable como sus patrocinadores esperan, es la apuesta que todo el sector está haciendo en silencio, y un clúster de 240 millones de dólares es una de sus apuestas más grandes hasta ahora.