Nvidia pagó a Groq 20 mil millones de dólares y se llevó a sus mejores ingenieros. Ahora Groq está recaudando 650 millones de dólares por lo que queda.

      TL;DRDespués de la no-adquisición de $20 mil millones de Nvidia, Groq está recaudando $650 millones de inversores existentes para su nube de inferencia. Dos patrocinadores garantizan la ronda.

      Groq está recaudando $650 millones de inversores existentes para financiar su negocio de nube de inferencia, informó Axios. La recaudación llega seis meses después de que Nvidia cerrara una no-adquisición de $20 mil millones que pagó a los inversores de Groq en efectivo, tomó varios ingenieros senior y licenció la tecnología de hardware de Groq.

      Los mismos inversores que fueron pagados en diciembre ahora han sido solicitados para reinvertir. Disruptive e Infinitium han acordado llenar la ronda si otros inversores existentes declinan sus participaciones proporcionales. La financiación está, de hecho, garantizada.

      La empresa está siendo liderada de manera interina por el CEO Adam Winter y el CFO Matt Eng. Varios empleados senior de alto nivel se fueron a Nvidia como parte del acuerdo de diciembre. Lo que queda es el negocio de nube de inferencia de Groq, que permite a desarrolladores y empresas alojar aplicaciones intensivas en inferencia en el hardware propietario de Unidad de Procesamiento de Lenguaje de Groq.

      La inferencia, el procesamiento que ocurre después de que se envía un aviso de IA, es ahora un mercado mucho más grande que el entrenamiento de modelos. Cada consulta de ChatGPT, cada respuesta de Claude, cada acción de agente de IA requiere computación de inferencia. La economía favorece el silicio diseñado específicamente que puede entregar tokens a un costo más bajo y a una velocidad más alta que las GPU de propósito general.

      La arquitectura LPU de Groq fue diseñada específicamente para esta carga de trabajo. La empresa ha enviado sus chips a múltiples proveedores de modelos y clientes de nube. Su velocidad de inferencia, medida en tokens por segundo, ha superado consistentemente la inferencia basada en GPU de Nvidia en puntos de precio comparables.

      El acuerdo de diciembre de $20 mil millones fue inusual. No fue una adquisición completa. Nvidia pagó a los inversores de Groq en efectivo a lo que habría sido el precio de compra más grande de Nvidia. Licenció la tecnología de chips de Groq. Tomó ingenieros senior. Pero no absorbió la empresa. El resultado es un Groq que ha sido reiniciado financieramente, técnicamente agotado a nivel senior, y ahora recaudando para reconstruirse en torno a un modelo de inferencia como servicio más estrecho pero potencialmente lucrativo.

      El mercado de chips de inferencia está atrayendo capital a un ritmo extraordinario. Cerebras salió a bolsa con una valoración de $95 mil millones en una presentación optimizada para inferencia. Fractile recaudó $220 millones en Londres para chips de inferencia que colocan computación y memoria en el mismo chip. Google está enviando millones de TPUs Ironwood diseñadas específicamente para inferencia.

      DeepSeek recortó permanentemente su precio V4 Pro en un 75% esta semana, comprimiendo la economía de ingresos por token de la que dependen los proveedores de nube de inferencia. El modelo de negocio de Groq requiere que su hardware entregue tokens lo suficientemente baratos como para competir tanto con la inferencia basada en GPU como con los propios precios API de los proveedores de modelos. La reducción de precios de DeepSeek hace que esa competencia sea más difícil.

      Los $650 millones son una apuesta a que el hardware de inferencia diseñado específicamente tiene una ventaja duradera sobre las GPU incluso mientras Nvidia impulsa sus propias capacidades de inferencia con cada nueva arquitectura. Las plataformas Blackwell de Nvidia y la próxima Vera Rubin están diseñadas para cerrar la brecha de rendimiento de inferencia que dio a empresas como Groq su oportunidad.

      Si Groq puede reconstruir su liderazgo en ingeniería, escalar su nube de inferencia y mantener una ventaja de costos frente a las mejoras de hardware de Nvidia y los agresivos recortes de precios de los proveedores de modelos es la pregunta que se supone que los $650 millones deben responder. A los inversores que fueron pagados a $20 mil millones se les está pidiendo que apuesten nuevamente por una versión más pequeña y ágil de la misma empresa. Dos de ellos han acordado garantizar la ronda. Eso es ya sea convicción u obligación.