Infinity recauda $15 millones para hacer que cualquier chip de IA esté listo para la inferencia

      La propuesta es audaz para una ronda de semillas. Infinity dice que puede eliminar la única ventaja que ha mantenido a Nvidia intocable. Acaba de recaudar dinero para intentarlo.

      La compañía cerró una ronda de semillas de 15 millones de dólares con una valoración de 100 millones de dólares el lunes, anunció. Los patrocinadores incluyen a Touring Capital, Principal VC, ejecutivos de importantes empresas de chips y investigadores de OpenAI y Anthropic.

      El problema de CUDA

      Para entender lo que Infinity está persiguiendo, mire por qué Nvidia ganó. Sus chips son rápidos, pero su verdadera ventaja es CUDA, la capa de software que ha construido durante casi dos décadas.

      Los grandes marcos de IA, PyTorch y TensorFlow, se sitúan sobre CUDA. Escriba su aplicación en Python y se ejecuta en hardware de Nvidia por defecto. Esa conveniencia es la razón por la que Nvidia tiene aproximadamente el 80% del mercado de aceleradores de IA en centros de datos.

      Los chips rivales de AMD, Qualcomm y AWS a menudo igualan a Nvidia en potencia bruta. Lo que les falta es el software. Portar modelos a un nuevo silicio significa escribir núcleos, el código de bajo nivel que impulsa un chip, y pocos equipos pueden permitirse el esfuerzo.

      Un agente que escribe el código del chip

      Infinity quiere automatizar ese trabajo. Su agente de IA, Ignition, genera, prueba y reescribe esos núcleos por sí mismo, y sigue ajustándolos a medida que llegan los datos de rendimiento. Los ingenieros humanos establecen la dirección. El agente hace el trabajo duro.

      Los resultados que Infinity informa son sorprendentes, aunque provienen de la propia empresa. Trabajando con el fabricante de chips d-Matrix, dice que Ignition alcanzó el 92% del rendimiento máximo de un nuevo chip 10 horas después de tocar por primera vez el hardware. En 10 días, tres modelos de frontera estaban funcionando en él de extremo a extremo.

      En otra prueba, Infinity dice que elevó la salida de un modelo de aproximadamente 1,400 a más de 20,000 tokens por segundo en un solo día. Eso superaría a vLLM, un marco de inferencia de código abierto ampliamente utilizado. Las afirmaciones aún no han sido verificadas de manera independiente.

      Automatizando la invención

      El fundador le da sabor al proyecto. Jeremy Nixon es un ex investigador de Google Brain que creó AGI House, una red de hackers en San Francisco que dice haber generado cientos de startups.

      Nixon le dijo a TechCrunch que está obsesionado con la "invención automatizada", la idea de que la IA puede ser una especie de meta tecnología. Una vez construyó un algoritmo, Omega, que inventaba otros algoritmos de aprendizaje automático y los evaluaba en un bucle. Ignition aplica el mismo instinto al hardware.

      Anunció la recaudación en X con un toque de entusiasmo, celebrando la llegada de sistemas de IA que "habilitan, optimizan e inventan" la próxima generación de sistemas de IA.

      Una carrera concurrida y las advertencias

      Infinity se une a una ola de startups que intentan romper el bloqueo de CUDA. Dice que ya gana millones en ingresos recurrentes anuales y emplea a 26 personas. Su modelo de negocio toma un porcentaje de las ganancias de velocidad y costo que entrega, en lugar de una tarifa de licencia.

      Las advertencias son reales. Esta es una empresa en etapa de semillas con un socio de chip público, y los puntos de referencia principales son autoinformados. Sin embargo, el premio es grande. A medida que la inferencia se apresura a convertirse en dos tercios de todos los gastos de computación en IA este año, las formas más baratas de ejecutarla valen una fortuna.

      "La próxima era de la IA no se definirá solo por quién fabrica el mejor chip, sino por quién puede hacer que cualquier chip ejecute modelos de última generación a velocidades vertiginosas", dijo Nixon. Si Ignition funciona como se anunció, la ventaja que hizo a Nvidia intocable comienza a parecer más superficial.