Il finanziamento di 650 milioni di dollari di Groq lo ricostruisce dopo Nvidia

      Groq ha confermato un aumento di 650 milioni di dollari per ricostruirsi come un cloud per l'inferenza AI, sei mesi dopo che Nvidia ha pagato i suoi investitori e ha assunto il suo fondatore. Il round di 650 milioni di dollari di Groq è una scommessa che i chip progettati appositamente superano ancora le GPU.

      Groq ha trascorso anni come uno dei più forti sfidanti di Nvidia. Poi, lo scorso dicembre, Nvidia l'ha praticamente smantellata.

      Ora l'azienda ha confermato come intende ricostruirsi. Groq ha raccolto 650 milioni di dollari in un round guidato da Disruptive e Infinitum, ha dichiarato, con i finanziatori esistenti che reinvestono insieme a loro.

      L'aumento è stato riportato per la prima volta a maggio. L'azienda ha ora chiuso il round e ha nominato il team che lo spenderà.

      Cosa ha lasciato Nvidia

      A dicembre, Nvidia ha stipulato un accordo di licenza non esclusivo per la tecnologia dei chip di Groq, in un accordo riportato come del valore di circa 20 miliardi di dollari. Ha assunto il fondatore e CEO Jonathan Ross, il presidente Sunny Madra e altri ingegneri.

      Da allora, Nvidia ha integrato la tecnologia nella propria linea di prodotti. Durante il suo evento GTC di marzo, ha lanciato il sistema di inferenza Groq 3 LPX, costruito sui design concessi in licenza.

      Questo ha lasciato Groq con i suoi data center, il suo software e una domanda imbarazzante: cosa è ora?

      Un pivot verso il cloud

      La risposta è l'inferenza, il business di eseguire modelli AI addestrati piuttosto che costruirli. Groq sta puntando forte su quello che chiama il suo braccio “neocloud”.

      Ora gestisce 13 data center in Nord America, Europa, Medio Oriente e Asia-Pacifico. Afferma di servire più di cinque milioni di sviluppatori e di elaborare trilioni di token ogni settimana nei siti che eseguono quei modelli.

      I nuovi fondi serviranno a dotare quella presenza del suo hardware più recente, incluso il sistema LPX di Nvidia. Groq prevede di quadruplicare la capacità totale a 200 megawatt entro la fine del 2027.

      Nuovi nomi al vertice

      Adam Winter è diventato CEO, con Matt Eng come CFO e il fondatore di Disruptive Alex Davis come presidente.

      Alan Rice si unisce come COO, dopo esperienze nel progetto Colossus di xAI e nei data center di Meta, e una carriera precedente nei sottomarini della Marina degli Stati Uniti.

      Da luglio, Sinclair Schuller diventa CTO e Rakesh Malhotra CPO. I due hanno precedentemente costruito e venduto le aziende di software per imprese Apprenda e Nuvalence. Malhotra ha trascorso circa un decennio sui prodotti cloud di Microsoft.

      Gli stessi investitori, di nuovo

      C'è una svolta insolita nel round. Molti dei finanziatori che ora scrivono assegni sono gli stessi che Nvidia ha liquidato a dicembre.

      Disruptive e Infinitum, che detengono entrambi posti nel consiglio, hanno guidato l'affare. I sostenitori precedenti includono Samsung, Cisco e BlackRock.

      Groq non ha rivelato una nuova valutazione. Era valutata 6,9 miliardi di dollari, dopo un round di 750 milioni di dollari a settembre.

      Una scommessa affollata e costosa

      Groq sta entrando in un mercato brutale. La domanda per l'inferenza sta crescendo rapidamente e il denaro sta affluendo attorno ad essa.

      La startup di infrastruttura AI Baseten ha recentemente raccolto 1,5 miliardi di dollari a una valutazione fino a 13 miliardi di dollari. I laboratori Frontier OpenAI e Anthropic continuano a far salire il costo del calcolo, il che affila ulteriormente l'appetito per modi più economici di eseguire i loro modelli.

      Il punto cruciale

      La proposta di Groq è semplice. Poiché l'AI passa dall'addestramento dei modelli all'esecuzione di essi, i chip per l'inferenza progettati appositamente dovrebbero superare le GPU di uso generale in termini di velocità e costo. L'inferenza, sostiene, avrà infine bisogno di 15-20 volte più potenza di calcolo rispetto all'addestramento.

      Il problema è altrettanto semplice. Groq ora condivide la sua proprietà intellettuale sui chip con Nvidia, il gigante stesso che si era prefisso di battere. Se un Groq più snello e ristrutturato possa ancora vincere la corsa all'inferenza è la domanda da 650 milioni di dollari.