Netris raccoglie 15 milioni di dollari in un round di finanziamento di Serie A da a16z per automatizzare il networking che rallenta i cloud GPU.

      TL;DRNetris ha raccolto 15 milioni di dollari da a16z per la sua piattaforma di automazione della rete GPU, ora attiva in oltre 35 cluster con una crescita annuale dei ricavi dell'800 percento.

      Netris, una startup di Santa Clara che automatizza il livello di rete all'interno dei data center GPU, ha raccolto 15 milioni di dollari in un round di Serie A guidato da Andreessen Horowitz. Il round segue quello che l'azienda afferma essere una crescita annuale dei ricavi ricorrenti dell'800 percento e più di 35 implementazioni attive in cluster GPU in tutto il mondo, comprese le operazioni gestite da Lightning AI, Visionbay sostenuta da Foxconn, Hewlett Packard Enterprise, TensorWave e Telus.

      Il problema che Netris affronta non è quello che riceve maggiore attenzione nel boom dell'infrastruttura AI. I neocloud hanno raccolto miliardi di dollari per acquistare GPU e costruire data center, ma rendere operativi quegli impianti richiede di configurare il tessuto di rete che collega migliaia di server, un processo che può richiedere mesi e lasciare hardware costoso inattivo.

      Un singolo server GPU ha almeno tre connessioni nord-sud, 16 connessioni est-ovest e quattro collegamenti NVL72, secondo l'azienda. Ogni volta che un inquilino viene aggiunto, ridimensionato o rimosso, la rete deve essere riconfigurata su ogni livello simultaneamente, a volte attraverso centinaia o migliaia di switch contemporaneamente. Una misconfigurazione può far cadere un cluster o far trapelare i dati di un cliente a un altro.

      Netris vende software che gira su switch di rete e una piattaforma che automatizza l'impostazione, la configurazione e le operazioni per gli operatori di neocloud. La piattaforma fornisce anche astrazione di rete, in modo che le configurazioni hardware possano essere modificate secondo necessità, e isola server e risorse a livello hardware per supportare la multi-tenancy. L'azienda chiama questo approccio NAAM, per Network Automation, Abstraction, and Multi-Tenancy.

      Il 💜 della tecnologia UE

      Le ultime novità dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      Il CEO Alex Saroyan ha detto a TechCrunch che le tradizionali reti definite dal software non sono sufficienti per i carichi di lavoro AI perché il volume di traffico richiede che tutto sia accelerato dall'hardware. “Per l'AI, il software non va bene, perché la quantità di traffico è così alta, tutto deve essere accelerato dall'hardware,” ha detto, aggiungendo che Netris sta costruendo automazione di rete accelerata dall'hardware da otto anni.

      Nvidia, che ha impegnato più di 40 miliardi di dollari in investimenti nell'infrastruttura AI quest'anno, è stata un primo validatore. Due anni fa, il produttore di chip è rimasto così colpito da una demo che ha iniziato a raccomandare Netris ai propri clienti. Saroyan ha detto che la piattaforma è agnostica rispetto ai fornitori, compatibile con l'attrezzatura di rete sia di Nvidia che di AMD.

      La startup afferma che la sua piattaforma è ora attiva in oltre 35 cluster GPU per un totale di circa un milione di GPU. Il settore neocloud ha visto un'ondata di finanziamenti negli ultimi mesi, con aziende come Runpod che raggiungono valutazioni da miliardi di dollari grazie alla carenza di capacità di calcolo AI. Netris occupa un livello diverso dello stack, vendendo il software infrastrutturale di cui quegli operatori di cloud GPU hanno bisogno piuttosto che competere con loro per i clienti di calcolo.

      Guido Appenzeller, un partner di a16z che in precedenza ha co-fondato Big Switch Networks e ha ricoperto il ruolo di CTO nella divisione Cloud e Networking di VMware, ha guidato il round ed è entrato nel consiglio di amministrazione di Netris. “I cluster GPU funzionano su molti tessuti contemporaneamente e l'automazione legacy non è mai stata costruita per questo,” ha detto Appenzeller, definendo Netris la piattaforma su cui gli operatori di cloud AI stanno standardizzando.

      Un dettaglio notevole è che Netris non utilizza AI nel proprio prodotto, facendo invece affidamento su algoritmi deterministici sviluppati prima del boom dell'AI. Saroyan ha sostenuto che la creatività è la caratteristica sbagliata per un sistema responsabile della modifica di migliaia di configurazioni di switch. “L'AI non è deterministica,” ha detto, aggiungendo che la configurazione della rete richiede persistenza e ripetibilità, non creatività.

      Netris è stata fondata nel 2018 e opera con team negli Stati Uniti, nel Regno Unito, a Taiwan, in Australia, in Armenia e in India, con Singapore che aprirà quest'anno. L'azienda prevede di utilizzare i fondi per assumere ingegneri e personale di vendita, aggiungere supporto per più fornitori hardware e ampliare le funzionalità della sua piattaforma di automazione.