Il round da 220 milioni di dollari di Fractile arriva mentre Anthropic punta al suo silicio nel Regno Unito.

      Accel ha guidato il round della startup londinese di chip, con Pat Gelsinger che si è unito come investitore angel, settimane dopo che è stato riportato che Anthropic era in discussioni preliminari per diventare un cliente.

      Fractile, la startup con sede a Londra che progetta chip di inferenza che mettono il calcolo e la memoria sullo stesso die, ha raccolto 220 milioni di dollari per portare il suo hardware in produzione, ha dichiarato l'azienda martedì.

      Il round si chiude sopra il target di 200 milioni di dollari riportato che l'azienda stava sondando a fine marzo, come notato per la prima volta da Electronics Weekly, e porta Fractile nel gruppo delle aziende europee di chip che si propongono come alternative a Nvidia nel livello di inferenza.

      Il profilo degli investitori è ciò che conferisce peso al round. Si comprende che Accel ha guidato, con l'ex amministratore delegato di Intel Pat Gelsinger che partecipa come angel e consulente operativo.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! I sostenitori esistenti Kindred Capital, il NATO Innovation Fund e Oxford Science Enterprises, che hanno co-guidato il seed di 15 milioni di dollari di Fractile a luglio 2024, fanno parte del round.

      L'argomento tecnologico va contro l'architettura prevalente. Gli acceleratori AI convenzionali, inclusi i GPU H- e B-series di Nvidia, separano il die di calcolo dalla memoria ad alta larghezza di banda e pagano una tassa di energia e latenza per il trasferimento dei dati tra di loro.

      Il design di Fractile invece esegue le moltiplicazioni di matrici che dominano l'inferenza dei trasformatori all'interno delle celle SRAM situate accanto alla logica di calcolo, un approccio di calcolo in memoria che l'azienda afferma rimuovere la maggior parte della dipendenza da DRAM che attualmente è il vincolo principale sul costo di inferenza.

      Fractile afferma che il chip risultante può eseguire modelli all'avanguardia fino a 100 volte più velocemente e 10 volte più economico rispetto agli attuali setup GPU; materiali per investitori più recenti inquadrano il confronto come 25 volte più veloce a un decimo del costo.

      Se quei numeri reggono sotto carichi di produzione è la questione tecnica centrale. Finora l'azienda ha divulgato risultati di simulazione e piccoli silici piuttosto che benchmark su larga scala contro cluster GPU distribuiti.

      Il primo chip commerciale di Fractile non è previsto fino al 2027, una tempistica che l'azienda ha ribadito pubblicamente, e i 220 milioni di dollari sono dimensionati per portare il design attraverso il tape-out, la costruzione della stack software e l'integrazione dei primi clienti piuttosto che un ramp-up completo della produzione.

      Il lato cliente è dove il round arriva al momento giusto. Anthropic è in discussioni preliminari per acquistare chip Fractile quando saranno disponibili, hanno riportato più fonti all'inizio di questo mese.

      Se la relazione si formalizza, Fractile diventerebbe il quarto fornitore di calcolo nominato di Anthropic insieme a Nvidia, ai TPU di Google e ai componenti Trainium e Inferentia di Amazon.

      Anthropic ha esplorato separatamente la costruzione dei propri chip AI personalizzati, ma il percorso di Fractile suggerisce che sta ancora perseguendo una copertura multi-fornitore.

      Fractile fa anche parte di un piccolo gruppo di startup europee di chip il cui pitch è che il mercato dell'inferenza è strutturalmente distinto da quello della formazione e quindi vincibile.

      TNW ha monitorato tre di queste aziende nell'ultimo anno. L'argomento è che la formazione continuerà a richiedere i sistemi più grandi e più esotici e che il fossato CUDA di Nvidia è più forte lì, mentre l'inferenza, il carico di lavoro che consuma effettivamente la maggior parte dei dollari una volta che un modello è distribuito, premia architetture specializzate sintonizzate per throughput ed energia per token piuttosto che per picchi di FLOP.

      Il set competitivo su questa tesi sta diventando affollato. Groq ha spedito le sue unità di elaborazione del linguaggio a più fornitori di modelli e ha recentemente raccolto a una valutazione di 6,9 miliardi di dollari; Etched sta costruendo silicio specifico per trasformatori; Cerebras e SambaNova hanno raccolto contro lo stesso carico di lavoro da angolazioni diverse.

      Google stesso sta assemblando una catena di fornitura di chip di inferenza a quattro partner con Broadcom, MediaTek e Marvell per sfidare Nvidia nel livello di inferenza. L'affermazione di Fractile è che la sua architettura in memoria vince sul metrica che conta di più per l'inferenza sensibile ai costi, watt per token utile.

      Il round segue l'annuncio di febbraio di Fractile di un'espansione di tre anni da 100 milioni di sterline (132 milioni di dollari) delle sue operazioni a Londra e Bristol, inclusa una nuova sede di ingegneria hardware a Bristol, e si inserisce nella più ampia spinta dell'AI sovrana del Regno Unito che ha anche prodotto la partnership tra BT, Nscale e Nvidia nei centri dati ad aprile.

      Il fondatore e amministratore delegato Walter Goodwin, un dottorato dell'Oxford Robotics Institute ora sulla trentina, è stato il volto pubblico del pitch.

      Il team ha reclutato ingegneri da Graphcore, Nvidia e Imagination Technologies, e sta costruendo la sua stack software insieme al silicio. Il tape-out e l'integrazione dei clienti sono i prossimi traguardi visibili.