La nuova modalità Ultrafast di OpenAI esegue GPT-5.6 Sol 14 volte più veloce, su chip Cerebras.

      OpenAI vuole che il suo modello più intelligente sia anche il più veloce. L'azienda ha presentato Ultrafast, un nuovo livello della sua API che esegue il modello di punta GPT-5.6 Sol a una velocità fino a 14 volte superiore a quella abituale, raggiungendo circa 750 token di output al secondo, su hardware costruito dal produttore di chip a scala wafer Cerebras.

      Ultrafast non è tanto un nuovo modello quanto un nuovo modo di servire uno esistente. Si basa sui chip sovradimensionati di Cerebras per eliminare la latenza che ha a lungo afflitto l'IA di frontiera, e OpenAI ha aperto una preview limitata il 13 agosto a un piccolo gruppo di clienti, con piani per ampliare l'accesso man mano che la capacità lo consente.

      L'offerta si basa su un compromesso che OpenAI afferma di poter finalmente dissolvere. Fino ad ora, chiunque volesse risposte realmente in tempo reale doveva scendere a un modello più piccolo e meno capace, accettando meno intelligenza in cambio di velocità.

      Ultrafast è progettato per fornire ragionamenti di livello frontiera e risposte quasi istantanee contemporaneamente, piuttosto che costringere a una scelta tra di essi.

      Quella combinazione è particolarmente importante per il software agentico che l'intera industria sta cercando. Un agente IA che deve pensare per trenta secondi prima di ogni passo è una demo, mentre uno che risponde nel tempo necessario per tenere una conversazione inizia a sembrare un prodotto.

      La velocità, in altre parole, sta diventando silenziosamente una caratteristica importante quanto la pura intelligenza.

      OpenAI sta mirando a questo livello specificamente per lavori sensibili al tempo, inclusi la risposta agli incidenti e il debugging, la ricerca finanziaria e la rilevazione delle frodi, il supporto clienti in tempo reale e vocale, e l'e-commerce.

      I primi tester come Jane Street, Podium, Basis e Rogo descrivono il cambiamento come qualitativo piuttosto che incrementale, con uno di loro che afferma che la velocità "cambia completamente l'esperienza della chiamata per lavori complessi" e sblocca "esperienze sincrone per gli utenti che erano precedentemente limitati dall'intelligenza."

      Per Cerebras, l'accordo è un endorsement di grande prestigio in un momento utile. L'azienda è diventata pubblica in una delle quotazioni più grandi dell'anno, ma da allora ha faticato a convincere il mercato che l'ambizione a scala wafer si traduce in profitti duraturi, quindi alimentare il livello più veloce di OpenAI è esattamente il tipo di validazione di cui aveva bisogno.

      È anche un promemoria che le architetture di chip esotiche un tempo scartate come progetti scientifici stanno ora svolgendo un lavoro reale per i nomi più grandi nell'IA.

      La velocità stessa deriva da un pezzo insolito di ingegneria. Cerebras costruisce processori delle dimensioni di un piatto da cena, tagliati da un singolo wafer di silicio, il che consente a un intero modello di stare su un chip piuttosto che essere suddiviso su rack di GPU Nvidia che devono costantemente trasferire dati tra di loro.

      Eliminare quel traffico interno è ciò che riduce il ritardo tra un prompt e una risposta, ed è la base dell'argomento di lunga data dell'azienda che il suo design si adatta molto meglio all'inferenza rispetto ai chip di uso generale costruiti per l'addestramento.

      Il movimento si inserisce anche in un cambiamento più ampio. Man mano che la capacità del modello grezzo inizia a stabilizzarsi, la competizione si sposta verso chi può eseguire quei modelli più velocemente e a minor costo, una corsa che ha sollevato specialisti dell'inferenza come Groq e ha trasformato la latenza in un punto di vendita.

      Rivali come SambaNova e un gruppo di cloud specializzati stanno inseguendo lo stesso premio, e il mercato premia sempre di più chi può far rispondere un dato modello nel minor tempo possibile, non semplicemente chi ha addestrato il modello più grande.

      Per OpenAI, fare affidamento su Cerebras è anche un passo silenzioso lontano dalla totale dipendenza da Nvidia, in linea con il suo lavoro sul proprio silicio personalizzato.

      OpenAI non ha pubblicato i prezzi, e far funzionare il suo modello di punta a 14 volte la velocità su hardware specializzato è improbabile che sia economico, quindi Ultrafast potrebbe rimanere un'opzione premium per casi ossessionati dalla latenza piuttosto che un'impostazione predefinita.

      È anche solo una preview, riservata a un numero ristretto di clienti mentre OpenAI cerca capacità. Anche così, il messaggio è abbastanza chiaro. Nella prossima fase della corsa all'IA, essere intelligenti non conterà molto se si è anche lenti.