OpenAI ha pubblicato i primi risultati dei benchmark per Jalapeño, il suo chip di inferenza sviluppato internamente con Broadcom.

L’azienda afferma che il chip svolge più lavoro di IA per watt e fornisce risposte più rapide rispetto ai rack system GB200 e GB300 di Nvidia, che sono stati i sistemi di confronto utilizzati nei test.

Con Jalapeño, OpenAI si unisce ad altri grandi operatori di IA — Google con i suoi Tensor Processing Units, Amazon con i chip Trainium, Microsoft con gli acceleratori Maia e Meta con MTIA — nel progettare un proprio silicio per l’IA mentre i costi di inferenza aumentano in tutto il settore.

Come OpenAI afferma che si sia comportato Jalapeño

OpenAI ha dichiarato che Jalapeño è stato valutato con InferenceX, un benchmark pubblico di SemiAnalysis che misura l’intero processo di servizio di una richiesta di IA. Il chip è stato testato su GPT-OSS 120B di OpenAI, R1 670B di DeepSeek e Kimi K2.5 1T di Moonshot AI.

Secondo OpenAI, Jalapeño ha completato da 1,5 a 1,9 volte più lavoro per unità di elettricità rispetto agli altri sistemi nel benchmark. Ha anche restituito risposte da 1,7 a 3,6 volte più velocemente.

Per i compiti che richiedono un maggiore scambio avanti e indietro, OpenAI ha affermato che il vantaggio è salito tra 2,1 e 4,1 volte.

Richard Ho, vicepresidente hardware di OpenAI, ha dichiarato ai giornalisti che il chip può gestire più lavoro contemporaneamente e rispondere anche più rapidamente, cosa che ha detto la maggior parte dei chip non riesce a fare simultaneamente.

I sistemi di confronto erano i superchip GB200 e GB300 di Nvidia, che all’epoca rappresentavano i risultati migliori registrati da InferenceX. Sul modello più grande testato, Kimi K2.5, OpenAI ha affermato che Jalapeño ha raggiunto circa 1,5 volte le prestazioni di picco per watt e una latenza 3,4 volte inferiore.

OpenAI ha anche detto che non esiste un mercato di noleggio, né un tipo di istanza, e che non c’è alcun piano per vendere Jalapeño. Questo differisce da fornitori cloud come Amazon e Google, che affittano i propri chip personalizzati a clienti esterni. Alla domanda se l’azienda avrebbe offerto il chip ad altri, Ho ha risposto che OpenAI sta “faticando ad avere abbastanza” capacità di calcolo per le proprie esigenze.

Ho ha detto che OpenAI ha il budget e lo spazio fisico necessari, ma è limitata dalla potenza disponibile nei data center più che dal denaro o dalla capacità fisica, rendendo i token per megawatt la metrica chiave. La disponibilità di energia è diventata un fattore limitante per la costruzione di data center in tutto il settore, con la capacità della rete che influenza sempre di più la rapidità con cui si può realizzare l’infrastruttura IA. Poiché l’inferenza gira continuamente su ChatGPT e sull’API, ogni riduzione dei watt per token si moltiplica rapidamente alla scala di OpenAI.

Il chip è classificato a 700 watt, ma OpenAI ha detto che nei carichi di lavoro testati è stato mantenuto a 550 watt o meno.

L’hardware rientra anche nell’accordo di OpenAI dell’ottobre 2025 con Broadcom per distribuire 10 gigawatt di acceleratori progettati da OpenAI entro il 2029. Cryptopolitan aveva riportato in precedenza quando la partnership era stata delineata per la prima volta.

I piani di distribuzione di OpenAI

Parlando a Hot Chips, una conferenza annuale di ingegneria dei semiconduttori, Ho ha detto che OpenAI distribuirà Jalapeño in rack da 128 chip, con un pod completo che utilizzerà 2.048 ASIC. Ha aggiunto che una distribuzione da 128 chip offre 1,7 exaflops di calcolo a 4 bit e 27,5 terabyte di HBM4, con ogni package che fornisce 15,4 terabyte al secondo di larghezza di banda della memoria.

OpenAI ha detto di aver utilizzato i propri modelli per accelerare lo sviluppo, passando dalla progettazione al tape-out in nove mesi, un ritmo ben al di sotto dei cicli pluriennali tipici dello sviluppo dei chip. Ho ha inoltre affermato che una versione di seconda generazione è “molto avanti nello sviluppo” e che il lavoro su una terza versione è già in corso.

Tuttavia, anche con i risultati dei benchmark, OpenAI non sta sostituendo la propria flotta di GPU. Ho ha descritto Jalapeño come una parte di una più ampia strategia di calcolo che continua a fare affidamento su “partner molto, molto validi” in Nvidia e Cerebras, il produttore di chip wafer-scale.

Secondo quanto riferito, il chip sarà distribuito in piccoli volumi entro la fine del 2026, per poi aumentare nel corso del 2027.

OpenAI ha precisato che tutte le cifre provengono dalla società stessa. SemiAnalysis ha verificato di persona le esecuzioni di InferenceX, ma non ha eseguito l’intera suite né ha visto i risultati di AgentX, il benchmark complementare di SemiAnalysis per carichi di lavoro agentici e multi-step.