OpenAIは、Broadcomと共同で構築した自社製推論チップJalapeñoの初回ベンチマーク結果を公表した。

同社は、このチップがテストで比較対象となったNvidiaのGB200およびGB300ラックシステムよりも、1ワットあたりのAI処理量が多く、応答も速いと主張している。

Jalapeñoにより、OpenAIは、GoogleのTensor Processing Units、AmazonのTrainiumチップ、MicrosoftのMaiaアクセラレータ、MetaのMTIAに続き、業界全体で推論コストが上昇する中、自社製AIシリコンを設計する大手AI事業者の仲間入りを果たした。

OpenAIが示すJalapeñoの性能

OpenAIによると、JalapeñoはSemiAnalysisによる公開ベンチマークInferenceXで評価された。InferenceXは、AIリクエストを提供する一連の処理全体を測定する。チップは、OpenAIのGPT-OSS 120B、DeepSeekのR1 670B、Moonshot AIのKimi K2.5 1Tでテストされた。

OpenAIは、Jalapeñoがベンチマーク上の他のシステムよりも、電力1単位あたり1.5倍から1.9倍多くの作業をこなしたと述べた。また、応答速度は1.7倍から3.6倍速かったという。

より多くのやり取りを必要とするタスクでは、その差は2.1倍から4.1倍に広がったとOpenAIは説明した。

OpenAIのハードウェア担当バイスプレジデントRichard Ho氏は記者団に対し、このチップはより多くの作業を同時に処理でき、かつより迅速に応答できると述べ、多くのチップはその両方を同時にはできないとした。

比較対象はNvidiaのGB200およびGB300スーパーシップで、当時InferenceXで記録されていた最良の結果だった。テストされた最大のモデルであるKimi K2.5では、OpenAIはJalapeñoがピーク性能/ワットで約1.5倍、レイテンシーで3.4倍低かったと述べた。

OpenAIはまた、Jalapeñoにはレンタル市場もインスタンスタイプもなく、販売する計画もないとした。これは、AmazonやGoogleのように独自のカスタムチップを外部顧客に貸し出すクラウド事業者とは異なる。これを他社にも提供する考えがあるかと問われたHo氏は、OpenAIは自社のニーズに対して「十分な」コンピュートを確保するのに苦労していると述べた。

Ho氏によると、OpenAIには予算も設置スペースもあるが、現状の制約は資金や床面積ではなくデータセンターの電力であり、重要なのはメガワット当たりのトークン数だという。推論はChatGPTとAPI全体で継続的に動作するため、1トークンあたりの消費電力を削減することは、OpenAIの規模ではすぐに大きな効果を生む。

このチップの定格は700ワットだが、テストされたワークロードでは550ワット以下に抑えられたという。

またこのチップは、OpenAIが2025年10月にBroadcomと結んだ、2029年までにOpenAI設計のアクセラレータ10ギガワットを展開する契約にも含まれている。Cryptopolitanは、この提携が最初に示された時点で報じていた。

OpenAIは自社チップへの全面移行を行うのか？

Hot ChipsでHo氏は、OpenAIは128基のラック単位でJalapeñoを展開し、1つのポッドは2,048個のASICで構成されると述べた。128基の展開では、4ビット計算で1.7エクサフロップス、HBM4で27.5テラバイトを提供し、各パッケージは毎秒15.4テラバイトのメモリ帯域幅を持つという。

OpenAIは、Jalapenoの開発を加速するために自社モデルを活用し、設計からテープアウトまでをわずか9か月で完了したと説明した。Ho氏はさらに、第2世代版は「開発のかなり深い段階」にあり、第3世代版の作業も進行中だと付け加えた。

ただし、こうしたベンチマーク上の主張があっても、OpenAIはGPU群を置き換えるわけではない。Ho氏はJalapeñoを、NvidiaとCerebrasの「非常に、非常に優れたパートナー」に引き続き依存するコンピュート戦略の一部だと位置づけた。報道によれば、このチップは2026年末までに少量導入され、その後2027年にかけて拡大する予定だという。

なお、数値はすべてOpenAIが提示したものであり、SemiAnalysisはInferenceXの実行を現地で確認したが、全スイートの実行やAgentXの結果は確認していない。

この記事を読んでいるあなたは、すでに一歩先を行っています。ニュースレターでその先へ。