OpenAI hat seine ersten Benchmark-Ergebnisse für Jalapeño veröffentlicht, seinen hauseigenen Inferenz-Chip, der gemeinsam mit Broadcom entwickelt wurde.

Das Unternehmen gibt an, dass der Chip pro Watt mehr KI-Arbeit verrichtet und schnellere Antworten liefert als Nvidias GB200- und GB300-Rack-Systeme, die als Vergleichssysteme in den Tests dienten.

Mit Jalapeño reiht sich OpenAI in die Riege der großen KI-Anbieter ein — Google mit seinen Tensor Processing Units, Amazon mit seinen Trainium-Chips, Microsoft mit seinen Maia-Beschleunigern und Meta mit seinem MTIA —, die angesichts branchenweit steigender Inferenzkosten eigene KI-Siliziumchips entwickeln.

Wie Jalapeño laut OpenAI abgeschnitten hat

OpenAI teilte mit, dass Jalapeño mit InferenceX evaluiert wurde, einem öffentlichen Benchmark von SemiAnalysis, der den gesamten Prozess der Bearbeitung einer KI-Anfrage misst. Getestet wurde der Chip mit OpenAIs GPT-OSS 120B, DeepSeeks R1 670B und Kimi K2.5 1T von Moonshot AI.

Laut OpenAI verrichtete Jalapeño je Stromeinheit 1,5- bis 1,9-mal mehr Arbeit als die anderen Systeme im Benchmark. Zudem lieferte er Antworten 1,7- bis 3,6-mal schneller.

Bei Aufgaben, die mehr interaktives Hin und Her erfordern, wuchs der Vorsprung laut OpenAI auf das 2,1- bis 4,1-Fache.

OpenAIs Hardware-Vizepräsident Richard Ho erklärte gegenüber Reportern, dass der Chip mehr Arbeit gleichzeitig bewältigen und zugleich schneller reagieren könne – etwas, das den meisten Chips laut Ho nicht gleichzeitig gelinge.

Vergleichsziele waren Nvidias Superchips GB200 und GB300, die zum damaligen Zeitpunkt die stärksten in InferenceX erfassten Ergebnisse waren. Beim größten getesteten Modell, Kimi K2.5, erreichte Jalapeño laut OpenAI rund das 1,5-Fache der Spitzenleistung pro Watt und eine 3,4-fach geringere Latenz.

OpenAI betonte zudem, dass es für Jalapeño weder einen Mietmarkt noch einen Instanztyp gebe und auch keine Verkaufspläne bestünden. Das unterscheidet das Unternehmen von Cloud-Anbietern wie Amazon und Google, die ihre eigenen Spezialchips an externe Kunden vermieten. Auf die Frage, ob das Unternehmen den Chip anderen anbieten werde, sagte Ho, OpenAI müsse „schwer darum kämpfen, genug“ Rechenleistung für die eigenen Bedürfnisse zu haben.

Ho sagte, OpenAI verfüge über das nötige Budget und die nötige Grundfläche, sei jedoch eher durch den Strombedarf der Rechenzentren begrenzt als durch Geld oder physische Kapazität – weshalb Token pro Megawatt die entscheidende Kennzahl sei. Die Verfügbarkeit von Strom ist branchenweit zu einem begrenzenden Faktor beim Bau von Rechenzentren geworden; die Netzekapazität bestimmt zunehmend, wie schnell KI-Infrastruktur errichtet werden kann. Da Inferenz in ChatGPT und über die API rund um die Uhr läuft, wirkt sich jede Ersparnis an Watt pro Token in OpenAys Größenordnung kumulativ aus.

Der Chip ist mit 700 Watt spezifiziert, wurde laut OpenAI bei den getesteten Workloads jedoch bei höchstens 550 Watt gehalten.

Die Hardware fügt sich zudem in die im Oktober 2025 geschlossene Vereinbarung zwischen OpenAI und Broadcom ein, bis 2029 zehn Gigawatt an von OpenAI entworfenen Beschleunigern einzusetzen. Cryptopolitan hatte bereits berichtet, als die Partnerschaft erstmals skizziert wurde.

OpenAIs Einsatzpläne

Auf der Hot Chips, einer jährlichen Fachkonferenz für Halbleiter-Engineering, sagte Ho, OpenAI werde Jalapeño in Racks mit jeweils 128 Chips einsetzen, wobei ein vollständiger Pod 2.048 ASICs umfasst. Eine 128-Chip-Bereitstellung liefere 1,7 Exaflops an 4-Bit-Rechenleistung und 27,5 Terabyte HBM4, wobei jedes Package 15,4 Terabyte pro Sekunde Speicherbandbreite biete.

OpenAI gab an, die Entwicklung mithilfe eigener Modelle beschleunigt und den Weg vom Entwurf bis zum Tape-out in nur neun Monaten geschafft zu haben – ein Tempo, das deutlich unter den mehrjährigen Zyklen liegt, die für die Chipentwicklung typisch sind. Ho sagte zudem, eine Version der zweiten Generation befinde sich „mitten in der Entwicklung“ und an einer dritten Version werde bereits gearbeitet.

Dennoch ersetzt OpenAI seine GPU-Flotte nicht. Ho beschrieb Jalapeño als einen Baustein einer breiter aufgestellten Rechenstrategie, die weiterhin auf „sehr, sehr gute Partner“ bei Nvidia und Cerebras setze, dem Hersteller von Wafer-Scale-Chips.

Der Chip soll bis Ende 2026 in geringen Stückzahlen eingesetzt werden, bevor der Einsatz im Laufe des Jahres 2027 hochgefahren wird.

OpenAI teilte mit, dass sämtliche Zahlen vom Unternehmen selbst stammen. SemiAnalysis hat die InferenceX-Läufe persönlich überprüft, jedoch weder die vollständige Testsuite ausgeführt noch Ergebnisse von AgentX gesehen, dem ergänzenden SemiAnalysis-Benchmark für agentische, mehrstufige Workloads.