OpenAI опубликовала первые результаты бенчмарков для Jalapeño — собственного чипа для инференса, созданного совместно с Broadcom.

По словам компании, чип выполняет больше ИИ-работы на ватт и выдаёт ответы быстрее, чем стоечные системы Nvidia GB200 и GB300, использовавшиеся в тестах для сравнения.

С Jalapeño OpenAI присоединяется к другим крупным операторам ИИ — Google со своими Tensor Processing Units, Amazon с чипами Trainium, Microsoft с акселераторами Maia и Meta с MTIA — в разработке собственных ИИ-чипов на фоне роста затрат на инференс во всей отрасли.

Как, по словам OpenAI, показал себя Jalapeño

OpenAI сообщила, что Jalapeño оценивался с помощью InferenceX — публичного бенчмарка от SemiAnalysis, измеряющего полный процесс обслуживания ИИ-запроса. Чип тестировался на моделях GPT-OSS 120B от самой OpenAI, R1 670B от DeepSeek и Kimi K2.5 1T от Moonshot AI.

По данным OpenAI, Jalapeño выполнил в 1,5–1,9 раза больше работы на единицу электроэнергии, чем другие системы в бенчмарке. Кроме того, он возвращал ответы в 1,7–3,6 раза быстрее.

Для задач, требующих активного интерактивного взаимодействия, OpenAI сообщила, что преимущество возрастало до 2,1–4,1 раза.

Вице-президент OpenAI по аппаратному обеспечению Ричард Хо рассказал журналистам, что чип может одновременно обрабатывать больше работы и быстрее отвечать — по его словам, большинство чипов не способно делать и то и другое одновременно.

Объектами сравнения были суперсистемы Nvidia GB200 и GB300, показавшие на тот момент лучшие результаты, зафиксированные InferenceX. На крупнейшей из протестированных моделей, Kimi K2.5, Jalapeño, по словам OpenAI, достиг примерно 1,5-кратной пиковой производительности на ватт и в 3,4 раза меньшей задержки.

OpenAI также сообщила, что для Jalapeño нет рынка аренды, типов инстансов и планов по продаже чипа. Это отличает компанию от облачных провайдеров вроде Amazon и Google, которые сдают собственные специализированные чипы в аренду внешним клиентам. На вопрос, предложит ли компания чип другим, Хо ответил, что OpenAI «изо всех сил пытается раздобыть достаточно» вычислительных мощностей для собственных нужд.

По словам Хо, у OpenAI есть необходимый бюджет и площади, но компанию сдерживает не нехватка денег или физических мощностей, а электроснабжение дата-центров, поэтому ключевым показателем становятся токены на мегаватт. Доступность электроэнергии стала ограничивающим фактором для строительства дата-центров во всей отрасли: пропускная способность электросетей всё сильнее определяет, как быстро можно создавать ИИ-инфраструктуру. Поскольку инференс работает непрерывно в ChatGPT и через API, любое снижение расхода ватт на токен даёт накопительный эффект в масштабах OpenAI.

Номинальная мощность чипа составляет 700 ватт, однако, по словам OpenAI, в ходе протестированных рабочих нагрузок он удерживался на уровне не выше 550 ватт.

Это аппаратное обеспечение также вписывается в заключённое в октябре 2025 года соглашение OpenAI с Broadcom о развёртывании 10 гигаватт разработанных OpenAI акселераторов до 2029 года. Cryptopolitan ранее рассказывал об этом партнёрстве, когда оно было впервые анонсировано.

Планы развёртывания OpenAI

Выступая на Hot Chips — ежегодной конференции, посвящённой инженерии полупроводников, — Хо сообщил, что OpenAI будет разворачивать Jalapeño в стойках по 128 чипов, а полный под будет включать 2048 ASIC. По его словам, развёртывание из 128 чипов обеспечивает 1,7 эксафлопс 4-битных вычислений и 27,5 терабайта HBM4, при этом каждый корпус обеспечивает пропускную способность памяти 15,4 терабайта в секунду.

OpenAI сообщила, что использовала собственные модели для ускорения разработки: путь от проектирования до tape-out занял девять месяцев — значительно быстрее многолетних циклов, типичных для разработки чипов. Хо также сказал, что версия второго поколения находится «в глубокой разработке», а работа над третьей версией уже ведётся.

Тем не менее OpenAI не отказывается от своего парка GPU. Хо описал Jalapeño как часть более широкой вычислительной стратегии, которая по-прежнему опирается на «очень, очень хороших партнёров» в лице Nvidia и Cerebras — производителя чипов масштаба кремниевой пластины.

Ожидается, что чип будет развёрнут в небольших объёмах к концу 2026 года с последующим наращиванием масштабов в течение 2027 года.

OpenAI отметила, что все цифры предоставлены самой компанией. SemiAnalysis лично проверила запуски InferenceX, но не выполняла полный набор тестов и не видела результатов AgentX — сопутствующего бенчмарка SemiAnalysis для агентных многошаговых рабочих нагрузок.