OpenAI当地时间8月25日公布了首款自研AI推理芯片Jalapeño的性能测试数据。这款芯片由OpenAI与博通(Broadcom)合作开发、台积电采用3nm制程代工制造,从架构设计到流片仅耗时9个月。

该芯片采用systolic array脉动阵列架构,配备HBM高带宽内存,专为大语言模型推理场景设计,不用于模型训练。
在SemiAnalysis的InferenceX基准测试中,Jalapeño与英伟达GB200、GB300系统进行了对比实测,覆盖GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款模型。
结果显示,其每瓦完成的AI吞吐量达到对比系统的1.5至1.9倍,端到端延迟仅约对方的28%至59%。
该芯片额定功率700瓦,但测试工作负载期间持续功耗保持在550瓦或以下。
该芯片及配套服务器系统均不对外销售,仅供OpenAI内部使用,旨在降低自身GPU采购和算力运营成本。OpenAI计划2026年年底前小规模部署Jalapeño,2027年逐步扩大部署规模。
目前第二代Jalapeño芯片已进入后期开发阶段,预计未来数月内完成流片,第三代芯片也已启动概念设计。