OpenAI 公布首款定制推理芯片 Jalapeño 实测数据:每瓦性能达英伟达对比系统 1.5 至 1.9 倍
By AI123
2026年8月26日,OpenAI正式公布了其首款定制推理芯片Jalapeño的首批实测性能数据。在基于开源模型GPT-OSS 120B的InferenceX基准测试中,Jalapeño的每千瓦峰值吞吐量和Token延迟均优于英伟达GB200/GB300等商用AI系统。
测试覆盖GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三个模型。结果显示,Jalapeño每瓦AI工作量是对比系统的1.5至1.9倍,端到端延迟降低1.7至3.6倍;在高交互性工作负载下,性能提升2.1至4.1倍。以DeepSeek R1为例,Jalapeño单用户生成速度约700 tok/s,而对比系统为169 tok/s。测试统一设置为8K输入、1K输出,未开启推测解码。
硬件规格方面,Jalapeño采用台积电N3P工艺,TDP为700W,实测持续功耗不超过550W。OpenAI表示,该芯片计划于2026年底开始部署到自有算力基础设施中,下一阶段目标是100MW规模。
据SemiAnalysis验证,Jalapeño在GSM8k精度上与英伟达芯片持平,并被认为是一款通用推理引擎,而非OpenAI模型的专属芯片。此外,OpenAI透露AI深度参与了芯片设计,包括探索实现方案、缩短验证循环、优化算术电路等,部分AI生成的内核实现比人类专家手写版本快1.5至1.8倍。
Explore topicsChipsCompute PowerInference Chip

