OpenAI Jalapeño芯片基准首发 700W对阵GB300效率优势凸显

OpenAI联合Broadcom开发的Jalapeño推理专用ASIC于2026年8月25日在Hot Chips会议公布首批基准数据，在跨GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T的InferenceX测试中，每瓦推理量领先英伟达GB300达1.9倍，端到端延迟低1.7-3.6倍，高互动负载下差距达4.1倍，而整机功耗仅700W对比对手1400W。

事实还原

根据TechCrunch报道，Jalapeño由OpenAI与Broadcom合作开发，采用Samsung供应的HBM4内存。基准结果显示，该芯片在prefill和通信阶段减少数据移动，模型状态与KV cache可本地放置，激活对应计算、内存与网络资源。OpenAI硬件负责人Richard Ho在新闻通话中指出，结果体现对现有最先进推理处理器的显著性能提升。

部署时间线明确：2026年底小规模进入ChatGPT基础设施，2027年扩大规模。该平台定位为多代产品，模型、芯片与内存协同开发。

机制拆解

Jalapeño针对推理流程中常见瓶颈设计。通过最小化数据搬运与通信延迟，系统可在不同阶段动态组合资源，而非固定架构。这与传统GPU在全流程统一调度的方式形成对比，解释了为何在相同模型下能同时提升每瓦吞吐与降低延迟。

700W与1400W的功耗对比，直接反映硬件在功率约束下的工作负载承载能力差异。HBM4内存的引入进一步支持更大模型状态本地保留，减少跨芯片通信开销。

产业影响

这一结果将影响所有依赖公开基准榜单的算力经济学评估。推理成本结构中，功耗占比显著，Jalapeño展示的效率优势可能改变ChatGPT等服务的边际成本曲线，进而波及依赖英伟达GB300系列的云服务定价与竞争格局。

据报道，Samsung作为HBM4供应商的角色凸显供应链多元化趋势。其他大模型厂商可能重新评估自研ASIC路径，尤其在推理负载占比持续上升的背景下。

战略判断

【分析】若Jalapeño按计划于2027年放量，其多代平台策略可能形成闭环优势，但英伟达后续产品迭代存在不确定性，实际市场份额变化仍需观察部署规模与真实 workload 表现。OpenAI全栈协同模式为行业提供参考，但复制难度在于模型与硬件的同步迭代能力。

【分析】对整个AI基础设施而言，此事件提示推理专用芯片正从边缘走向核心，成本结构重塑将传导至模型训练与服务定价，利益相关方需在硬件选择上进行更长期的组合配置。