OpenAI 芯片负责人 Richard Ho 在斯坦福大学 Hot Chips 大会上表示，OpenAI 与 Broadcom 合作开发的推理芯片 Jalapeño，在实测中已超过英伟达现役旗舰 GB300，在相同功耗下可以处理更多 AI 工作量，响应速度也更快。
不过，彭博指出，这组对比结果背后至少还有四个没有完全展开说明的限制条件。Jalapeño 目前展示出的优势，主要集中在每瓦效率和延迟表现，距离大规模部署仍有一段距离。
Jalapeño 是一款推理专用芯片
Jalapeño 由 OpenAI 与 Broadcom 共同开发，定位是推理专用芯片，主要负责回答问题、执行任务等模型应用环节，不承担从头训练模型的工作。报道指出，推理和训练对应的设计逻辑并不相同。
这项合作在去年就已对外公开，双方以较快速度推进开发，并在今年 6 月正式发布这颗芯片。测试中，OpenAI 让 Jalapeño 运行自家的小型开源模型，也运行了 DeepSeek 和 Moonshot AI 的第三方模型，其中在 Moonshot 的 Kimi 模型上，优势最明显。
Ho 还提到，内部测试显示，Jalapeño 在 OpenAI 尚未发布的大型进阶模型上也有较强表现。
128 芯片系统可提供 1.7 exaFLOPS 算力
从规格看，由 128 颗 Jalapeño 组成的系统可提供 1.7 exaFLOPS 的 4 位元（MXFP4）算力，折算下来每颗约为 13.4 petaFLOPS。
The Register 的技术分析称，在 OpenAI 自定义的 InferenceX 基准测试中，这套系统的峰值吞吐量比对手机柜系统高出 1.5 到 1.9 倍，端到端延迟低了 1.7 到 3.6 倍；在超低延迟场景下，速度甚至快了 2.1 到 4.1 倍。测试模型包括 GPT-OSS-120B、DeepSeek R1 和 Kimi K2.5。
每套系统配备 27.5 TB 的 HBM4 高带宽内存，平均每颗芯片分配到 216 GB。报道称，这类内存主要用于为计算芯片持续提供数据，避免芯片等待数据输入而闲置。整套系统的内存带宽接近每秒 2 petabytes，另外还配置了一块大型 SRAM 缓存，用于就近存放 KV 缓存和中间计算结果。
从立项到 tape-out 只用了 9 个月
报道提到，从立项到 tape-out，Jalapeño 只用了 9 个月。OpenAI 称，其使用 AI 模型加速了整个芯片设计流程。文中解释，tape-out 指的是芯片设计定案并送往代工厂量产前的最后一步。
目前，第二代 Jalapeño 已进入后段阶段，第三代概念也已进入设计阶段。OpenAI 计划在 2026 年稍晚部署 Jalapeño，届时再决定哪些模型运行在这颗芯片上。官方给出的目标是降低数据中心电费支出。
彭博指出四个限制条件
彭博认为，这份成绩单存在至少四个值得注意的限制条件。
第一，Jalapeño 此次并未与英伟达刚开始出货的新一代 Vera Rubin 芯片直接对比，比较对象仍是上一代 GB300。
第二，这次基准测试刻意排除了推测解码。报道称，这是一种先由小模型起草、再由大模型确认的加速方法，业界普遍用它提升推理速度；在排除这项技术的情况下进行比较，对 Jalapeño 的架构相对更有利。
第三，与英伟达 GB200 NVL72 和 GB300 NVL72 机柜相比，Jalapeño 的原始算力反而少了 1.46 到 2 倍，内存容量也少了约一成，只有内存带宽领先对手接近两成。按报道说法，Jalapeño 赢下的是每瓦效率和延迟，而不是绝对算力规模。
第四，OpenAI 至今没有公布 Jalapeño 的实际功耗数字。外部估计认为，它比一般 GPU 省电 40% 到 60%。同时，报道称该芯片要到 2027 年才会量产，2026 年只有有限量供应，短期内还不足以撼动英伟达在数据中心的出货量。
按彭博的描述，这场胜利目前更接近实验室里的漂亮成绩单，距离真正的大规模部署还有一段路要走。
OpenAI 仍将继续采购英伟达产品
Ho 在会上并未淡化 OpenAI 与英伟达的合作关系。他表示，英伟达仍是「非常好的合作伙伴」，OpenAI「还是会需要非常多的 Nvidia」。
与此同时，OpenAI 也持续使用 Cerebras Systems 的技术来运行部分模型。Ho 的说法是，「我们对算力的需求太大了」，公司已经签下多家供应商。