8月25日,OpenAI 官方表态,其与博通(Broadcom)合作自研的 AI 推理芯片 Jalapeño,在关键基准测试中同时跑赢英伟达 GB300——在单位功耗可处理的 AI 工作量与响应延迟两项指标上均占优。这家以软件和模型起家的公司,正在把「造芯」变成新的叙事主线。Jalapeño 最快将于今年晚些时候投入实际使用。
一、从「买算力」到「造算力」:推理芯片初战告捷
长期以来,OpenAI 的算力几乎全部依赖英伟达 GPU,训练和推理环节都处于「芯片供应商说了算」的被动局面。Jalapeño 的出现改变了这一格局——它不是 PPT 上的规划,而是已经跑出对标顶级产品实测数据的第一款自研芯片。
据彭博报道,OpenAI 芯片负责人 Richard Ho 表示,Jalapeño 在 700 瓦的低功耗下即可实现强劲性能,这有助于显著降低数据中心的电力成本。与传统芯片往往要在吞吐量和延迟之间做取舍不同,Jalapeño 同时具备高吞吐量与低延迟,意味着既能以更低成本服务更多用户,也能为对响应速度敏感的客户缩短等待时间。
二、数据说话:两项关键指标领先
在 OpenAI 使用公开基准系统进行的评测中,Jalapeño 在「单位功耗吞吐」(每千瓦可处理的 AI 工作量)与「响应延迟」两个维度上都优于英伟达 GB300——后者是该测试系统中排名最高的产品。Tom's Hardware 等外媒指出,这款 700W 的 ASIC 在每千瓦吞吐量上较英伟达旗舰 GPU 有明显优势,延迟也更低。
- 测试模型:OpenAI 旗下的一个小型开源模型,以及来自 DeepSeek 和月之暗面(Kimi)的第三方模型
- 亮点:在月之暗面 Kimi 模型上的优势最为明显,而 Kimi 正是测试中规模最大的模型
- 内部测试:运行 OpenAI 尚未发布的多款大型高阶模型同样表现良好,显示设计「随工作负载增大更为顺手」
需要说明的是,此次测试并未纳入英伟达最新一代 Vera Rubin——该产品刚刚开始出货。也就是说,Jalapeño 的「领先」目前对标的是上一代旗舰,真正的新一代较量还要看后续。
三、定位推理,不抢训练蛋糕
Jalapeño 专为 AI 推理阶段设计——即模型完成训练后、响应用户指令和执行任务的阶段,并非用于模型训练,而训练恰恰是英伟达技术的核心优势所在。这意味着 OpenAI 并非要与英伟达全面开战,而是瞄准了成本压力最大的推理环节,从底层算力上做文章。
Richard Ho 指出,Jalapeño 的速度优势使 OpenAI 得以实现此前只有依赖特殊内存架构才能达到的性能。目前 OpenAI 部分模型使用 Cerebras Systems 的技术,但这类芯片更适合规模较小的模型,而 Jalapeño 能处理更大规模的模型,形成差异化优势。
四、博通代工 + AI 加速研发
Jalapeño 由 OpenAI 与博通合作开发,双方的合作于去年宣布,今年 6 月两家公司还强调了这款芯片「创纪录的开发速度」。更值得一提的是,OpenAI 借助自身 AI 模型进一步加速了芯片的研发进程——用 AI 设计芯片,正在从概念走向工程实践。
目前,第二代 Jalapeño 已推进到较成熟阶段,预计「未来几个月」完成流片;第三代芯片的概念设计也已启动,目标是把 OpenAI 在全球范围内大规模铺设 AI 基础设施的成本进一步压低。Richard Ho 表示,公司已经达到一个能切实降低基础设施成本的功耗与成本水平,「这只是第一步」。
五、英伟达仍是重要伙伴
尽管在推理环节亮出肌肉,OpenAI 并未将 Jalapeño 定位为英伟达芯片的全面替代品。Richard Ho 明确表示,公司对算力的需求极为庞大,未来一段时间仍将与多家供应商合作:「英伟达是非常好的合作伙伴,我们持续需要大量英伟达产品。」自研芯片与其说是在「去英伟达化」,不如说是在给算力供应链上一个保险栓、多一条议价与备份的路径。
结语:算力自主的下一步
Jalapeño 的意义在于:AI 公司开始把「算力」从外购商品改造成自研能力。对行业而言,这释放的信号是——顶尖模型厂商不再甘愿在芯片上长期看人脸色,推理成本、供电效率、供应链安全,都将成为下一代 AI 竞争的硬指标。
参考来源
- OpenAI 官方博客:Jalapeño's first results show industry-leading speed and efficiency in AI inference
- 华尔街见闻:速度更快、功耗更低,OpenAI JALAPENO 芯片强势叫板英伟达 GB300
- Tom's Hardware:OpenAI's 700W Jalapeño ASIC outpaces Nvidia GB300
- The Next Web / Neowin / Reuters 相关报道
- 作者:lee
- 链接:https://ligan.cc/article/openai-jalapeno-chip-beats-nvidia-gb300
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。











