OpenAI自研Jalapeño芯片:主打内部算力,兼容多模型

OpenAI自研Jalapeño芯片主打内部算力。该ASIC兼容GPT-OSS、DeepSeek等多模型,强调可编程与通用性。设计核心在于提升能效及保护模型知识产权,目前主要满足自身需求,外部供应情况尚不明朗。

OpenAI 自研推理芯片 Jalapeño ASIC 的定位问题随着其曝光而成为焦点。尽管 OpenAI 与 Broadcom 的合作暗示了内部开发的意图,但该公司在 Hot Chips 2026 上展示了该芯片与 Nvidia Blackwell 加速器的对比数据,并公布了多代路线图。

Jalapeño芯片支持多模型运行

OpenAI 硬件负责人 Richard Ho 向 Tom's Hardware 确认,Jalapeño 主要旨在满足 OpenAI 自身的计算需求。“公司内部对计算的需求非常强烈,我们需要很长时间才能满足不断增长的需求,”Ho 表示,“我认为我们将在很长一段时间内为 OpenAI 提供计算。”

然而,Ho 也指出:“你可以用它服务任何人,诚实地说。”这表明虽然首要任务是确保 OpenAI 的内部算力供应,但芯片并非完全封闭于内部使用。

基准测试与通用性展示

Jalapeño 的竞争地位主要通过 Hot Chips 期间分享的基准测试结果体现。OpenAI 利用 SemiAnalysis InferenceX 基准,将 Jalapeño 与 Nvidia 的 GB200 和 GB300 进行了对比。通常,ASIC 针对特定工作负载设计,因此竞争性表现较少见,但 OpenAI 展示了该芯片加速自家开源模型 GPT-OSS、DeepSeek R1 以及 Kimi K2.5 的能力。

照片来源:OpenAI

Ho 透露,OpenAI 最初并未计划在 Hot Chips 展出这些基准。他重申了演讲中的故事:工程团队在 A0 样品交付后的两个月内,成功让 Kimi 和 DeepSeek 模型在 Jalapeño 上运行。这一举动旨在消除业界误解,即定制推理芯片仅适用于 OpenAI 自有模型。“它是可编程的,它是通用的,并不是为 OpenAI 模型硬编码的,”Ho 强调。

设计驱动力:效率与知识产权

对于 Jalapeño 的设计初衷,Ho 直言不讳地指出核心在于“效率”。他将效率视为计算的表亲,并指出现代 AI 数据中心受限于功率,更高效的推断引擎意味着更有效的计算资源利用。

此外,与 OpenAI 内部模型相关的代码设计也是重要考量因素。Ho 解释称,由于模型中包含大量研究知识产权(IP),即使签署保密协议也难以完全防止泄露,因此这类深度整合的代码设计难以通过第三方厂商实现。

市场策略与未来展望

关于是否进入外部硬件市场,供应能力可能是关键制约因素。Ho 提到过去两年他与 CEO Sam Altman 曾巡回工厂要求增加产能。虽然目前内部供应状况良好,但面向外部客户的供应情况尚不明朗。

若 Jalapeño 推向更广泛的市场,它不会直接对抗 Nvidia 的 Grace Blackwell 平台。Ho 表示,选择与 Blackwell 比较是因为“这些是我们能找到的最好的公布结果”。OpenAI 内部还进行了更多基准测试,包括针对 Vera Rubin 架构及更大背景窗口的测试。

InferenceX 基准测试聚焦于固定输入 8,000 token、输出 1,000 token 的场景。Ho 称,内部数据显示该 ASIC “似乎比其他一些现有设备的基准表现还要好”,且在与 Vera Rubin 的对比中表现良好。

Ho 总结道:“显然,当我们部署时,它将面对 [Vera Rubin],也许甚至是 VR Ultra……但我们不会公布这些细节。那些必须来自 Nvidia 和其他能够做到这一点的人……是的,我们做得很好。”

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读