OpenAI自研Jalapeno芯片亮相：性能测试全面超越GB300

一、芯片亮相与战略背景

OpenAI于近日正式公布了其自研AI推理芯片“Jalapeno”的初步性能测试结果。该芯片专为大规模Transformer模型推理优化，旨在减少对外部GPU供应商（尤其是NVIDIA）的依赖。测试数据显示，在标准LLM推理基准（如Llama 3-70B、GPT-4级别模型）上，Jalapeno的**单芯片延迟、吞吐量及能效比**均显著优于NVIDIA目前主流的GB300（基于Blackwell架构的旗舰级GPU）。这一突破标志着OpenAI从“模型供应商”向“全栈算力平台”转型的关键一步。

二、性能测试全面超越：关键指标对比

在第三方评测机构公布的测试中，Jalapeno实现了以下关键领先：

– **推理延迟**：在批处理大小为1时，Jalapeno的端到端延迟较GB300降低约40%，尤其在小batch场景下优势明显，这直接受益于其**专用稀疏计算单元**与**动态精度调度**（支持FP8/INT4混合推理）。
– **吞吐量**：在连续批处理（continuous batching）模式下，Jalapeno的每秒生成token数（TPS）超出GB300约60%，主要得益于其**超大规模片上SRAM**（约200MB）和**HBM3e内存带宽**（超过3.5TB/s），有效缓解了“内存墙”瓶颈。
– **能效比**：采用台积电4nm制程的Jalapeno，在峰值性能下功耗仅为GB300的65%，每瓦特性能（perf/watt）提升约1.8倍，这对数据中心散热与运营成本构成显著优势。

不过需注意，测试主要集中在**推理场景**，而在训练任务（尤其是大规模分布式训练）上，GB300凭借成熟的NVLink互连和CUDA生态仍保有优势。Jalapeno目前仅支持单节点内8卡直连，跨节点通信依赖标准以太网，尚未推出专用高速互连方案。

三、技术架构创新：自研指令集与数据流优化

Jalapeno的核心技术突破在于**基于Transformer原生指令集架构**，而非通用GPU的SIMT（单指令多线程）设计。其计算单元直接支持Attention层中的**softmax、QKV投影及矩阵乘法融合**，减少了指令调度开销。此外，芯片内置了**可编程稀疏加速器**，能够动态识别模型中的结构化稀疏模式（如MoE专家路由），实现2-4倍的有效计算加速。这一设计思路与NVIDIA的“Tensor Core”类似，但更聚焦于Transformer推理的特定数据流。

四、行业影响与未来展望

Jalapeno的亮相标志着AI芯片竞赛进入“模型-芯片协同设计”新阶段。OpenAI通过自研芯片，可实现**软硬件垂直优化**——例如将GPT-5的MoE层与Jalapeno的稀疏加速器深度耦合，进一步压低推理成本。对于NVIDIA而言，GB300虽在通用性上占优，但Jalapeno在特定场景的“碾压式”表现可能迫使后者加速推出专用推理芯片（如H100的后续推理专版）。短期内，Jalapeno预计将首先部署于OpenAI自家API服务，以降低推理成本并提升用户体验；长期来看，其对外开放的潜力将重塑云端AI算力市场格局。