OpenAI自研晶片超车辉达？Jalapeno两项测试击败GB300

OpenAI表示，自研的Jalapeno人工智慧(AI)晶片在测试中，部分效能优于辉达(NVDA-US)现有GB300处理器，显示其自行开发AI基础设施取得进展。OpenAI预计今年稍晚开始使用这款晶片支援旗下AI模型，藉此降低资料中心成本，并让客户依需求选择价格较低或回应速度更快的模型。

Jalapeno由OpenAI与博通(AVGO-US)合作开发，双方去年宣布合作，并于今年6月表示，这款晶片以创纪录速度完成设计。博通目前也替多家客户开发客製化晶片。

‌

OpenAI晶片负责人Richard Ho表示，在公开基準测试中，Jalapeno与当时表现领先的辉达GB300比较，并在两项指标取得优势，分别是单位功耗能处理的AI工作量，以及向使用者传回答案的速度。

兼顾高吞吐量与低延迟

一般AI晶片通常偏重其中一种能力，有些适合同时处理大量工作，有些则以快速回应见长。Ho表示，Jalapeno能同时提供高吞吐量与低延迟，可用较低成本服务大量使用者，也能为重视速度的客户提供更快回应。

OpenAI将决定旗下哪些模型由Jalapeno支援，客户则可选择偏重成本效益或运算效能的模型。这款晶片在约700瓦功耗下就能取得良好测试结果，有助降低资料中心电力支出。随着OpenAI在全球兴建大量AI基础设施，电力已成为最重要的营运成本之一。

不过，这次测试并未将Jalapeno与辉达刚开始出货的新一代Vera Rubin晶片比较，而且Jalapeno也不是用来训练AI模型。其主要用途是AI推论，也就是模型完成训练后，处理使用者提示词并执行任务的阶段。AI模型训练仍是辉达技术最具优势的领域。

OpenAI表示，Jalapeno的速度足以实现过去通常需要特殊记忆体及晶片架构才能达到的效能。公司目前使用Cerebras Systems的技术运行部分模型，但Ho指出，这类晶片较适合规模较小的模型，Jalapeno则可以处理更大型、工作负载更重的AI模型。

OpenAI以旗下较小型的开源模型，以及DeepSeek和Moonshot AI的第三方模型公开测试Jalapeno。在测试规模最大的Moonshot Kimi模型上，Jalapeno展现更明显的效能优势；内部测试也显示，它能有效运行OpenAI尚未发布的大型先进模型。

OpenAI因此认为，随着模型及工作负载规模增加，Jalapeno的设计价值将更加明显。不过，Ho强调，由于OpenAI对运算资源的需求极为庞大，短期内不会因此取代Cerebras等其他供应商。

第二代晶片进入设计最后阶段

OpenAI表示，公司在开发Jalapeno的过程中也使用自家AI模型，加快晶片设计速度。第二代产品目前已进入后期阶段，预计未来数月完成设计定案并送交製造；第三代晶片的初步概念也已开始规画。

Ho表示，Jalapeno在成本及功耗方面的表现，有望降低OpenAI的基础设施支出，但这仅是自研晶片计画的第一步。OpenAI加入自行开发AI晶片的科技企业行列，试图降低对辉达的依赖，并针对自家模型设计更有效率的硬体。

市场也有多家新创公司投入类似产品。近期以210亿美元估值募资的Etched开始出货低功耗晶片；由两名前Google晶片业务成员创办的MatX，也正开发同时具备高吞吐量及低延迟的处理器。

Ho预计周二在史丹佛大学举行的Hot Chips大会发表演说。他表示，OpenAI选择公开晶片研发成果，是希望促进AI半导体领域的创新。

儘管OpenAI宣称Jalapeno在部分测试中优于辉达GB300，Ho仍强调，辉达是OpenAI的重要合作伙伴，公司未来仍需要大量辉达晶片。这也意味着，Jalapeno短期内更可能扮演补充运算资源及降低推论成本的角色，而非全面取代辉达处理器。