OpenAI晶片每瓦效能胜Blackwell 分析师：辉达最大威胁浮现

随着OpenAI及科技巨头加速布局自研晶片，辉达在先进AI晶片市场的主导地位正面临新挑战。分析师认为，OpenAI首款客製化推论晶片Jalapeno若顺利大规模部署，可望降低推论成本与对辉达(NVDA-US) GPU的依赖，进而对辉达成长最快的推论业务及利润率构成压力。

OpenAI周二（25日）公布Jalapeno的技术细节，宣称这款晶片的反应速度及能源效率已超越辉达GB300。Jalapeno由OpenAI与博通共同开发，专门针对目前及未来的大型语言模型设计，预计今年底前部署至OpenAI的运算基础设施。

Yole Group技术分析师Adrien Sanchez指出，Jalapeno是一款专为推论工作设计的晶片，显示超大规模云端服务商打造的晶片，在推论能源效率方面已能媲美、甚至超越辉达Blackwell等级GPU。

Sanchez表示，辉达目前仍掌握绝大多数AI运算市场，并透过CUDA软体平台形成强大的生态系黏着度，但Jalapeno可能威胁辉达推论业务的利润率，而推论正是AI市场目前成长最快的领域。

OpenAI长期以来一直是辉达GPU的重要客户，大量採购其晶片训练及运行大型AI模型。随着OpenAI开始採用自研晶片，双方既有的合作关係也可能出现变化。

Omdia资深首席分析师Alexander Harrowell认为，Jalapeno是一项令人印象深刻的成果，尤其在能源效率方面表现突出。若投入大规模部署，不仅能节省电力及冷却成本，也可降低配电基础设施需求，显着改善OpenAI的单位经济效益。

TrendForce分析师Fion Chiu也表示，OpenAI的客製化晶片可能逐步降低其在推论任务上对辉达的依赖。不过，辉达GPU具备高度可程式化、强大效能、成熟软体生态系，以及处理多种工作负载的能力，未来仍将扮演重要角色。

研究机构SemiAnalysis曾造访OpenAI实验室并测试Jalapeno。结果显示，Jalapeno在几乎所有测试情境中的每瓦效能都优于辉达Blackwell，但该机构也提醒，这项比较并不完全公平，因为Jalapeno採用更新一代的HBM4记忆体，更适合与辉达Rubin平台进行同级比较。

此外，辉达Vera Rubin系统已开始向客户出货，Jalapeno则仍须一段时间才能从工程样品走向成熟产品。因此，自研晶片短期内尚难全面取代辉达GPU，但可能率先分食用途较明确、部署规模庞大的推论工作负载。

不只OpenAI，Google已推出可用于AI训练及推论的TPU，Meta也同意採用以博通技术为基础的客製化AI晶片。Anthropic则承诺未来10年向AWS技术投入逾1,000亿美元，其中包括亚马逊现有及未来版本的Trainium晶片。

Harrowell预估，客製化ASIC晶片出货量到2028年将超越GPU，但由于GPU售价明显较高，ASIC营收规模仍需更长时间才能超车。他认为，这是辉达面临的最大竞争威胁，因为AI基础设施资本支出约有一半来自超大规模云端服务商，而这些业者不是已经拥有自研晶片计画，就是具备自行开发的能力。