路透:OpenAI对辉达晶片不全然满意 已接触AMD等替代供应商
《路透社》週一 (2 日) 引述多名消息人士报导,该公司已自去年起低调接触 AMD、Cerebras 及 Groq 等多家晶片业者,评估辉达以外的人工智慧 (AI) 推论晶片替代方案。
多名熟悉内情的消息人士透露,OpenAI 的策略调整,源于其对 AI推论运算的重视程度快速升高。推论是指 AI 模型在实际回应用户提问与指令时的运算过程,与模型训练不同。儘管辉达在大型 AI 模型训练晶片市场仍具压倒性优势,但推论晶片正逐渐成为新一轮竞争焦点。
多名消息人士指出,OpenAI 对辉达硬体在特定应用情境下的回应速度并不满意,尤其是在软体开发及 AI 与其他系统互动等需求上。
据其中一人透露,OpenAI 未来希望有新硬体可支撑约一成的推论运算需求。
OpenAI 寻找替代方案的同时,正与辉达进行投资谈判。
辉达去年 9 月曾表示,计画向 OpenAI 投入高达 1,000 亿美元,藉此取得股权,并协助 OpenAI 筹措购买先进晶片的资金。该交易原预期数週内完成,但至今谈判已延宕数月。
消息人士表示,OpenAI 产品路线的持续调整,也改变了其对运算资源的需求,进而影响与辉达的协商进度。
辉达执行长黄仁勋近日否认双方存在紧张关係,称相关说法毫无根据,并重申辉达仍计画对 OpenAI 进行大规模投资。辉达声明称,公司产品在大规模推论运算下仍具备最佳效能与整体成本优势。
OpenAI 方面也表示,目前其推论运算丛集的绝大多数仍由辉达提供支援。
OpenAI 在评估替代方案过程中,曾与 AMD 、Cerebras 及 Groq 等公司进行接触,评估可与辉达 GPU 竞争的方案。
消息指出,OpenAI 近一年评估的替代方案,聚焦于採用大量内嵌 SRAM 记忆体的晶片架构,这类设计在推论运算中可降低资料存取延迟,提升回应速度。相较之下,现行 GPU 架构多依赖外部记忆体,可能影响即时互动表现。这一限制在 OpenAI 的程式码生成产品 Codex 上尤为明显,内部评估认为硬体架构是影响效能的因素之一。
OpenAI 执行长阿特曼 (Sam Altman) 1 月底对外表示,程式开发用户对回应速度极为重视,OpenAI 将透过与 Cerebras 的合作来满足相关需求。不过他也指出,对一般 ChatGPT 使用者而言,速度的重要性相对较低。
华尔街分析,竞争对手如 Anthropic 与 Google,因较多採用自家开发、专为推论设计的晶片架构,在部分应用上具备效能优势。
随着 OpenAI 对现有技术表达保留,消息人士透露,辉达也曾接触 Cerebras 与 Groq 等业者,评估收购或合作可能性。最终 Cerebras 选择与 OpenAI 建立商业合作,而辉达则在去年底以非独家方式取得 Groq 技术授权,并延揽其部分晶片设计人才。
业界人士认为,OpenAI 对推论晶片的重新布局,显示 AI 发展正逐步从训练阶段,迈向更强调即时回应与实际应用效能的新阶段,相关动向也将持续牵动辉达在 AI 产业中的主导地位。