DeepSeek一张GPU每小时创收38美元 推理毛利率估逾95%

DeepSeek开源内部推理框架,让大模型产业的焦点从模型能力转向推理成本。

DeepSeek一张GPU每小时创收38美元 推理毛利率估逾95%。(图:shutterstock)

根据官方揭露的单卡收入与外界设定的算力成本,科技投资研究员推算,其推理服务毛利率最高可能超过95%。不过,相关估算主要反映收入与硬体成本的差额,并不代表公司整体获利水準。

DeepSeek週二(20日)宣布,开源内部推理框架DeepInfer,以及Token编解码工具deepseek-recipe。

‌

DeepInfer用于DeepSeek V4.1-Flash的大规模推理,目标是在降低延迟的同时提高吞吐量,支援辉达(NVIDIA)GPU与华为昇腾NPU,採用Apache-2.0开源授权。

开源推理框架 聚焦降低成本

这次开源受到关注,关键之一是DeepSeek同步揭露的推理服务收入。根据其在GitHub发布的部署问答,V4.1-Flash单一丛集每天处理155兆Token,以离峰时段价格计算,每GPU小时收入达38美元,为外界估算推理业务的获利空间提供依据。

海外科技投资研究员Zephyr在社群平台X上推算,DeepSeek推理毛利率可能介于84.2%至96.1%,较最初估计的87.76%至96.94%有所下修。

‌

其初步模型假设,总Token流量中,97%为命中键值快取的输入、2%为未命中快取的输入,另有1%为模型产生的输出。其中,快取输入单价较低,所需运算负载也较轻。

在这种流量结构下,Zephyr结合官方公布的单卡极限吞吐量,包括预填充每秒8万Token、解码每秒1.6万Token,推算一张GPU满载运作时,每小时理论收入最高约49美元。

若算力成本介于每小时1.5至6美元,硬体层面的推理毛利率便落在87.76%至96.94%。

不过,这是理想负载下的估算。Zephyr随后依官方揭露的每卡每小时实际收入约38美元,以及生产环境效能约为基準测试80%等资讯,将毛利率区间修正为84.2%至96.1%。

换言之,最高超过95%的推算,核心在于单卡收入与假设算力成本之间的庞大差距,结果仍取决于实际流量、快取率与硬体成本。

高毛利推论 延伸至OpenAI与Anthropic

这项测算也引发外界对其他AI实验室API获利能力的讨论。科技投资观察人士Alex Corrino提出,顶尖AI实验室的API毛利率可能普遍超过80%;Zephyr则进一步认为,OpenAI与Anthropic部分主流模型的API毛利率可能达95%。

投资分析师Scott将这套逻辑延伸至订阅服务。根据研究机构SemiAnalysis的实测,Anthropic高阶订阅方案Claude Max提供的可用Token额度上限,按官方API单价换算,可达订阅费的58.6倍,曾引发高用量用户可能侵蚀平台利润的疑虑。

Scott另以API硬体毛利率达99%为假设,推算即使用户用完全部额度,每支付1单位订阅费,对应硬体成本也只有0.586单位,仍可留下41.4%的硬体层面毛利。

依其模型,API硬体毛利率只要维持约98.3%以上,即使用户用满额度,订阅收入仍可支应相应硬体成本。

然而,99%是这项推演设定的前提,并非已获证实的Anthropic实际毛利率,也不能据此确认其整体业务已获利。

软体提高吞吐 与专用晶片路线较劲

DeepInfer也让业界重新比较不同的推理降本路线。

产业观察人士指出,以Groq为代表的LPU客製化硬体,透过板载SRAM追求极低延迟与高速生成,但记忆体容量有限,承载主流大模型时,需要堆叠更多硬体板卡并串接大量节点,推高採购门槛与单Token硬体折旧成本。

相较之下,DeepInfer展示的是在通用GPU与昇腾等商用NPU上,透过软体调度提高并行处理能力与吞吐量,以较低的综合硬体成本,扩大规模化API服务的利润空间。

推理毛利不等于公司获利

多位产业观察人士提醒,上述高毛利测算主要聚焦Token售价与单卡硬体消耗之间的差额,未纳入前期模型研发与训练支出、全球节点高速频宽成本,以及系统工程团队薪资。

若要判断每GPU小时38美元收入究竟能留下多少利润,仍需掌握硬体折旧、能源、网路、快取储存及维运等完整成本。

接下来的关键,是开源框架能否在不同硬体与实际业务负载下,稳定提高吞吐量、降低每个有效输出Token的成本。

DeepSeek也仍需提供更多成本与资源利用率数据,外界才能判断这些高毛利估算,距离真实营运表现有多近。

发布于 2026-10-21 15:16
收藏
1
上一篇:钢铁巨头 CLF 财报优、看旺 2027 股价飙 16% 下一篇:没有了