AI太烧钱?辉达投资新创出招 称帮客户省67%运算费
《华尔街日报》(WSJ)周一(19日)报导,获辉达(NVDA-US)、戴尔(DELL-US)投资的以色列新创doubleAI,将推出首款程式码执行模型Maxwell,透过改善软体执行效率,协助企业降低运算成本。公司表示,已替一家早期客户节省67%的运算费用。
总部位于特拉维夫的doubleAI成立约两年,累计募资2.2亿美元,由Mobileye(MBLY-US)共同创办人暨执行长沙舒亚(Amnon Shashua)共同创立并掌舵,目前约有40名员工。
不同于协助人类撰写程式的大型语言模型,doubleAI所称的程式码执行模型直接在运行中的程式内工作,无须人工介入,就能自动找出提升执行效率的方法。沙舒亚表示,关键突破在于透过形式化、数学方法验证程式码。
Maxwell锁定GPU与CPU运算成本攀升的问题。沙舒亚指出,运算需求增长速度超过硬体供给,提高既有设备使用效率便能节省可观费用。研究机构SemiAnalysis数据显示,一年期合约下,辉达H100算力每小时租金过去一年上涨60%。
AI业者LTX表示,导入Maxwell后,旗下模型推论速度提升至原本两倍,GPU使用时间减半,可直接降低服务成本、改善利润。
doubleAI计画依客户节省的运算费用抽成,但未公布比例。Maxwell预计本月稍晚扩大供应,沙舒亚认为,OpenAI、Anthropic等训练与推论支出庞大的AI实验室最能受惠,即使只节省10%,也可能省下数亿美元。
为确保自身算力供应,doubleAI已将约一半募资款用于购买1,000颗辉达B300晶片。沙舒亚表示,租金持续上涨,企业不能只依赖租用算力。