CPU恐成云端业下一个瓶颈！亚马逊AWS出现「CPU短缺」

科技业已经从聚焦于 GPU 一片难求的窘境，转向 CPU 这项基础运算资源。

根据《The Information》报导，亚马逊 (AMZN-US) 云端服务（AWS）内部今年 5 月已对工程团队发出示警，要求全力节省运算资源，以确保未来能持续满足客户需求。

‌

值得注意的是，这波节流令不仅锁定 AI 晶片，更直指长年支撑网路服务运作的传统 CPU 伺服器。

知情人士透露，AWS 已对各部门下达期限，要求在今年稍晚前削减运算资源的占用比例。为了腾出算力转供外部客户使用，工程师们正陆续关闭先前用于软体开发、如今处于闲置状态的 EC2 虚拟伺服器。

一名任职 AWS 多年的工程师表示，过去申请 CPU 伺服器资源通常数小时内就能到位，如今却得苦候数天之久，这样的延迟在他的职涯中前所未见，甚至可能拖累专案交付时程。

对此，AWS 官方回应强调，儘管当前面临庞大需求，公司仍有能力满足绝大多数内外部客户的运算需求，并表示正与内部团队密切合作，确保 EC2 资源维持一贯的高效运用，员工使用资源的相关指引也未因目前的紧张情势而调整。

值得留意的是，外部客户目前受到的冲击仍属有限。一名协助企业导入 AWS 服务的顾问指出，尚未观察到客户在合约承诺的算力上出现实际短缺。

不过，AWS 以折扣价提供、但可随时在两分钟内被收回的竞价执行个体（Spot Instances），近几个月来已越来越难大量取得，被视为 AWS 整体供需缺口正在收窄、弹性空间持续压缩的明确讯号，也可能预示云端运算成本即将走高。

分析指出，这波 CPU 吃紧的根本原因，在于AI 代理应用的快速扩散。AI 顾问公司 Elendil Labs 共同创办人暨董事总经理 Jing Xie 观察到，客户的人均 IT 支出已然翻倍，主因正是企业内大量导入 AI 代理程式协助软体开发。

他指出，AI 代理程式在运作过程中往往需要调用比以往更多的云端资源，进而对 CPU 形成持续性的庞大需求。

他表示：不论是现在的开发、生产或营运，几乎所有工作所需的 CPU 都比过去更多。

事实上，CPU 的角色不仅限于 AI 应用的执行端，在 AI 开发流程中同样不可或缺。例如 AI 公司为训练模型準备资料时，仍须仰赖 CPU 从文件、影像与影片中读取并处理原始资料。

晶片大厂的最新表态也印证了这股趋势。英特尔 (INTC-US) 执行长陈立武（Lip-Bu Tan）今年 4 月的财报电话会议上曾透露，在 AI 推论（即模型实际运作）情境中，CPU 与 GPU 的使用比例约为 1 比 4。

然而，到了 7 月，该公司财务长 David Zinsner 便指出这项比例已迅速拉近至接近 1 比 1。

超微半导体 (AMD-US) 与 Arm(ARM-US) 的高层主管近期也做出类似表态，显示 CPU 需求成长的速度已超出业界原先预期。

除了 CPU 本身供不应求，与之搭配使用的记忆体晶片供应紧张，以及资料中心实体空间的限制，也共同加剧了这场算力荒。

大型科技公司的算力分配难题

如何在内部研发与外部客户之间分配有限算力，已成为近两年科技巨头共同面临的棘手课题。

根据《The Information》先前报导，Google 去年已成立一个由高阶主管组成的专责委员会，负责协调 Google Cloud、DeepMind 研究部门与消费端业务之间的运算资源分配。

即便如此，内部摩擦仍未消弭。Google 知名 AI 研究员 Noam Shazeer 今年稍早便因不满算力取得受限而选择离职。

相较之下，微软则展现出算力管理效率提升所带来的正面效益。该公司财务长 Amy Hood 上月在财报电话会议上表示，Azure 云端服务部分营收成长，正是得益于 CPU 与 GPU 丛集管理效率的提升。