美光下一代AI记忆体突破面临散热难题！vHBM瞄準2028年量产、频宽升级成关键

美光科技(MU-US) 正开发新一代垂直高频宽记忆体（vHBM），计画将DRAM直接堆叠在处理器上方，缩短记忆体与运算单元之间的资料传输距离，进一步提升频宽，以满足人工智慧（AI）推论工作负载对效能与容量日益增加的需求。不过，这项架构也带来新的散热难题，可能影响未来的导入规模。

根据《Benzinga》报导，在近期举办的技术与产品网路研讨会上，美光发表了一份技术蓝图，规划高频宽记忆体持续演进至2030年的HBM6。该公司同时也提出了一系列旨在提升频宽、容量和能源效率的新型架构。

法国巴黎银行股票研究部资深分析师Karl Ackerman特别指出，vHBM是这份技术蓝图中较具重要性的发展之一。

‌

传统HBM通常透过中介层（interposer）将记忆体与处理器并排配置，vHBM则改採垂直堆叠方式，直接将记忆体放置于运算晶片上方。由于两者之间的传输路径缩短，这种设计有望提高频宽，让AI系统更有效率地传输资料。

报导指出，这项发展之所以重要，是因为记忆体正日益成为限制AI系统效能的因素，而不再只是附加于加速器的零组件。随着AI模型的部署规模扩大，向处理器供应资料的能力，可能变得与处理器本身同样重要。

根据研究报告，美光目标在2028年开始量产vHBM，并计画在2030年前推出三代产品。这项时程显示，vHBM属于中长期发展机会，而非能立即推动获利成长的动能。

vHBM频宽提升伴随散热难题

不过，这项架构也带来新的挑战。Ackerman指出，将记忆体直接放置于处理器上方，会妨碍处理器散热，形成散热方面的取捨，可能限制这项技术的应用方式与範围。

‌

因此，他预期vHBM未来将与传统HBM并行使用，而非全面取代既有架构。AI记忆体市场可能持续採用多种设计，由系统业者依照频宽需求、散热限制及封装複杂度，选择合适的组合。

这项区别对投资人而言相当重要。具发展潜力的架构，不代表必然能获得广泛採用，或带来更高的经济效益。美光及其客户必须确保，这项技术带来的效能优势足以抵销相关成本，同时还须处理系统的散热与功耗问题。

同时，美光的技术蓝图还包括另一种专用记忆体架构：垂直边缘推论记忆体（vEIM）。这项设计将低功耗 LPDDR 记忆体，堆叠在边缘装置的逻辑晶片之上。

美光第一代设计的目标频宽为每秒2TB，每位元能耗低于1皮焦耳，目标同样是在2028年开始量产。

美光短期获利仍看HBM与伺服器记忆体

分析指出，美光短期内的获利动能仍主要来自高频宽记忆体、伺服器DRAM、企业级固态硬碟，以及供应吃紧的市场环境。

Ackerman在研究报告中指出，美光预期供应紧张的情况至少还会持续两年。至于vHBM，则代表美光有机会在中长期进一步拓展AI记忆体市场。

对投资人而言，关键在于美光能否将架构上的技术进展转化为获得市场採用的商业产品，同时避免散热与製造方面的挑战削弱其技术优势。

AI记忆体市场的成长机会正持续扩大，但下一项技术突破不能只追求更高频宽，也必须能在实际系统中有效运作。