辉达实质收购Groq后首度出手！下一代AI晶片架构大转向 弃SRAM改採3D堆叠DRAM
外媒最新报导指出，AI半导体领域传出架构剧变信号，以高速SRAM设计闻名、近期遭辉达实质性收购的晶片公司Groq正评估在下一代晶片中引入3D堆叠DRAM封装技术，试图摆脱传统SRAM架构的容量瓶颈。
目前，AI晶片多採2D封装，Groq计画导入3D封装，将多个半导体裸片垂直堆叠，其方案名为3DS，核心是利用TSV(硅通孔)技术在DRAM晶片内打穿数千微孔垂直互连，犹如为记忆体建起摩天大楼，在单位面积内提供超高显存密度。
与辉达高阶显卡常用的HBM不同，两者虽均採TSV堆叠，但HBM追求极致数据交换速率，3DS则在保持现有DRAM标準介面协定的前提下，将重心放在储存容量扩张。对于必须载入海量参数的AI推论任务，此举是更务实的降本增效方案。
长期以来，Groq的LPU架构因极高推论速度备受瞩目，但依赖的SRAM容量极小，单晶片面对千亿级参数模型时捉襟见肘。
DRAM虽然原生读写速度略逊于SRAM，但大容量特性在複杂模型部署中更具优势。透过3D堆叠，Groq试图在维持速度优势同时解决存不下痛点，为超大型AI模型推论铺路。
1