Google新压缩演算法亮出斩杀线 记忆体股多档吓趴跌停
Google 日前发表 TurboQuant 压缩演算法,可有效压缩 KV Cache,让记忆体的需求量降低至少 6 倍,消息一出,除了美股记忆体族群大跌,台厂包括旺宏 (2337-TW)、群联 (8299-TW)、宜鼎 (5289-TW)、宇瞻 (8271-TW) 等今 (27) 日都被打入跌停板。
Google 日前释出全新 AI 记忆体压缩技术 TurboQuant,宣称能在维持模型精準度表现的同时,将 AI 推论最吃资源的 KV Cache 需求大减 6 倍,并让运算速度提升 8 倍。Google 看好,TurboQuant 可用于缓解 AI 模型现阶段面临的 KV Cache 瓶颈,并应用在大规模语意搜寻。
业界指出,记忆体为 AI 推论过程中的主要成本之一,过去各家业者皆在压缩与模型精準度之间取捨,但 Google 透过新的压缩演算法,在同样的硬体下维持模型精準度,可支援 AI 出现更长的对话,尤其未来进入边缘装置后,该技术的应用範围将更为广泛。
由于市场担忧新技术将改变现阶段记忆体供不应求的格局,各家记忆体股明显承压,SanDisk(SNDK-US) 昨晚大跌 11%,美光 (MU-US) 同样重挫近 7%,卖压也一路蔓延至台股。
今日除了旺宏、群联、宜鼎、宇瞻等亮灯跌停外,其他包括凌航 (3135-TW)、创见 (2451-TW)、华邦电 (2344-TW)、南亚科 (2408-TW) 等,跌幅至少都在半根停板以上,整体族群卖压相当沉重。