群联携联发科 抢进边缘AI推论市场
群联 (8299-TW) 今 (14) 日于 MediaTek 天玑开发者大会 (MDDC 2026) 宣布，与联发科 (2454-TW) 携手在 MediaTek 天玑 9500 平台上，单机运行 20B 大型语言模型，展现新一代边缘端 AI 推论的关键突破。
群联指出，生成式 AI 正快速从云端走向终端装置，而真正的挑战，从来不只是算力，而是如何在有限的 DRAM 与功耗条件下，让大型语言模型真正落地于行动装置。
群联通过专利 aiDAPTIV Hybrid UFS 解决方案，结合 aiDAPTIV Cache Memory 与 aiDAPTIV Middleware 技术，成功将部分 MoE 模型权重动态卸载至 UFS 存储层，有效降低对 DRAM 的依赖，使原本需要 16GB+ DRAM 的大模型，可在 12GB DRAM 环境下流畅运行，大幅提升大模型在终端设备部署的可行性。
群联看好，此次这不仅是一次技术展示，更代表 AI 正加速从资料中心延伸至智慧手机、IoT 等边缘设备。未来，AI 将不再只是云端服务，而是真正存在于每一台装置之中。
1