群聯攜聯發科 搶進邊緣AI推論市場

群聯 (8299-TW) 今 (14) 日於 MediaTek 天璣開發者大會 (MDDC 2026) 宣布，與聯發科 (2454-TW) 攜手在 MediaTek 天璣 9500 平臺上，單機運行 20B 大型語言模型，展現新一代邊緣端 AI 推論的關鍵突破。

群聯指出，生成式 AI 正快速從雲端走向終端裝置，而真正的挑戰，從來不只是算力，而是如何在有限的 DRAM 與功耗條件下，讓大型語言模型真正落地於行動裝置。

群聯通過專利 aiDAPTIV Hybrid UFS 解決方案，結合 aiDAPTIV Cache Memory 與 aiDAPTIV Middleware 技術，成功將部分 MoE 模型權重動態卸載至 UFS 存儲層，有效降低對 DRAM 的依賴，使原本需要 16GB+ DRAM 的大模型，可在 12GB DRAM 環境下流暢運行，大幅提升大模型在終端設備部署的可行性。

群聯看好，此次這不僅是一次技術展示，更代表 AI 正加速從資料中心延伸至智慧手機、IoT 等邊緣設備。未來，AI 將不再只是雲端服務，而是真正存在於每一台裝置之中。