華碩胡書賓:本地化AI資料中心成新趨勢 預估至2033年複合成長率達20%
鉅亨網記者吳承諦 台北 2025-05-06 17:01

華碩 (2357-TW) 共同執行長胡書賓今 (6) 日於 2025 年 COMPUTEX 論壇發表演講,而隨著企業對數據隱私安全和本地運算的重視度提高,小型化、高效能的本地 AI 部署成為新趨勢,預計本地化 AI 市場發展潛力巨大,到 2033 年將維持 15% 至 20% 的年複合成長率,
胡書賓表示,華碩自 2011 年起已在台灣協助政府及企業單位完成八座中大型 AI 資料中心建置,這些建置經驗讓華碩累積了從設計到部署的完整解決方案能力,能夠回應客戶在不同階段的專業需求。
本地 AI 資料中心主要針對企業、政府和教育研究單位的特定應用場域所建置,其規模較大型資料中心小,通常採用市面上的 1U、2U、4U 伺服器 ,或搭載數張 RTX 等級顯卡的工作站,胡書賓指出,這類設施主要運行經過微調的大型模型或小型模型, 例如公司知識管理、AI 助理以及文件檢索增強生成 (Document RAG) 等實用場景。
胡書賓表示,近年來市場出現越來越多高效率的小型模型,例如 DeepSeek、LLaMA 4。背後技術如混合專家模型 (MoE)、MLA 架構、知識蒸餾 (knowledge distillation) 等,推動了這波發展。
胡書賓表示,近年來市場出現越來越多高效率的小型模型, 例如 DeepSeek R1、Meta Llama4 Scout、Microsoft Phi-4。背後技術如混合專家模型 (MoE)、MLA 架構、知識蒸餾 (knowledge distillation) 等,推動了這波發展。
華碩的本地 AI 資料中心解決方案特別著重運算效能調校,包括業界首創的 Multi-LM Tuner 工具,可以在本地資料中心便捷地進行語言模型微調,大幅提升數據中心的運行效率與穩定性。
- AI泡沫會不會重演?
- 掌握全球財經資訊點我下載APP