‌
‌
‌
‌
‌
科技

DeepSeek釋出核心推理框架引發熱議 美中競爭再添話題

鉅亨網新聞中心

AI gen LogoAI新聞摘要
  • 1.DeepSeek 20日宣布開放原始碼生產級推理框架 DeepInfer,採 Apache-2.0 授權
  • 2.DeepInfer 主打降低 AI 算力成本與能源消耗,支援 NVIDIA SM100 GPU、華為昇騰950 NPU
  • 3.開源僅限離線推理引擎,雲端託管與本地部署成本可望下降,引發全球關注

中國人工智慧(AI)企業「深度求索」(DeepSeek) 20 日宣佈,正式開放原始碼其生產級推理框架「DeepInfer」。在美國閉源 AI 模型持續調整價格與提高使用門檻的背景下,DeepSeek 選擇公開其底層核心推理技術,旨在降低 AI 運行的算力成本與能源消耗,推動技術普及化。此一舉措迅速引發全球科技界、國際智庫與開源社群的高度關注。

cover image of news article
DeepSeek釋出核心推理框架引發熱議 美中競爭再添話題(圖:shutterstock)

DeepInfer 技術規格與開放範疇

根據官方釋出的技術文件顯示,DeepInfer 是以 Apache-2.0 授權條款釋出的離線推理引擎,預設支援 DeepSeek-V4.1-Flash 模型(其預設權重採用 MIT 授權)。硬體需求方面,該框架專為資料中心級加速器設計,支援 NVIDIA SM100 GPU 以及華為昇騰(Ascend)950 NPU,運作環境需求包含 Linux、Python 3.12、CUDA 13 或 CANN 9.2。

技術架構分析指出,DeepInfer 包含了分散式推理、最佳化核心(Kernels)與非同步排程等關鍵功能;然而,本次開源範疇僅限於離線推理引擎,並不包含完整線上 API 服務所需的 KV 快取系統、預填與解碼分離(Prefill/Decode disaggregation)以及多副本負載平衡等組件。

‌

AI 閘道技術公司 Requesty 執行長 Thibault Jaigu 分析,DeepInfer 示範了如何在具備運算資源的前提下高效託管模型,有效降低了自主託管的門檻。

產業經濟效益與開發者生態

《彭博》分析指出,AI 模型運行的推理最佳化技術通常被科技企業視為核心機密並嚴密保密。DeepInfer 的開放使雲端託管服務商得以採用其省電與算力最佳化技術,進而提升營運利潤率,並有機會為終端使用者提供更具價格競爭力的服務。

同時,企業在本地端部署模型的成本也隨之降低。此外,即使 DeepInfer 主要針對自家模型最佳化,其他軟體開發者仍可借鑑其架構設計,改善自研的推理系統。

國際智庫觀點與美中競爭

針對 DeepSeek 展現的技術效率,美國外交關係協會(CFR)技術專家 Sebastian Elbaum 指出,在缺乏最頂尖晶片的情況下,中國工程師透過硬體底層程式設計與無人工干預的強化學習,開發出極具創意的架構最佳化。

‌

CFR 數位與網路空間政策資深研究員 Kat Duffy 認為,美國專注於通用人工智慧(AGI)與追求超大規模算力的策略,未必符合全球多數國家的實際需求;中國在受限環境下發展出具成本效益與省電的 AI 模式,反而更容易獲得國際市場青睞。

CFR 技術與創新資深研究員 Michael C. Horowitz 認為,DeepSeek 的突破顯示 AI 領域的先發優勢並非不可動搖,出口管制雖能爭取時間,但無法單獨確保長期領先。

CFR 亞洲研究資深研究員 Rush Doshi 則補充,業界對於出口管制的有效性存在分歧,部分學者認為DeepSeek 證明了在算力受限下進行技術創新的能力,另一派則主張應閉環監管漏洞。

全球社群與網路聲量

DeepInfer 的開源在海外社群平台(如 X)引發熱烈討論。部分歐洲 AI 從業者發布圖文表達對 AI 普惠化理念的認同;也有網友將 DeepSeek 堅持開源的作法,與傳統閉源企業的商業模式進行對比。

一位獲得上千次點讚的印度工程師留言表示,開源與閉源代表著人類科技發展的兩種不同未來,這正是開源理念獲得社群支持的核心原因。

‌
section icon

鉅亨講座

看更多
  • 講座
  • 公告
    ‌
    Empty
    Empty
    ‌