DeepSeek一張GPU每小時創收38美元 推理毛利率估逾95%

DeepSeek開源內部推理框架，讓大模型產業的焦點從模型能力轉向推理成本。

根據官方揭露的單卡收入與外界設定的算力成本，科技投資研究員推算，其推理服務毛利率最高可能超過95%。不過，相關估算主要反映收入與硬體成本的差額，並不代表公司整體獲利水準。

DeepSeek週二(20日)宣布，開源內部推理框架DeepInfer，以及Token編解碼工具deepseek-recipe。

DeepInfer用於DeepSeek V4.1-Flash的大規模推理，目標是在降低延遲的同時提高吞吐量，支援輝達（NVIDIA）GPU與華為昇騰NPU，採用Apache-2.0開源授權。

開源推理框架 聚焦降低成本

這次開源受到關注，關鍵之一是DeepSeek同步揭露的推理服務收入。根據其在GitHub發布的部署問答，V4.1-Flash單一叢集每天處理155兆Token，以離峰時段價格計算，每GPU小時收入達38美元，為外界估算推理業務的獲利空間提供依據。

海外科技投資研究員Zephyr在社群平台X上推算，DeepSeek推理毛利率可能介於84.2%至96.1%，較最初估計的87.76%至96.94%有所下修。

其初步模型假設，總Token流量中，97%為命中鍵值快取的輸入、2%為未命中快取的輸入，另有1%為模型產生的輸出。其中，快取輸入單價較低，所需運算負載也較輕。

在這種流量結構下，Zephyr結合官方公布的單卡極限吞吐量，包括預填充每秒8萬Token、解碼每秒1.6萬Token，推算一張GPU滿載運作時，每小時理論收入最高約49美元。

若算力成本介於每小時1.5至6美元，硬體層面的推理毛利率便落在87.76%至96.94%。

不過，這是理想負載下的估算。Zephyr隨後依官方揭露的每卡每小時實際收入約38美元，以及生產環境效能約為基準測試80%等資訊，將毛利率區間修正為84.2%至96.1%。

換言之，最高超過95%的推算，核心在於單卡收入與假設算力成本之間的龐大差距，結果仍取決於實際流量、快取率與硬體成本。

高毛利推論 延伸至OpenAI與Anthropic

這項測算也引發外界對其他AI實驗室API獲利能力的討論。科技投資觀察人士Alex Corrino提出，頂尖AI實驗室的API毛利率可能普遍超過80%；Zephyr則進一步認為，OpenAI與Anthropic部分主流模型的API毛利率可能達95%。

投資分析師Scott將這套邏輯延伸至訂閱服務。根據研究機構SemiAnalysis的實測，Anthropic高階訂閱方案Claude Max提供的可用Token額度上限，按官方API單價換算，可達訂閱費的58.6倍，曾引發高用量用戶可能侵蝕平台利潤的疑慮。

Scott另以API硬體毛利率達99%為假設，推算即使用戶用完全部額度，每支付1單位訂閱費，對應硬體成本也只有0.586單位，仍可留下41.4%的硬體層面毛利。

依其模型，API硬體毛利率只要維持約98.3%以上，即使用戶用滿額度，訂閱收入仍可支應相應硬體成本。

然而，99%是這項推演設定的前提，並非已獲證實的Anthropic實際毛利率，也不能據此確認其整體業務已獲利。

軟體提高吞吐 與專用晶片路線較勁

DeepInfer也讓業界重新比較不同的推理降本路線。

產業觀察人士指出，以Groq為代表的LPU客製化硬體，透過板載SRAM追求極低延遲與高速生成，但記憶體容量有限，承載主流大模型時，需要堆疊更多硬體板卡並串接大量節點，推高採購門檻與單Token硬體折舊成本。

相較之下，DeepInfer展示的是在通用GPU與昇騰等商用NPU上，透過軟體調度提高並行處理能力與吞吐量，以較低的綜合硬體成本，擴大規模化API服務的利潤空間。

推理毛利不等於公司獲利

多位產業觀察人士提醒，上述高毛利測算主要聚焦Token售價與單卡硬體消耗之間的差額，未納入前期模型研發與訓練支出、全球節點高速頻寬成本，以及系統工程團隊薪資。

若要判斷每GPU小時38美元收入究竟能留下多少利潤，仍需掌握硬體折舊、能源、網路、快取儲存及維運等完整成本。

接下來的關鍵，是開源框架能否在不同硬體與實際業務負載下，穩定提高吞吐量、降低每個有效輸出Token的成本。

DeepSeek也仍需提供更多成本與資源利用率數據，外界才能判斷這些高毛利估算，距離真實營運表現有多近。