這廂圍剿 那廂結交！輝達搶先上線DeepSeek R1

• 開放模型 DeepSeek-R1 擁有 6710 億個參數，具備先進的推理能力，能在邏輯推理、數學、編程及語言理解等任務中提供高準確性。
• DeepSeek-R1 現已作為 NVIDIA NIM 微服務預覽版提供，支持高達每秒 3872 個標記的推理效率。
• 開發者可以透過即將推出的 API 進行測試和實驗，並能在其加速計算基礎設施上安全地部署。
• NVIDIA Blackwell 架構將進一步提升 DeepSeek-R1 的性能，提供高達 20 petaflops 的 FP4 計算性能。
• 開發者可以利用 NVIDIA AI Foundry 和 NeMo 軟件創建自定義的 DeepSeek-R1 微服務，滿足特定需求。

有別於 OpenAI 、Anthropic 和微軟 (MSFT-US) 等科技業巨頭對 DeepSeek 的圍剿 (詳見報導)，輝達走內捲路線，搶先上線備受爭議的開放模型 DeepSeek R1。

輝達 (NVDA-US) 官網 30 日顯示，推理開放模型 DeepSeek R1 現已在 NVIDIA NIM（輝達推理微服務）平台上提供預覽版。

DeepSeek R1 是具備領先推理能力的開放模型，專為需要複雜邏輯推理、數學計算、編碼及語言理解任務設計。該模型採用了一系列高級方法，如思路鏈、共識和搜索等，以確保能夠生成最優質的答案。不同於直接響應查詢的傳統模型，DeepSeek R1 通過多次推理來優化結果，這種測試時間擴展的方法對於實現實時推理和更高質量的響應至關重要。

開發人員現可透過 build.nvidia.com 上的 NIM 微服務訪問具 6710 億參數的 DeepSeek R1 模型，不僅可安全試驗這些功能，也可構建自己的專用代理。

此外，DeepSeek R1 NIM 微服務能夠在單個 NVIDIA HGX H200 系統上每秒處理多達 3,872 個令牌，極大提升了效率和響應速度。

為了簡化部署流程，DeepSeek R1 NIM 微服務兼容行業標準 API，並作為 NVIDIA AI Enterprise 軟件平台的一部分提供給用戶。企業可以通過在其選擇的加速計算基礎設施上運行 NIM 微服務，最大化保障數據隱私和安全性。同時，利用 NVIDIA AI Foundry 和 NVIDIA NeMo 軟件，企業還能定製化開發專門的 AI 代理服務。