英偉達發布 NVHBM 內存技術，帶寬提升 30% 功耗降 15%

BlockBeats 消息，8 月 27 日，英偉達發布面向下一代 AI 基礎設施的 NVHBM 技術。NVHBM 是一種與主要儲存晶片供應商共同設計及驗證的定製 HBM 基礎裸片，將通過 NVLink Fusion 向開發定製 AI 加速器（XPU）的超大規模雲服務商和 AI 原生企業提供。

與標準 HBM4e 相比，NVHBM 每個堆棧可提供最高 30% 的額外內存帶寬，降低最高 15% 的 HBM 功耗，並為 XPU 釋放最多 25% 的計算裸片面積。英偉達稱，上述改進可幫助定製加速器支持更大的 AI 模型、更快讀取 KV 緩存，並提高訓練及大規模推理效率。

NVHBM 通過重新設計物理內存介面，將內存控制器移入 3D HBM 堆疊並集成定製 PHY，使 PHY 及配套區域面積最多減少 67%，同時簡化仲介層布線。釋放的晶片面積可用於增加矩陣引擎、緩存、網路及其他針對特定工作負載的功能。

在機架層面，NVLink Fusion 晶粒可將定製 XPU 連接至 NVLink 網路，並通過 NVLink-C2C 連接 CPU。英偉達表示，NVHBM 與 NVLink Fusion 結合後，每顆 XPU 的端到端性能可提高約 30%，同時允許定製 XPU 與英偉達 GPU 組成異構計算系統。官方尚未在文章中披露具體商用時間。

原文連結

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。