美光下一代AI記憶體突破面臨散熱難題！vHBM瞄準2028年量產、頻寬升級成關鍵

美光科技(MU-US) 正開發新一代垂直高頻寬記憶體（vHBM），計畫將DRAM直接堆疊在處理器上方，縮短記憶體與運算單元之間的資料傳輸距離，進一步提升頻寬，以滿足人工智慧（AI）推論工作負載對效能與容量日益增加的需求。不過，這項架構也帶來新的散熱難題，可能影響未來的導入規模。

根據《Benzinga》報導，在近期舉辦的技術與產品網路研討會上，美光發表了一份技術藍圖，規劃高頻寬記憶體持續演進至2030年的HBM6。該公司同時也提出了一系列旨在提升頻寬、容量和能源效率的新型架構。

法國巴黎銀行股票研究部資深分析師Karl Ackerman特別指出，vHBM是這份技術藍圖中較具重要性的發展之一。

傳統HBM通常透過中介層（interposer）將記憶體與處理器並排配置，vHBM則改採垂直堆疊方式，直接將記憶體放置於運算晶片上方。由於兩者之間的傳輸路徑縮短，這種設計有望提高頻寬，讓AI系統更有效率地傳輸資料。

報導指出，這項發展之所以重要，是因為記憶體正日益成為限制AI系統效能的因素，而不再只是附加於加速器的零組件。隨著AI模型的部署規模擴大，向處理器供應資料的能力，可能變得與處理器本身同樣重要。

根據研究報告，美光目標在2028年開始量產vHBM，並計畫在2030年前推出三代產品。這項時程顯示，vHBM屬於中長期發展機會，而非能立即推動獲利成長的動能。

vHBM頻寬提升伴隨散熱難題

不過，這項架構也帶來新的挑戰。Ackerman指出，將記憶體直接放置於處理器上方，會妨礙處理器散熱，形成散熱方面的取捨，可能限制這項技術的應用方式與範圍。

因此，他預期vHBM未來將與傳統HBM並行使用，而非全面取代既有架構。AI記憶體市場可能持續採用多種設計，由系統業者依照頻寬需求、散熱限制及封裝複雜度，選擇合適的組合。

這項區別對投資人而言相當重要。具發展潛力的架構，不代表必然能獲得廣泛採用，或帶來更高的經濟效益。美光及其客戶必須確保，這項技術帶來的效能優勢足以抵銷相關成本，同時還須處理系統的散熱與功耗問題。

同時，美光的技術藍圖還包括另一種專用記憶體架構：垂直邊緣推論記憶體（vEIM）。這項設計將低功耗 LPDDR 記憶體，堆疊在邊緣裝置的邏輯晶片之上。

美光第一代設計的目標頻寬為每秒2TB，每位元能耗低於1皮焦耳，目標同樣是在2028年開始量產。

美光短期獲利仍看HBM與伺服器記憶體

分析指出，美光短期內的獲利動能仍主要來自高頻寬記憶體、伺服器DRAM、企業級固態硬碟，以及供應吃緊的市場環境。

Ackerman在研究報告中指出，美光預期供應緊張的情況至少還會持續兩年。至於vHBM，則代表美光有機會在中長期進一步拓展AI記憶體市場。

對投資人而言，關鍵在於美光能否將架構上的技術進展轉化為獲得市場採用的商業產品，同時避免散熱與製造方面的挑戰削弱其技術優勢。

AI記憶體市場的成長機會正持續擴大，但下一項技術突破不能只追求更高頻寬，也必須能在實際系統中有效運作。