木頭姐示警記憶體高價恐成反效果！HBM需求正被新架構「扼殺」

方舟投資（ARK Invest）創辦人Cathie Wood近日在一場對談中分享對半導體產業與記憶體市場的看法。她認為，隨著AI晶片業者透過架構與工程設計降低對HBM的依賴，市場對高價記憶體的看法也值得重新檢視，零組件價格大幅上漲未必代表產業迎來利多，也可能促使業者尋找新的工程設計方案。

Wood指出，科技產業中，若某項零組件價格上漲3倍、4倍甚至10倍，並非正常現象，反而可能是一種負面訊號，但多數市場人士仍會將其視為重大利多。

Wood指出，業界正透過工程設計降低對HBM的需求，並以Cerebras(CBRS-US) 、Groq等AI晶片為例，透過將記憶體與運算更緊密整合，減少對傳統HBM架構的依賴。

她透露，她的創投基金持有Groq股份，並表示輝達(NVDA-US) 目前已與Groq展開合作。

Wood並以特斯拉(TSLA-US) 過去的案例說明工程設計如何降低對特定材料的依賴。當時鈷供應鏈受阻、價格大幅上漲，特斯拉執行長馬斯克便透過工程設計，大幅降低電池中的鈷使用量。

Wood另外指出，從自由現金流的角度來看，目前晶片股與超大規模雲端企業的表現呈現完全不同的走勢，但她認為這種情況只是暫時的。

Groq本月12日宣布成為輝達雲端合作夥伴，將為用戶提供基於中大型輝達加速運算叢集的訓練與推理服務。

輝達計畫在今年稍晚推出基於Groq的硬體，並在此基礎上開發更先進的晶片。

Groq 17日完成3.5億美元A輪融資，公司估值達35億美元，輝達亦計畫參與這輪融資。

根據Groq官網介紹，Groq的AI推理基礎設施由LPU提供支援。LPU是一種針對AI需求設計的處理器，將記憶體與運算功能整合在晶片中，以提升資料儲存與檢索速度，同時消除時序波動。由於採用片上記憶體，LPU能夠提高運行速度。

Cerebras則採用晶圓級引擎（WSE）架構，直接將整張晶圓製成一個大型晶片，並把運算核心與記憶體整合在單一晶片中，縮短資料在不同元件之間傳輸的距離與延遲。

目前，OpenAI的GPT Codex Spark已經在Cerebras晶片上運行，並實現接近零延遲的回應速度。