黃仁勳揭AI新時代藍圖：從GPU到AI工廠 輝達如何重新定義未來運算？

輝達 (NVDA-US) 執行長黃仁勳日前受邀出席史丹佛大學課程「CS153：尖端系統」，與學生對談運算產業的未來走向。他在演講中拋出一個核心論點：外界普遍把 AI 視為電腦裡的一項新應用，例如辨識影像、生成文字、協助寫程式，但這樣的理解已經過於狹隘。

根據黃仁勳，真正發生的變化，是從晶片、網路、儲存設備到資料中心與軟體開發模式，整個運算體系都正圍繞 AI 重新打造。他將此稱為 IBM System/360 問世以來，運算產業首次真正意義上的「重新發明」。

黃仁勳指出，過去數十年的電腦運作邏輯，本質上是程式設計師寫好程式碼、編譯器轉成二進位檔、處理器按固定指令執行，即便網際網路、雲端運算與行動裝置陸續問世，也未曾真正撼動這套底層邏輯。

然而，神經網路的出現打破了這個模式：機器不再單純執行人類寫死的規則，而是從資料中學習結構，依當下情境即時生成答案、影像、動作甚至程式碼。

黃仁勳認為，「生成式」三個字不該只被理解為生成內容。模型同時也在生成中間思考過程、工具呼叫指令、任務規劃與行動序列，並能持續觀察環境、調用其他軟體、檢視執行結果。

換句話說，運算正從「一次性回應需求」轉向「持續不斷工作」。

以自駕車為例，車輛無法從資料庫裡調出一段預錄好的轉向動作，必須即時判讀道路、行人與周遭狀況並做出決策，這也是黃仁勳認為未來幾乎所有能移動的機器都將逐步具備「機器人」特性的原因。

摩爾定律放緩後，系統級協同設計成為提升運算效能的關鍵

隨著運算模式轉向 AI，硬體發展已無法單靠延續傳統晶片架構來提升效能。黃仁勳多次指出，未來的競爭核心在於「協同設計」，也就是讓演算法、AI 模型、編譯器、晶片、互連技術、網路、儲存設備以及資料中心等各個環節，圍繞相同的工作負載進行整體最佳化。

這項理念其實可追溯至早期 RISC 架構的設計哲學，當時便強調編譯器與處理器必須相互配合，而非各自獨立運作。

進入 AI 時代後，協同設計的範圍進一步擴大，不再侷限於單一晶片，而是涵蓋 CPU、GPU、交換晶片、高速互連、網路與儲存系統，打造完整的 AI 運算平台。

背後原因在於，無論是圖形渲染、分子動力學、量子化學、流體模擬，或是深度學習訓練，都屬於高度平行化且運算量龐大的工作，僅依靠通用處理器已難以兼顧效率與擴充性。

隨著摩爾定律帶來的效能提升逐漸放緩，產業開始透過系統架構創新，重新設計平行運算、資料流與通訊方式，以持續推升整體運算能力。

黃仁勳表示，透過跨軟硬體、跨系統層級的整合優化，輝達在過去十年間已讓部分 AI 工作負載的運算能力提升約 100 萬倍。

不過，這項數據反映的是整體系統效能的進步，而非單一 GPU 性能的大幅躍升。也因此，在後摩爾定律時代，市場競爭的焦點已從「哪顆晶片速度最快」，逐漸轉向「哪一套完整運算系統能以最高效率完成實際 AI 工作負載」。

別只盯著 MFU，更重要的是系統真正產出了多少 AI 價值

課堂討論中，有學生提到大型 AI 叢集常用的指標模型浮點運算利用率（MFU，Model FLOPs Utilization）。

一般認為，MFU 越高代表 GPU 資源利用越充分，昂貴的運算設備沒有被閒置。然而，黃仁勳認為，若過度依賴這項指標，反而可能對系統效能產生誤判。

他指出，大型 AI 運算平台的效能並非只取決於 GPU 算力，還同時受到顯示記憶體頻寬、記憶體容量、網路互連以及儲存系統等多項因素影響。任何一個環節都可能成為瓶頸，因此系統設計通常會在部分資源上預留餘裕，以避免關鍵流程因單一瓶頸而拖慢整體運算。

換言之，即使部分 GPU 在某些時刻沒有滿載運作，也不代表系統效率低落。若一味追求更高的 MFU、刻意壓縮資源餘量，反而可能導致瓶頸放大，使整體任務耗時更長。

這種情況在 AI 推理階段尤其明顯。大型語言模型每生成一個 Token，都必須持續讀取模型權重與上下文資訊，因此真正限制推理速度的，往往不是 GPU 的峰值浮點運算能力，而是多顆晶片共同提供的記憶體頻寬。

也因此，一套 MFU 並不特別高的系統，仍可能憑藉更高的頻寬效率與更低的能耗，在相同時間內完成更多推理工作。

黃仁勳因此主張，評估 AI 基礎設施時，不應只關注系統擁有多少 FLOPS，而應衡量它在特定能耗下能產生多少有價值的 AI 成果。

即使以「每瓦可生成的 Token 數」作為指標仍無法完全反映不同 Token 的價值差異，但至少比單純追求硬體利用率，更能貼近實際業務效益。

對 AI 系統而言，真正重要的不是設備是否滿載，而是能否以更快、更有效率的方式完成目標工作。

從 Hopper 到 Feynman：輝達每一代架構都瞄準下一波 AI 運算需求

黃仁勳表示，輝達每一代 GPU 架構的設計理念，都是提前因應下一階段的 AI 運算需求，而非只解決當前瓶頸。Hopper 主要鎖定大型 AI 模型預訓練，在市場仍未出現數十億美元級 AI 超級電腦前，就已開始布局相關系統。

隨著 AI 產業重心逐漸從訓練轉向推理，Grace Blackwell NVLink 72 則透過 72 顆 GPU 組成機架級系統，利用高速互連提升記憶體頻寬，以加速大型語言模型推理與 Token 生成。黃仁勳指出，相較前一代架構，其相關工作負載效能提升約 50 倍，遠高於摩爾定律可帶來的增幅。

下一代 Vera Rubin 則瞄準 AI 代理應用。由於代理需要長期記憶、工作記憶及大量工具調用，因此除了 GPU 外，CPU、儲存與高速互連也必須同步最佳化，以降低等待時間、提升整體效率。

更長遠來看，代號 Feynman 的架構將支援由多個 AI 代理、子代理及各類工具組成的「代理群」。黃仁勳強調，輝達的產品藍圖並非單純追求硬體升級，而是先預測下一代 AI 軟體的運作模式，再據此打造對應的運算平台。

開放模型的價值，不只是打造聊天機器人

黃仁勳認為，開放模型（Open Model）的意義不僅是發展聊天機器人，更是讓不同語言、產業與研究領域都能擁有可修改、可微調的 AI 基礎模型。由於許多利基市場規模有限，商業閉源模型未必會投入資源，因此開放模型能加速各領域的 AI 創新。

他指出，未來 AI 也將超越自然語言，延伸至生物醫學、化學、氣候科學、自動駕駛及機器人等領域，這些應用都需要專屬的模型架構與訓練方式，而非直接套用大型語言模型。

為此，輝達已推出 Nemotron、BioNeMo、Alpamayo、GR00T 及氣候模型等多項基礎模型，協助建立各領域的 AI 生態。

黃仁勳也強調，未來 AI 將結合語言推理能力與世界模型（World Model），讓系統不僅能辨識物體，更能理解環境、推理因果並自主決策，例如提升自動駕駛的安全性。

此外，他認為開放模型也有助於安全研究，讓更多研究人員能檢驗模型行為、發現漏洞，並建立更有效的 AI 防禦機制，而非讓攻防競賽侷限於少數封閉模型之間。

AI 應融入所有學科，但基礎能力依然不可取代

談到 AI 教育，黃仁勳認為，AI 不應被視為一門獨立課程，而應成為所有學科的學習工具，協助學生閱讀論文、查找資料、撰寫程式、進行實驗與解決問題。

不過，他強調，AI 越能快速提供答案，人類越需要扎實的基本功，包括數學、第一性原理、電腦架構與工程思維，才能判斷 AI 輸出的正確性，理解系統為何成功或失敗。

黃仁勳也透露，輝達內部已廣泛使用 Anthropic、OpenAI 等公司的 AI 模型，幾乎所有工程師都在 AI 代理的協助下工作。

他認為，未來教育將與職場更加接軌，AI 的角色不是取代人的思考，而是減少重複性工作，讓人們將更多時間投入分析、判斷與創新。

AI 工廠時代，需要重新思考算力基礎設施

黃仁勳指出，AI 時代的挑戰不只是晶片不足，更在於現有的預算與資源管理模式，難以支撐大規模集中運算。傳統由各院系各自建置小型算力資源的方式，已無法滿足 AI 訓練與推理對大型運算平台的需求。

他認為，AI 運算具有規模經濟，研究團隊雖然平時不一定需要大量算力，但在關鍵階段必須能快速調度龐大資源，因此更適合建立校園級 AI 超級電腦或共享雲端算力平台。

黃仁勳更建議，像史丹佛大學等研究機構可投入大型預算建置公共 AI 算力基礎設施，讓所有研究人員都能共享資源。他強調，AI 時代的核心課題已不只是採購更多硬體，而是重新設計預算分配、治理模式與資源共享機制。

能源將成 AI 時代的核心限制，而非次要因素

黃仁勳指出，隨著 AI 從按需運算走向全天候運作的生成式 AI 與代理，未來運算所需的能源將大幅增加，能源供應將成為 AI 發展的重要限制，而非邊緣議題。

他表示，提升能源效率是首要任務，透過模型、晶片、互連與散熱的協同設計，在相同耗電量下完成更多 AI 運算。以 Blackwell 平台為例，其每瓦可生成的 Token 數較前代提升約 50 倍，展現系統架構創新對能效的提升。

另一方面，黃仁勳也認為，AI 帶來的龐大電力需求將加速太陽能、核能等能源發展，以及電網升級投資。未來 AI 的發展速度，不僅取決於晶片效能，更將受到能源效率、發電能力與電網建設等基礎設施共同影響。

黃仁勳：AI 風險應理性看待，而非過度神化

談到 AI 風險，黃仁勳認為，不應將 GPU 與核武等大規模殺傷性武器相提並論，也不贊同將 AI 發展描述為難以預測的「奇點」事件。

他指出，GPU 早已廣泛應用於遊戲、醫療、科學研究、物流與工業等領域，本質上是一種通用運算基礎設施，若政策建立在錯誤類比之上，恐導致偏離現實的監管方向。

不過，黃仁勳並未否認 AI 帶來的風險，而是主張透過開放研究、工程設計、安全機制及市場競爭，逐步降低潛在威脅。

他強調，AI 發展應秉持「理性樂觀」的態度，既不過度神化技術，也不因擔憂風險而停止創新，唯有維持開放且具競爭力的 AI 生態，才能讓更多人共享 AI 帶來的成果。

從失敗中建立戰略：觀察現象，再回歸第一性原理

黃仁勳在訪談最後回顧輝達過去的兩次重大挫折。他表示，早期圖形產品在曲面處理、Z-buffer、紋理映射等關鍵技術選擇上曾犯下錯誤，但這些失敗讓團隊學會如何判斷市場、控制資源並調整方向，也成為日後建立戰略能力的重要經驗。

另一個案例是手機晶片業務。輝達曾投入大量資源布局行動市場，規模一度達到 10 億美元，但在 3G 轉向 4G 時，由於缺乏基頻技術優勢，最終退出手機晶片市場。黃仁勳坦言，當時應更早看清手機產業的核心價值並非單純來自圖形處理能力。

不過，這段經歷累積的低功耗與高效率技術，後來轉化為機器人運算平台的重要基礎，延續至今日的 Thor 架構。

黃仁勳強調，成功不能替過去錯誤的判斷辯護，真正重要的是從失敗中修正認知。

他認為，制定戰略的關鍵不是精準預測未來，而是先觀察現象，再回到第一性原理分析趨勢，判斷哪些事情必然發生、哪些可能發生，並在前進過程中保留調整空間。真正有效的戰略，是在不確定環境中持續更新判斷，讓每一步行動都累積下一階段的選擇權。