輝達揭露超級電腦Eos 配備4608顆H100

輝達 (NVDA-US) 發布最新影片，首次公開展示最新資料中心規模超級電腦 Eos，由 576 個 NVIDIA DGX H100 系統組成，以每個 DGX H100 系統配備 8 個 H100 Tensor 核心 GPU 推算，超級電腦 Eos 共有 4608 個 H100 GPU，造價不斐。

輝達指出，超級電腦 Eos 除了由 576 個 DGX H100 系統組成，也內含 Quantum-2 InfiniBand 網路和軟體，提供總共 18.4 exaflops 的 FP8 AI 效能，可以訓練大型語言模型 (LLM)、量子模擬等。

輝達補充，Eos 是超大型 NVIDIA DGX SuperPOD，開發人員利用加速運算基礎架構和全面最佳化的軟體來實現 AI 突破；Eos 在去年 11 月的 Supercomputing 2023 大會 (SC23) 上亮相，以希臘女神 Eos 命名，據說她每天打開黎明的大門，彰顯公司對推進 AI 技術的承諾。

Eos 可以處理最大的 AI 工作負載，以訓練大型語言模型、推薦系統、量子模擬等，看好人們正在利用生成式 AI 改變世界，從藥物探索到聊天機器人，再到自主機器等。

輝達 Eos 架構採用網路內運算 (In-Network Computing) 技術的 NVIDIA Quantum-2 InfiniBand，可支持高達 400Gb/s 的資料傳輸速度，有助於快速移動訓練複雜 AI 模型所需的大型資料集。

輝達認為，隨著世界各地的企業和開發人員尋求利用 AI 的力量，Eos 成為一種關鍵資源，有望加速實現能為每個組織提供動力的 AI 驅動應用進程。