〈AWS雲端年會〉推出首顆3奈米自製晶片 Trainium3明年底問世

亞馬遜 (AMZN-US) 旗下 AWS 執行長 Matt Garman 今 (3) 日宣布，推出全新 Trainium3，為自家首款採用 3 奈米製程的晶片，與上代 Trainium2 相比，運算能力增加 2 倍，能源效率提升 40%，預計 2025 年底問世。

Matt Garman 指出，Trainium3 專為滿足下一代生成式 AI 工作負載的高效能需求而設計，有助客戶更快地建立更大的模型，並在部署模型時提供卓越的效能，且由 Trainium3 驅動的 UltraServers 預計將比 Trn2 UltraServers 的效能高出四倍。

Matt Garman 說，目前包含 Adobe、AI 新創 Poolside、數據平台服務 Databricks 及晶片大廠高通均透過 Trainium2 處理器訓練其 AI 模型，其中，高通就在雲端運算 AI 模型後再傳送至邊緣端。

此外，Matt Garman 也宣布推出以 AWS Trainium2 為基礎的 Amazon EC2 產品 Trn2 UltraServers，以滿足需要更多 AI 運算的大型模型，Trn2 UltraServer 允許客戶將訓練規模擴展到單一 Trn2 執行個體的限制之外，從而減少訓練時間、加快上市時間並實現快速迭代以提高模型準確性。

Trn2 UltraServers 是全新 EC2 產品，其使用超快速 NeuronLink 互連，將四台 Trn2 伺服器連接在一起形成一台超大型伺服器，借助新的 Trn2 UltraServer，客戶可以在 64 個 Trainium2 晶片上擴展其生成式 AI 工作負載。

針對推論工作負載，客戶可以使用 Trn2 UltraServers 來提高兆級參數模型的即時推論效能，AWS 與 Anthropic 合作，建構由 Trn2 UltraServers 組成的 EC2 UltraCluster，名為 Project Rainier，其將互連數十萬顆 Trainium2 晶片。