亞馬遜(AMZN-US)旗下AWS執行長MattGarman今(3)日宣布，推出全新Trainium3，為自家首款採用3奈米製程的晶片，與上代Trainium2相比，運算能力增加2倍，能源效率提升40%，預計2025年底問世。MattGarman指出，Trainium3專為滿足下一代生成式AI工作負載的高效能需求而設計，有助客戶更快地建立更大的模型，並在部署模型時提供卓越的效能，且由Trainium3驅動的UltraServers預計將比Trn2UltraServers的效能高出四倍。MattGarman說，目前包含Adobe、AI新創Poolside、數據平台服務Databricks及晶片大廠高通均透過Trainium2處理器訓練其AI模型，其中，高通就在雲端運算AI模型後再傳送至邊緣端。此外，MattGarman也宣布推出以AWSTrainium2為基礎的AmazonEC2產品Trn2UltraServers，以滿足需要更多AI運算的大型模型，Trn2UltraServer允許客戶將訓練規模擴展到單一Trn2執行個體的限制之外，從而減少訓練時間、加快上市時間並實現快速迭代以提高模型準確性。Trn2UltraServers是全新EC2產品，其使用超快速NeuronLink互連，將四台Trn2伺服器連接在一起形成一台超大型伺服器，借助新的Trn2UltraServer，客戶可以在64個Trainium2晶片上擴展其生成式AI工作負載。針對推論工作負載，客戶可以使用Trn2UltraServers來提高兆級參數模型的即時推論效能，AWS與Anthropic合作，建構由Trn2UltraServers組成的EC2UltraCluster，名為ProjectRainier，其將互連數十萬顆Trainium2晶片。
