鉅亨網編譯段智恆
IBM(IBM-US)與人工智慧新創公司 Together AI 周二 (11 日) 宣布，雙方已簽署一項價值 2.4 億美元的多年期協議，將在 IBM Cloud 上建置由輝達 (NVDA-US) 系統驅動的大型人工智慧運算叢集，主要為開源人工智慧模型提供推論服務。
所謂人工智慧推論，是指已完成訓練的模型接收使用者指令後，執行運算並產生文字、圖像或其他回應的過程。隨著生成式人工智慧應用普及，推論已成為運算資源需求成長的最大動力之一，也促使雲端服務商及晶片製造商投入數十億美元擴充人工智慧基礎設施。
企業為降低人工智慧部署成本，正日益轉向開源模型。同時，Anthropic、OpenAI 及 Meta 等業者模型相關的資安事件與風險，也促使企業重新評估封閉式人工智慧系統。IBM 與 Together AI 此次合作，正是瞄準企業對價格較低、部署方式更有彈性的開源模型需求。
這座建置於 IBM Cloud 的運算叢集，將採用輝達 HGX B300 系統。該系統整合輝達新一代 Blackwell 處理器，並搭配 Spectrum-X 乙太網路設備，以提升大量人工智慧工作負載所需的運算及資料傳輸效率。輝達曾表示，Blackwell 晶片特別針對人工智慧推論進行最佳化。
Together AI 總部位於舊金山，其平台允許企業使用 DeepSeek、MiniMax 及 Kimi 等開源模型，訓練及執行人工智慧工作負載，成本通常低於封閉式系統。隨著企業尋求降低人工智慧支出，Together AI 也快速獲得市場關注，公司今年 7 月估值達 83 億美元。
這項合作除了擴大 IBM 在企業人工智慧雲端市場的布局，也讓輝達 Blackwell 平台取得更多推論應用訂單，顯示人工智慧產業的投資重心，正由模型訓練逐步延伸至規模更大的實際推論需求。
下一篇
