鉅亨網編譯段智恆
OpenAI表示，自研的Jalapeno人工智慧(AI)晶片在測試中，部分效能優於輝達(NVDA-US)現有GB300處理器，顯示其自行開發AI基礎設施取得進展。OpenAI預計今年稍晚開始使用這款晶片支援旗下AI模型，藉此降低資料中心成本，並讓客戶依需求選擇價格較低或回應速度更快的模型。
Jalapeno由OpenAI與博通(AVGO-US)合作開發，雙方去年宣布合作，並於今年6月表示，這款晶片以創紀錄速度完成設計。博通目前也替多家客戶開發客製化晶片。
OpenAI晶片負責人Richard Ho表示，在公開基準測試中，Jalapeno與當時表現領先的輝達GB300比較，並在兩項指標取得優勢，分別是單位功耗能處理的AI工作量，以及向使用者傳回答案的速度。
一般AI晶片通常偏重其中一種能力，有些適合同時處理大量工作，有些則以快速回應見長。Ho表示，Jalapeno能同時提供高吞吐量與低延遲，可用較低成本服務大量使用者，也能為重視速度的客戶提供更快回應。
OpenAI將決定旗下哪些模型由Jalapeno支援，客戶則可選擇偏重成本效益或運算效能的模型。這款晶片在約700瓦功耗下就能取得良好測試結果，有助降低資料中心電力支出。隨著OpenAI在全球興建大量AI基礎設施，電力已成為最重要的營運成本之一。
不過，這次測試並未將Jalapeno與輝達剛開始出貨的新一代Vera Rubin晶片比較，而且Jalapeno也不是用來訓練AI模型。其主要用途是AI推論，也就是模型完成訓練後，處理使用者提示詞並執行任務的階段。AI模型訓練仍是輝達技術最具優勢的領域。
OpenAI表示，Jalapeno的速度足以實現過去通常需要特殊記憶體及晶片架構才能達到的效能。公司目前使用Cerebras Systems的技術運行部分模型，但Ho指出，這類晶片較適合規模較小的模型，Jalapeno則可以處理更大型、工作負載更重的AI模型。
OpenAI以旗下較小型的開源模型，以及DeepSeek和Moonshot AI的第三方模型公開測試Jalapeno。在測試規模最大的Moonshot Kimi模型上，Jalapeno展現更明顯的效能優勢；內部測試也顯示，它能有效運行OpenAI尚未發布的大型先進模型。
OpenAI因此認為，隨著模型及工作負載規模增加，Jalapeno的設計價值將更加明顯。不過，Ho強調，由於OpenAI對運算資源的需求極為龐大，短期內不會因此取代Cerebras等其他供應商。
OpenAI表示，公司在開發Jalapeno的過程中也使用自家AI模型，加快晶片設計速度。第二代產品目前已進入後期階段，預計未來數月完成設計定案並送交製造；第三代晶片的初步概念也已開始規畫。
Ho表示，Jalapeno在成本及功耗方面的表現，有望降低OpenAI的基礎設施支出，但這僅是自研晶片計畫的第一步。OpenAI加入自行開發AI晶片的科技企業行列，試圖降低對輝達的依賴，並針對自家模型設計更有效率的硬體。
市場也有多家新創公司投入類似產品。近期以210億美元估值募資的Etched開始出貨低功耗晶片；由兩名前Google晶片業務成員創辦的MatX，也正開發同時具備高吞吐量及低延遲的處理器。
Ho預計周二在史丹佛大學舉行的Hot Chips大會發表演說。他表示，OpenAI選擇公開晶片研發成果，是希望促進AI半導體領域的創新。
儘管OpenAI宣稱Jalapeno在部分測試中優於輝達GB300，Ho仍強調，輝達是OpenAI的重要合作夥伴，公司未來仍需要大量輝達晶片。這也意味著，Jalapeno短期內更可能扮演補充運算資源及降低推論成本的角色，而非全面取代輝達處理器。
下一篇
