在全球AI競賽從訓練階段邁入推理時代之際，谷歌正準備在AI算力版圖上打出關鍵一擊。根據《智通財經》報導，谷歌打算本周在拉斯維加斯舉行的GoogleCloudNext大會上，宣布新一代客製化AI晶片——張量處理器(TPU)，藉此強化自身在推理市場的話語權。負責谷歌AI算力基礎設施與晶片研發的AminVahdat雖拒絕針對專攻推理速度的晶片計畫置評，但暗示「在相對不久的將來」將有更多消息釋出。谷歌此舉背後是全球AI算力競爭結構性轉移；從以模型訓練為核心，轉向以大規模推理為主導。隨著AI應用與智能體(AIAgent)普及，衡量算力的指標已由「峰值性能」轉向「單位token成本、延遲與能效」，而這正是TPU等AIASIC(特殊應用積體電路)路線的優勢所在。短短數月內，谷歌獨家研發並部署於自家數據中心的TPU已成為科技業炙手可熱的商品，包括競爭對手在內的頂尖AI開發商紛紛搶購，試圖在推理時代鞏固競爭力。目前，輝達在AI晶片市占率約八至九成，但谷歌正以TPU體系正面挑戰其霸權。博通、邁威爾等晶片大廠也攜手亞馬遜、微軟與谷歌，打造量身訂做的ASIC算力集群，相關業務已成為營收與股價的重要支柱。經濟性與電力限制，讓科技巨頭紛紛押注ASIC，以壓低單位成本並提升能效，如微軟、亞馬遜與Meta都投入自研晶片，以降低對輝達GPU的依賴，並在採購談判與毛利率上取得主動權。TPU的崛起並非一朝一夕。早在去年10月，Anthropic便宣布擴大與谷歌合作，取得最多一百萬顆TPU的使用權，隨後谷歌推出Gemini3模型，並在部分TPU平台上完成訓練與運行，效能獲得好評。Meta也簽署數十億美元的協議，透過GoogleCloud使用TPU，並評估其在推理任務上的優勢。金融機構CitadelSecurities則打算在本周大會上展示TPU在訓練大模型上的速度優勢。阿布達比科技集團G42亦與谷歌就TPU應用進行多次磋商，顯示TPU已從谷歌內部自用工具蛻變為全球硬通貨。技術層面上，TPU的演進與谷歌AI研究同步。2017年，谷歌的論文催生了今日的大語言模型(LLM)，也促使TPU團隊聚焦於訓練更大模型的晶片設計。後來，DeepMind與晶片團隊發現，TPU在強化學習任務中常有閒置，遂調整半導體間的網路連接以提升數據流動效率。如今，谷歌仍在權衡單一pod內的晶片數量與精度配置，以降低成本並提升效能。谷歌首席科學家Dean坦言，即便擁有TPU，仍需採購輝達GPU以滿足通用計算需求，因CPU性能提升放緩，而AI工作負載日益龐大。然而，TPU的快速普及也帶來挑戰。晶片開發週期約三年，但AI模型演進速度遠快於此，使得預測未來需求變得困難。此外，軟硬體緊密結合的設計可能形成「技術孤島」，限制生態多樣性。供應鏈方面，谷歌面臨與輝達類似的產能瓶頸，部分新創公司抱怨TPU供給優先分配給頂尖團隊，如Anthropic，導致其他用戶取得不易。未來，AI資料中心很可能走向異構算力時代，也就是前沿訓練與廣義雲算力仍以GPU為主，超大規模內部推理、Agent工作流與固定高頻負載則加速轉向ASIC。谷歌正致力於打破孤島效應，開放TPU支援PyTorch等外部工具，並測試讓客戶在自己的數據中心運行TPU。這些舉措不僅改變外界對TPU的定位，也預示著AI晶片市場將進入多元競爭的新階段。隨著推理時代全面來臨，誰能在成本、能效與生態開放上取得平衡，誰就能在下一代AI戰場上佔據制高點。
