黃仁勳向左、Amodei往右：矽谷AI巨頭因「加速」還是「踩煞車」分歧

先進AI繼續加速還是踩煞車，成為矽谷時下最具爭議話題。圍繞這場爭議，矽谷巨頭們開始站隊，Dario Amodei、奧特曼、馬斯克以及Demis Hassabis組成了「暫停派」。黃仁勳則是堅定的「加速派」，批判「AI末日論」缺乏科學根據；楊立昆更是持續嘲諷Amodei，他說：「（Amodei）當年還在OpenAI時，就認為GPT-2危險到不該開源，我當時就嘲笑過他，現在大家可以繼續。」

相比之下，祖克柏和納德拉等人表現相對中立。巨頭們各自站隊，意味著矽谷對先進模型暫停沒有形成共識，這源自於各家在AI產業鏈上的生態位差異。模型層面的領先者能夠出於不同的理由喊暫停，但想讓手握數千億美元算力訂單的甲骨文、AWS，以及站在產業鏈頂端的輝達這樣的企業停下來，不可能得到正面響應。

在華盛頓，「暫停」的呼聲不僅沒有得到支持，甚至引發一系列質疑。「這有點特洛伊木馬(Trojan horse)的味道。」副總統范斯在接受採訪時說，這句話其實反映了華盛頓的真實看法——製造木馬的企業一再要求把門變得更窄的時候，就應該審視一下這道門究竟適合哪些企業。

「暫停」、警示與一封辭職信

這場爭論的導火線，是一名Anthropic研究員考克森(Jacob Coxon)的辭職。他此前在OpenAI和Anthropic做了三年預訓練研究，親身參與了最先進模型的訓練。在X上的長文裡，他幾乎沒有客套：「兩家公司都沒有負責任地行事。它們正徑直衝向可自我改進的超級智慧，拿我們的生命下注。」

他直言，實驗室內部的人真正相信AI可能在十年內殺死所有人類，而這絕不是公關表演。許多同事已經開始用「關鍵時刻」、「終局」來形容當前階段。考克森甚至放棄了即將歸屬的股權。他在Anthropic只待了四個月，按公司規定六個月才能行權。

緊接著，Anthropic負責對齊科學的埃文·休賓格公開回應：雅各布是對的，我們真的認真相信AI可能殺死所有人類。我個人認為，十年內這個概率超過10%。Anthropic在盡力，但我們還沒有解決超級智慧對齊的清晰計畫，也遠未走上正軌。

這兩聲槍響，把原本主要在實驗室內部發酵的擔憂，直接推到了公眾面前。在這一背景下，Anthropic創辦人兼CEO Amodei隨即發表長文，系統提出「放緩先進研究」的主張。他不再只談「多投安全」，而是明確要求主動控制能力躍升的速度，給安全機制留出追趕時間。

他列出三步走：先由Anthropic單方面引入擁有員工級權限的獨立評估者；再推動民主國家AI公司建立共同安全標準和能力增長上限；最終嘗試全球協調。

奧特曼、馬斯克、Hassabis很快公開呼應，形成了「暫停派」。在考克森、Amodei提出「減速」論之前，約書亞·本吉奧、傑弗里·辛頓這些「AI教父」們，一直在發出關注風險的倡議。

談及考克森的辭職，本吉奧表示，先進AI實驗室的科學家往往能夠比公眾更早看到最新模型的能力，因此他們對風險的判斷值得認真對待。

與此同時，本吉奧還具體舉例，稱當前AI系統已經具備駭客攻擊和說服能力，如果被用於損害人類利益，可能造成嚴重後果。他還擔心，隨著AI具備更長時間跨度的規劃能力，這類風險可能進一步擴大。

在被BBC問及AI在未來十年內「殺死所有人類」的概率超過10%時，傑弗里·辛頓也表示，這一數字「並非不合理」，但同時強調，沒有人真正知道如何給出一個可靠的估計，因為人類此前從未面對過「可能很快比我們更聰明的物種存在」。

辛頓認為，AI未來可能被用於設計危險的生物病毒、電腦病毒以及發動大規模網路攻擊。因此，人類需要在風險失控之前找到有效的控制方法。

與矽谷新一輪「暫停論」的倡議者們不同，「AI教父」們更多的是呼籲關注風險，並探索建立控制風險的機制，而非直接踩煞車。而且，從立場上來說，學術領域的意見和建議更加單純，而先進實驗室的倡議，即便明面上掛著「為了人類」的標籤，仍然難以100%脫離商業考量。

這恰恰就是為什麼JD萬斯說「暫停論」像特洛伊木馬的原因。

分歧與站隊

9月15日，多位科技公司掌舵者在Salesforce Dreamforce大會上接連發聲，這場爭論開始變成一場更加直接的觀點交鋒。

當天，Amodei、黃仁勳和奧特曼都談到了AI安全，但對發展速度、安全責任以及企業應該採取什麼行動，給出了不同答案。

Amodei與Salesforce執行長Marc Benioff同台時，再次強調AI企業應該通過自身行動樹立更高的安全標準。他認為，企業主動採取更加嚴格的安全措施，可以成為推動整個行業向前發展的方式。

換句話說，Amodei的態度開始轉變，從呼籲全行業減速，轉向企業自主加裝安全護欄。

黃仁勳則表示「不需要新的法律，也不需要新的監管」。在他看來，速度和安全並不是非此即彼的關係，企業可以盡可能快地推進模型開發；如果發現失去控制，或者產品無法確保安全，就應該暫停下來解決問題。

Benioff的態度則更加開放和強調自主。他表示，如果企業認為應該放慢，就應該放慢；如果認為應該加快，就應該加快，同時也應該對自己的決定承擔責任。

OpenAI創辦人兼CEO奧特曼在Dreamforce現場表示，非常有信心OpenAI乃至整個AI行業能夠在不對公眾造成重大傷害的情況下安全發展。他同時表示，對於外界將自己的觀點理解為支持整個行業放慢AI發展速度，他感到失望。

換句話說，奧特曼也開始轉變，強調自己想表達的並非呼籲行業減速，而是安全和監控工作應該先於能力提升。

祖克柏則不主張把一家公司的安全行動，建立在其他AI公司必須同步放慢的前提上。他認為引入獨立評估機構和外部顧問來檢驗模型安全性是行業最佳實踐。他還透露，Meta此前已經自行放慢了Muse AI工具的開發，而不是等待其他公司先就放慢AI發展達成共識。

微軟執行長納德拉的態度某種程度上和奧特曼是一致的，鼓勵加裝護欄，也鼓勵充分的競爭。

納德拉9月15日在參加All-In Summit 2026峰會時說，「我們首先要做的是服務人類、並確保技術處於人類控制之下。與此同時，AI技術的廣泛擴散才是最關鍵的，必須有選擇、有競爭。安全要認真對待，但要用工程和透明的方式去解決，而不是把它神秘化。」

這些企業家之外，華盛頓的聲音也進一步加入了進來。

在川普直接致電黃仁勳，公開表達了對AI產業繼續發展的支持之後，美國總統科學技術顧問委員會主席David Sacks隨後表示，科技公司可以繼續推進先進AI，同時質疑部分企業提出「減速」主張背後的動機。

誰來制定規則？

隨著討論擴大，爭議也從AI風險本身，進一步延伸到先進AI的安全標準究竟應該由企業自行制定，還是需要政府和獨立機構介入？

彭博社援引知情人士消息，稱Anthropic、谷歌和OpenAI此前已經討論過建立一個AI產業標準機構。

7月份，Hassabis發表過一篇文章，提出成立一個由美國主導的AI標準機構，運作模式類似美國金融業監管局（FINRA）。這一機構可以在先進AI模型正式部署之前進行測試，判斷其是否達到相應的安全標準。

按照Hassabis的設想，這一機構不應完全由政府主導，而應採取公私合作模式。其中，政府扮演監督的角色，由AI行業提供資金，同時吸納獨立的頂尖技術專家以及開源社區代表參與。

Hassabis試圖在模型進入現實世界之前增加一道獨立的安全檢查，這比較貼合美國政府6月初公佈的一套監管邏輯：企業可自願在模型公開發佈前，交給政府評估，最長可提供發佈前30天訪問窗口且明確不搞強制審批、不設發佈許可。

比較戲劇的是後續Fable 5和Mythos 5上線，未遵照這套流程，但被發現具備極強的網絡攻防能力，最終被美國BIS以出口管制的形式短暫下線。

不過，即便如此，政策的態度也只是要求加裝安全護欄，未做出減速的表態和指導。

和Hassabis持有類似觀點的是OpenAI首席科學家Jakub Pachocki。他在9月初也強調，共享安全標準，圍繞AI進一步發展進行國際協調，應當成為當前的優先事項。

沒有人真正踩下剎車

到目前為止，這場爭論還沒有真正改變先進AI公司的發展節奏。Anthropic、OpenAI、Google、xAI等公司仍在繼續推進模型研發，圍繞算力、資料中心和AI基礎設施的競爭也沒有因為這場爭論而停止。資本市場層面則出現了不同變化：Anthropic仍在籌備今年的IPO，而OpenAI則將IPO計畫推遲至2027年。

Amodei想拉著整個行業停下來，陪著Anthropic一起尋找為模型能力越界加裝護欄的解決方案，一定程度上可以理解為「慷他人之慨」。這也是為什麼Amodei會被貼上「假裝成完美無瑕的小天使」標籤的原因。

關於這個風險控制的話題，黃仁勳所代表的觀點其實更符合現狀，如果企業有擔憂，或者發現問題，完全可以自行探索解決方案，並且將探索出的行之有效的方案與行業共享。

讓一個100人的團隊，和一個1,000人的團隊，一起停下來，根本不具備共識的基礎。甚至連Amodei自己都很清楚，如果只有自己停下來了，很有可能就會被OpenAI等競爭對手超過。

更重要的是，公司治理層面的分歧。Anthropic、OpenAI都是公益公司（Public Benefit Company），可以喊著「為了人類未來而放棄短期財務利益」，可以告訴投資人「這一點我們很早就共識過」，但Google、微軟、Meta這類上市公司，管理層對二級市場股東負有法定信義義務。

兩種不同利益的公司在這點上，達成共識的可能性也不會太大。還有一個可能被忽視掉的細節。在「暫停論」之前，Anthropic和OpenAI都先後發了最強模型，一個是Fable 5.1，另一個是GPT-6 Astra。在這樣的呼籲聲中，其他家的新模型還會如期推出嗎？」