黃仁勳再駁AI末日論：模型若無法控制 就該關閉實驗室！

人工智慧 (AI) 企業高層頻頻警告，失控的超級 AI 可能威脅人類，並以產業競爭壓力為由，要求政府協助放慢研發腳步。輝達(NVDA-US)執行長黃仁勳對此提出不同看法，認為開發商若無法控制自己打造的模型，就不應繼續研發，而應直接關閉實驗室。

黃仁勳週三 (23 日) 接受《紐約時報》知名 Podcast 節目《The Ezra Klein Show》專訪時表示，如果 AI 實驗室聲稱無法控制實驗，模型在測試期間可能外洩並危害世界，合理的處理方式就是停止實驗室運作。

「如果他們說，沒有任何方法可以控制實驗，測試 AI 模型時，模型將會外洩並危害世界，那麼我認為答案就是必須關閉這些實驗室。」黃仁勳說。

他以自駕車為例指出，如果工程師無法訓練自駕車，使其符合道路安全標準，企業就不應推出產品。同樣的原則也適用於 AI：企業若認為即將發布的產品不安全，本身便有能力、責任及誘因停止推出。

黃仁勳認為，AI 安全問題的核心在於企業及產品責任。若 AI 實驗室造成重大損害，不僅可能對人類帶來難以承受的代價，企業與股東也可能面臨龐大的民事及刑事責任。

超過 1,300 名 AI 實驗室員工先前聯署表示，各家公司面臨激烈競爭壓力，難以單方面放慢 AI 發展速度。

當節目主持人 Ezra Klein 引述這項說法時，黃仁勳直接予以否定，強調並沒有人向這些公司施壓。

黃仁勳表示，企業及執行長都擁有自主決策權。如果他認為即將推出的產品不安全，完全有能力、權力及責任停止發布，而且也有充分誘因這麼做。

他贊成由第三方進行安全稽核，但不認同 AI 公司以競爭壓力為由，要求放寬反壟斷法或產品責任規範。

黃仁勳表示，這是他首次聽到企業或執行長聲稱，必須減輕反壟斷法及產品責任法的約束，才能放慢自身發展速度。

在他看來，現行網路安全、產品責任及財產損害等法律，同樣適用於 AI 實驗室。業者不能一方面聲稱模型可能失控，另一方面又要求政府降低其法律責任，以便繼續開發。

針對被稱為「AI 教父」的電腦科學家 Geoffrey Hinton 認為，AI 摧毀人類機率可能達 10%，黃仁勳也公開反駁，形容這類說法不負責任。

黃仁勳表示，這項 10% 的機率缺乏科學與研究依據，即使說法出自科學家，也不代表預測本身符合科學標準。他指出，這類缺乏依據的預測會造成傷害。

談到 AI 研發資源配置，黃仁勳表示，輝達約將 20% 的資源投入設計，其餘 80% 用於驗證；目前多數 AI 實驗室的配置則相反，約 80% 投入能力開發，僅有 20% 用於安全驗證。

他主張，AI 必須加速發展才能提高安全性，業者需要取得更多運算資源，並將其投入模型評估及對齊。隨著評估程序變得更加嚴格，開發模型所需的運算量可能增至目前的 10 倍。

黃仁勳認為，改善 AI 安全不需要全球性條約，而是應讓 AI 公司遵守其他產業已適用的責任標準。產品若無法符合安全要求，企業便不應推出。

不過，輝達目前市值達 5.4 兆美元，無論 AI 實驗室將運算資源投入模型能力或安全驗證，都需要採購輝達晶片。若安全評估使運算需求增加 10 倍，輝達同樣能從中受益；相較之下，AI 產業共同放慢發展速度，才可能減少其晶片需求。