防「智能爆炸」！WSJ：OpenAI、Anthropic、Meta和微軟AI研究負責人聯名呼籲審查AI研究自動化

《華爾街日報》周一(28日)獨家報導指出，OpenAI、Anthropic、Meta與微軟的研究負責人呼籲政策制定者審查各公司在AI研究自動化方面的進展。

在周一發表的論文中，OpenAI首席科學家Jakub Pachocki、Anthropic共同創始人Jack Clark、微軟首席科學官Eric Horvitz及Meta AI研究副總裁Dawn Song等研究人員警告，AI研究的自動化可能引發「智能爆炸」。這種發展態勢恐將原本需時數年取得的進展，壓縮至數月甚至更短時間，導致技術演進速度超出人類理解能力。

論文還詳述智能爆炸的潛在機制：當AI系統能自動設計更高效的演算法並自我迭代時，進步速度將呈指數級增長，人類可能無法及時理解或干預這一過程，從而失去對技術發展方向的控制權。

論文作者以個人名義撰文指出，政策制定者應緊急要求企業提高透明度，了解各公司在模型開發自動化方面已達到的程度。他們強調，缺乏對自動化進度的清晰認知，監管機構將難以應對潛在風險。

近年來，隨著生成式AI的突破，AI技術正快速滲透各領域，同時也引發關於就業、隱私、安全等廣泛擔憂。此次多位業界領袖的聯合呼籲，顯示AI研究社群內部對技術失控風險的警惕日益升高。

上述專家指出，智能爆炸雖仍屬理論情境，但若發生恐導致AI系統在短時間內超越人類控制，對社會、經濟與倫理造成深遠衝擊。因此，建立國際監管框架與透明度機制，已成為確保AI安全發展的當務之急。