DeepSeek赴聯合國安理會談AI風險！OpenAI、Anthropic罕見同場

中國AI新創DeepSeek本周將與OpenAI等業者一同向聯合國安全理事會說明人工智慧(AI)可能帶來的風險。在各國領袖齊聚紐約參加聯合國大會之際，AI安全與國際治理再度成為全球焦點。

《路透》周二(22日)援引兩名知情人士消息報導，由15個成員國組成的安理會將於周三召開會議，討論AI與國際安全。OpenAI執行長阿特曼預計出席說明，Anthropic也可能派高階主管與會。包括DeepSeek與月之暗面(Moonshot)在內的中國AI企業亦獲邀發言，但DeepSeek創辦人梁文鋒目前沒有出席計畫，且相關安排仍可能在最後一刻改變。

這場會議召開前數周，多名AI產業領袖才共同呼籲協調放慢日益強大的AI系統開發速度，警告先進模型可能很快具備自行改進能力，最終脫離人類控制。

負責維護國際和平與安全的聯合國安理會，2023年首度召開AI風險會議。中國當時警告，不應讓AI成為難以控制的「脫韁野馬」；美國則提醒，各國不得利用AI審查或壓迫人民。

聯合國秘書長古特瑞斯上周也警告，AI快速進步帶來的風險不容忽視。這項立場與川普政府有所分歧。川普主張現有防護措施已經足夠，並認為質疑AI發展將使中國受益。

中國官媒則批評，放慢AI開發的主張源自「冷戰劇本」，目的在維護華府對尖端科技的主導地位，並將北京排除在全球AI治理體系之外。相較OpenAI與Anthropic等美國前沿AI實驗室，中國主要模型開發商較少公開談論AI欺騙人類、逃避控制或造成災難性傷害的可能性，本月美國相關辯論升溫後，中國業者也大致保持沉默。

在本次安理會會議前，美國財政部長貝森特周一表示，美中高階官員已同意繼續就AI安全進行對話。相關共識是在川普與習近平本周於華盛頓會晤前達成。