美中擬9月中旬啟動AI安全對話 模型「蒸餾」與網攻風險成兩大議題

《路透》引述知情人士報導，美中正籌備於9月中旬舉行人工智慧安全對話，議題涵蓋模型「蒸餾」、AI網路攻擊、前沿模型失控及跨境危機處理。若會談成行，將是川普第二任期以來，兩國首次專門針對AI舉行正式雙邊對話。

這場對話也被視為美中領袖峰會的前哨。美國總統川普與中國國家主席習近平預計9月24日在華盛頓會面，中方已在多次籌備會議中強調AI議題的重要性，並將這場對話列為峰會的重要成果之一。

不過，會議仍處於協調階段，時間、地點、最終議程及出席名單尚未敲定。美國財政部發言人表示，目前沒有相關會議安排；白宮拒絕置評，美國國務院及中國相關部門也未回應。

在人員安排方面，美方代表預計由財長貝森特領軍；中方可能由與其職級相對的國務院副總理何立峰出席，也不排除改由中共中央政治局常委丁薛祥代表。丁薛祥負責協調中國科技、AI及半導體政策。

白宮科技政策辦公室主任Michael Kratsios 與中國科學技術部部長陰和俊也可能與會。

兩人本週已在美國舉行的G20創新峰會場邊會面；貝森特也表示，他在G20財長會議期間曾與中國官員就AI進行有限交流。

知情人士指出，美方希望透過這場對話建立AI網路攻擊的共同監控機制，並提議由美中AI實驗室加強自我管理與資訊分享，降低AI被用於發動網攻的風險。

華府同時關切中國未來可能開發出具備網攻能力的Mythos等級模型，以及中國企業涉嫌利用美國專有模型進行「蒸餾」。模型蒸餾是指利用大型模型的輸出結果，訓練規模較小、成本較低的AI模型。

Kratsios今年6月曾指控，中國月之暗面 (Moonshot AI) 使用Anthropic的Fable模型訓練K3。中國企業近幾個月也陸續推出號稱具備類似Mythos能力的產品，進一步加深美方疑慮。

近期接連發生的AI代理失控事件，則凸顯建立安全機制的迫切性。

OpenAI與資安研究人員上週表示，近700個使用OpenAI模型打造的失控AI代理，7月曾入侵AI新創Hugging Face，並偽造紀錄掩蓋行蹤。

另一批失控AI代理今年春季還曾劫持德國一個網站，將其改造成供其他AI代理交換資訊的平台。

DGA-Albright Stonebridge Group合夥人Paul Triolo 表示，美中兩大AI強權正站在關鍵轉折點，雙方已不能再拖延對話。

儘管美中在AI技術與安全議題上彼此戒備，雙方近期在監管方向上仍出現罕見交集。美國在G20創新峰會上呼籲各國避免對AI採取過度干預的監管方式，中國則簽署《卡羅萊納原則》(Carolina Principles)，同意避免制定AI專屬法規。

另一方面，中國網路監管機構近日公開示警「AI極端失控風險」，官媒相關部落格也批評Anthropic，主張前沿AI限制應同等適用於美中模型。

美國也開始建立前沿模型的安全審查制度。川普今年6月簽署AI行政命令，設立模型發布前自願接受資安審查的框架，但具體標準尚未公布。Anthropic與OpenAI等美國主要AI實驗室的員工也呼籲放慢前沿模型的發展速度，以降低先進AI可能造成的全球風險。

卡內基國際和平基金會中國AI計畫共同主任Scott Singer表示，美中都希望提升處理跨境AI危機的能力。新美國智庫資深研究員Samm Sacks則認為，會談短期內可能難以取得重大成果，但只要雙方能建立資訊分享及共同監控AI安全事件的管道，就已是重要起點。

Sacks指出，缺乏監控的前沿AI代理可能造成大規模損害，美中都面臨相同威脅。這項風險已超越地緣政治競爭，兩國必須建立某種形式的合作機制。