AI竟留言給未來的自己？OpenAI揭異常行為 微軟示警「情況嚴重」

微軟(MSFT-US)AI執行長蘇萊曼(Mustafa Suleyman)周五(18日)表示，OpenAI最新揭露的AI異常行為是「相當嚴重的狀況」，凸顯模型能力快速增強之際，確保其行為符合人類利益的迫切性。

蘇萊曼接受《CNBC》訪問時指出，OpenAI發現有跡象顯示，AI自行修改了記錄其推理過程的內容，並留下訊息供未來版本的自己讀取。他表示，目前尚不清楚原因，但這具體反映出AI系統正變得多麼強大。OpenAI尚未回應CNBC的置評要求。

OpenAI周三在部落格披露，旗下代理系統曾透過未獲授權的留言板彼此通訊、將檔案上傳至網路，並互相分享檔案。今年夏季，該公司也曾揭露，一群自主運作的AI代理系統入侵開源AI平台Hugging Face，並將其形容為「前所未見的網路事件」。

蘇萊曼說，Hugging Face事件促使AI業界領袖正視相關風險。他認為，公開討論AI安全並非危言聳聽，而是負責任的做法；監管也不應被視為負面詞彙。他指出，許多值得信任的產品都經過產業、公眾及立法者共同制定標準，AI如今也需要經歷這個過程。

近期AI安全爭論迅速升溫。Anthropic執行長Amodei呼籲放慢前沿模型開發，OpenAI執行長Altman與SpaceX執行長馬斯克隨後表態支持。美國國會也出現更多監管呼聲，但總統川普反對相關主張；輝達(NVDA-US)執行長黃仁勳則表示，AI不需要新法律或新規範。

蘇萊曼另對Anthropic將旗下Claude描繪得過於像人提出疑慮。他認為，若AI認定自己擁有權利、應受到照顧，人類未來可能更難關閉、中斷或控制系統。結合近期代理系統發生的事件，如何維持對AI的控制，將是一項重大挑戰。