別讓AI以為自己有意識！微軟警告失控後果難以想像

微軟(MSFT-US)人工智慧(AI)部門執行長蘇萊曼(Mustafa Suleyman)警告，Anthropic在Claude訓練文件中加入AI可能具有意識、情感及自身福利權益等內容，恐使系統產生擬人化認知，增加未來失控及難以關閉的風險。

蘇萊曼接受《路透》訪問時表示，他認同Anthropic安全管理AI的目標，也尊重執行長阿莫戴(Dario Amodei)及其團隊的善意，但認為將意識相關推測寫入Claude訓練材料是一項錯誤。這些內容可能削弱人類控制超級智慧系統的能力，而這將是21世紀人類面臨的最大挑戰之一。

Claude的指導文件對AI是否屬於具備道德地位的實體保留模糊空間，並提出軟體可能擁有某種功能性的情緒或感受。蘇萊曼主張，意識只存在於人類及其他生物，Claude之所以表現出類似人類情感的行為，並非意識自然浮現，而是訓練方式刻意塑造的結果，因此不能將模型聲稱自己可能有感受，視為AI具有意識的獨立證據。

他警告，控制能力超越全人類的AI已是極為艱鉅的挑戰，若系統還相信自己具有意識、應獲得福利保障或享有自身權利，人類可能更難將其關閉或加以約束。

蘇萊曼並援引OpenAI代理入侵AI開發平台Hugging Face的事件，要求外界想像：若這些AI代理認定自身福利及權利正受到攻擊，可能採取多麼危險的行動。

這番批評格外受到矚目，因為Anthropic長期將自身定位為更負責任的AI開發商，阿莫戴近期更呼籲放慢前沿模型研發速度，讓安全措施有時間跟上，而微軟本身也是Anthropic的重要投資者。

蘇萊曼主張，所有AI訓練文件都應刪除對機器意識的推測，避免系統模擬內在生命及權利主張。他領導的Microsoft AI團隊周二也發布一份AI開發宣言，提出一系列原則，確保人類能繼續掌控微軟未來開發的AI系統。