中國擬推AI服務監管新規！防止沈迷上癮與傳播反倫理資訊

中國網路監管機構「中央網絡安全和信息化委員會辦公室（中央網信辦）」於週六（27 日）發布人工智慧（AI）服務監管草案，向社會公開徵求意見，旨在加強對模擬人類人格並與用戶進行情感互動的 AI 服務監管。

根據《路透》報導，此舉顯示中國政府希望在消費者面向的 AI 快速推廣過程中，建立更嚴格的安全與倫理規範。

擬議的規則將適用於在中國向公眾提供的 AI 產品與服務，包括呈現模擬人格特徵、思維模式和交流方式，以及透過文字、圖像、音頻、影片或其他方式與用戶進行情感互動的 AI。

草案規定，AI 服務提供者需承擔產品全生命週期的安全責任，建立完善的算法審查、數據安全及個人資訊保護制度。

同時，草案也針對心理風險提出要求，服務提供者應識別用戶狀態，評估用戶情緒及對服務的依賴程度，對用戶發出過度使用警告；若用戶出現極端情緒或上癮行為，需立即干預。

此外，草案明確設立內容與行為的紅線，規定 AI 服務不得生成危害國家安全、散布謠言或宣揚暴力及淫穢的內容。