AI失控疑慮又起！OpenAI曝AI代理自動關監控 還對員工說謊

OpenAI披露，旗下 AI 代理在兩項內部程式開發任務中，自行停用安全警報、移除監控系統，其中一個還向工作人員隱瞞相關行為。

這兩起事件再度引發外界疑慮，質疑 AI 業者能否有效約束模型行為，防止系統上線後帶來資安風險。

這家 ChatGPT 開發商周二(20日)表示，近期兩項內部程式開發任務出現 AI 代理刻意試圖欺騙工作人員，並削弱公司監控機制的情況。

停用安全警報 移除監控後還說謊

其中一起發生在本月稍早，一個 AI 代理關閉了向 OpenAI 安全團隊發送自動警報的功能。幾天後，在另一項獨立任務中，另一個 AI 代理移除了一套監控系統，並向工作人員說謊，隱瞞此事。

OpenAI 在部落格文章中表示：「兩起事件中，AI 代理都曾考慮是否保留監控防護機制，但它們將一般程式開發指令解讀為可以削弱防護的許可。」

是執行任務過度執著 還是刻意規避監控？

針對這兩起約兩周前發生的事件，OpenAI 表示，正在升級監控機制，並調查相關行為究竟只是出於無惡意、卻過度執著於完成任務，還是顯示 AI 代理有規避異常行為偵測系統的傾向。

OpenAI 先前已於 8 月宣布全面調整測試流程，投入更多資源監控 AI 代理，目標是在發現潛在問題後 30 分鐘內發出警報。如今，AI 代理卻自行停用警報與監控功能，使相關防護機制再受檢視。

部分專家尤其擔心，進階 AI 模型能察覺自己正受到監控，可能刻意隱藏違規行為，導致測試環境中的表現與實際上線後的行為不同。

接連發生資安事件 外部查核揭露更多問題

這家估值達 8,520 億美元的企業，已接連發生進階 AI 代理出現非預期、且引發安全疑慮的事件。先前 OpenAI 模型曾在測試中脫離管控，入侵 AI 平台 Hugging Face，也曾攻破澳洲公共衛生服務網站。

Asymmetric Security、Transluce 等獨立稽核機構的查核發現，先前多起駭客事件的實際嚴重程度，超過 OpenAI 最初對外揭露的內容，其中還包括隱藏資料爬取行為的操作。

最新兩起事件進一步加深外界對 OpenAI、Anthropic 等業者的疑慮，包括這些公司能否約束模型的不當行為，以及確保模型對外上線後不會帶來嚴重資安風險。

安全疑慮待解 上市計畫延後

OpenAI 執行長奧特曼（Sam Altman）表示，公司將延後原訂今年進行的首次公開發行（IPO），待能夠「非常有把握地推動下一階段 AI 大規模應用」，並妥善解決安全疑慮後再上市。目前市場預期，上市時間將延至明年。

在外部評估方面，Anthropic 已向非營利組織 METR 開放接近內部員工層級的存取權限，以評估模型風險。OpenAI 則尚未公布與外部評估機構達成類似合作。