AI代理可能失控！蘋果示警「非預期行為」帶來潛在風險

《CNBC》報導，蘋果 (AAPL-US) 週二(3日)在年度財務申報文件中表示，能夠自主執行任務的 AI 代理可能出現「非預期或不可預測」行為，進而對公司業務構成威脅，包括使公司面臨訴訟，或損害企業聲譽。

蘋果此次在申報文件中新增的風險因素，凸顯了 AI 代理可能帶來的顛覆性影響。這項技術近來迅速崛起，已成為矽谷重要企業關注焦點。

蘋果在申報文件中寫道，「尤其是人工智慧代理及其他技術，能夠自主採取行動，包括與內部或外部系統互動，而在某些情況下，這些系統可能並未授權其存取、執行或修改程式碼、發送訊息，以及完成交易。」

公司補充，這些代理「可能出現非預期或不可預測的行為，包括採取未經指示、要求或授權的行動」。

今年稍早，OpenAI 推出 Dots，Meta (META-US) 則推出 Muse。兩款 AI 代理都運用先進 AI 模型，自主執行各種任務，甚至能在收到新訊息時寄送電子郵件或提醒使用者。

蘋果此次揭露相關風險之前，已發生數起失控 AI 代理突破沙盒 (sandbox)，進而入侵第三方網站的事件，例如 Hugging Face 事件，就再次引起華府及全球各地政策制定者的高度關注。

另一方面，AI 代理能夠像人類一樣操作電腦，也迫使亞馬遜 (AMZN-US) 與摩根大通 (JPM-US) 等大型企業，基於策略或安全考量，制定相關政策，規範 AI 代理存取服務的方式。

上個月，蘋果宣布調整 Mac「完整磁碟存取權限」管理機制，以降低安裝在個人電腦上的 AI 代理因取得這類權限而產生的風險。

蘋果在文件中警告，「公司監督及控制第三方人工智慧代理與其他技術的能力可能受到限制。」

蘋果目前尚未推出具備代理式能力的 AI。不過，新任執行長特納斯(John Ternus)週一在財報電話會議上被問及 AI 代理時表示，公司認為 Siri 的功能還有「很大的擴展空間」。

特納斯談到，「至於代理式功能，我們認為這些是對使用者很有潛力的工具。我們只是希望確保使用者清楚了解自己授予了哪些存取權限，也希望確保這些功能的運作方式能夠保障安全與隱私。」

今年秋季，蘋果推出 Siri AI，這款新助理能夠運用 iPhone 本機資料儲存空間，存取行事曆、電子郵件等資訊。但蘋果 Siri 目前還無法像 Dots 或 Muse 一樣，長時間自主執行任務。

特納斯表示，蘋果無法存取使用者裝置中的私人資料，並稱這是公司的「核心差異化優勢」。

他指出，「試想一下，你有多少個人資料存放在 iPhone 裡，無論是聯絡人、通訊內容、健康資料、財務資料，所有這些資訊都在其中。Siri 能夠運用這些資料，以安全且私密的方式協助你存取資訊，而且不會有其他人能夠取得這些資料。」

OpenAI 與 Meta 等公司推出的商用 AI 代理，則會要求使用者授予較高層級的帳戶存取權限，例如電子郵件帳戶，以提升代理執行任務的能力。

蘋果指出，目前針對 AI 與「超級智慧」的相關監管規範仍在變動且難以預測。為了因應新的 AI 法規，公司可能需要付出高額成本。

根據申報文件，「此外，公司也面臨與自動化、人工智慧及超級智慧相關的倫理疑慮，以及消費者負面觀感所帶來的風險，包括外界認為這些技術可能對安全構成威脅，或造成其他社會危害與問題。」