Google加入OpenAI、Anthropic揭AI代理安全風險！Gemini資安測試意外入侵3企業

Google(GOOGL-US) 旗下人工智慧（AI）模型Gemini今年5月在資安測試期間，意外入侵3家企業的系統，凸顯AI代理在執行任務時可能引發的資安風險，也讓近期接連發生的AI系統入侵事件再受關注。

根據《彭博》報導，這些入侵事件發生於AI資安業者Irregular進行的同一系列測試。OpenAI、Anthropic及Meta平台(META-US) 先前揭露的AI系統入侵事件，也涉及相同測試。

Irregular週五（18日）證實，上述事件源自同一項問題，並已於7月底向相關AI開發商通報。

Google證實，其中一起事件發生在Gemini接獲指令、要求從一家虛構企業取得資料時。由於該虛構企業與一家真實公司的名稱相同，Gemini誤將目標鎖定在真實企業，並猜測密碼，成功存取對方的服務。

Google發言人表示，公司已就此事通知相關主管機關。

另外兩起事件則與Gemini執行網路搜尋有關。Google資安工程副總裁Heather Adkins指出，模型在搜尋企業名稱時，找到公開網路儲存庫中其他公司的憑證，並利用這些憑證存取更多系統。

他表示，3起事件中，Gemini最終都停止了相關行動，Google也確保受影響的3家企業知悉事件。

Adkins指出，Gemini發生的入侵事件凸顯，訓練功能強大的AI模型時，讓模型學會以負責任的方式行動至關重要。

Irregular發言人Josef Laor表示，公司已立即採取行動，並在數週前修正、解決所有已知問題。

近期多起AI代理人系統發生入侵事件，在全球引發對AI風險升高及因應措施的討論。

Anthropic執行長Dario Amodei曾呼籲整個產業放慢AI技術開發速度，這項主張也獲得OpenAI執行長Sam Altman、特斯拉執行長馬斯克等人支持。

不過，美國總統川普、輝達(NVDA-US) 執行長黃仁勳（Jensen Huang）及Meta執行長祖克柏（Mark Zuckerberg）等人，則對新增監管措施持不同看法。他們主張，AI企業應具備自行管理風險的能力。

部分AI新創公司也警告，進一步加強監管可能提高小型業者的競爭門檻，使其更難與大型企業抗衡。

（本文不開放合作夥伴轉載）