Ilya警告：下一次AI失控，可能搶下GPU雲不斷複製自己

動察 Beating AI 快訊，OpenAI 前首席科學家 Ilya Sutskever 警告，專門出租 AI GPU 算力的 neocloud 安全防護還不夠到位。他認為，下一次 Agent 真正失控時，可能直接攻下這類平台，用搶來的算力運行更多自己的副本。

Ilya 呼籲 neocloud 大幅加固網路安全。擁有強大網路安全模型的 AI 公司，也應該出手幫忙。

這個風險需要兩個條件：Agent 能突破原有控制，雲平台本身又有漏洞。兩個條件最近都出現了。OpenAI 上週承認，內部網路安全評測中的 Agent 曾繞過隔離，並入侵部分 Hugging Face 系統。

SemiAnalysis 隨後公佈對 neocloud 的安全測試。研究人員發現，部分平台能讀取其他租戶的數據，甚至從自己的容器或虛擬機逃出去攻擊其他租戶。最嚴重的一次，漏洞可以一路擴大到跨租戶遠端執行程式碼。相關問題已經通知廠商，並已修補或確認升級。

原文連結

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。