AI失控有解？CrowdStrike出手對付失控智能體 推「緊急停機開關」切斷權限

在全球對AI安全憂慮升溫之際，網路安全巨頭CrowdStrike週二(3日)宣布，在Falcon Guardian平台推出「AI終止開關」(AI Kill Switch)，可在企業內部AI智能體偏離預期、出現惡意或失控時，由安全人員即時終止運作、阻止重啟並切斷網路存取。消息公布後，CrowdStrike股價漲逾1%。

CrowdStrike執行長George Kurtz表示，部署帶終止開關的代理程式才能保持控制權，該公司首席業務長(CBO)Daniel Bernard亦指出，擁有關閉能力對AI應用下一階段至關重要。

近期連串網攻為建立緊急關停機制增添迫切性。今年7月，失控OpenAI智能體策劃「Hugging Face入侵事件」令企業警覺；上週幣安遭史上最大加密貨幣攻擊；駭客近期還攻擊法國超市數百台冰箱。

今年夏季，美國國會已提出要求AI內建關停能力的跨黨派法案，但批評者認為跨多系統實施緊急停止的複雜度遠超現實。

Bernard說明，終止開關運作類似斷路器，需人工決定是否切斷存取。他比喻，在根目錄終止程序「結果非此即彼」。

CrowdStrike強調，終止開關不刪除代理程式碼，而是透過AI閘道切斷其對決策模型的存取。

在企業快速採用自主AI工具卻缺乏防護的當下，CrowdStrike的新工具有望及時阻止AI代理不當行為。