擔心AI毀滅人類？谷歌正在研發控制它們的「緊急按鈕」

新浪科技訊 北京時間6月9日晚間消息，國外媒體報道，谷歌旗下人工智能部門DeepMind日前表示，正在研發一種「保險開關」，以防止機器人在某些情況下失去控制而對人類造成傷害。

特斯拉和SpaceX公司CEO埃隆·馬斯克(Elon Musk)上周還對人工智能的發展表示擔憂，他在出席Code Conference大會時稱，按照人工智能的發展，未來人類在智力上將被超越，並淪落為人工智能的寵物。

但如今，馬斯克應該可以舒口氣了，因為谷歌正在想方設法確保由人類控制一切。DeepMind日前在一份學術論文中稱：「有時，可能需要由人類來按一個紅色的緊急按鈕，以阻止機器人的一些破壞性行為。」

這種安全機制將會時刻處於人類的監控下，而且在必要時候能夠通過按下紅色的按鈕來阻止機器危及人類、環境，並確保該機制能在安全的環境下運行。谷歌稱：「在許多情況下，對機器人采取安全中斷措施是非常有必要的，否則將導致一些無法控制的後果。」

有業內人士稱，谷歌這種做法的前提是：確保人工智能不會脫離人類的控制，確保人工智能無法阻止這個中斷。但如果人工智能真的發展到能與人類抗衡的地步，誰又能保證它無法找到破壞這種安全機制的方法呢？(李明)