alphago電腦擊敗李世石引發的倫理思考

    有評論文章指出，人們不一定非要相信未來將出現某種科技“敵托邦”才會認為，政府和整個社會應該認真對待這些發展的潛在影響。競相進軍人工智慧領域的谷歌(google)、facebook等公司指出，他們正在成立倫理小組以考量這些技術的適當用途。這些小組不太可能對商業利益以及研究人員的熱忱無動於衷。這篇文章具有一定參考意義。

能夠在遊戲中擊敗人類高手的計算機程式有著悠久的發展歷史——從上世紀50年代掌握“井字棋”制勝之道，到1997年“深藍”(deep blue；ibm研發的計算機——譯者注）擊敗國際象棋世界冠軍加里· 卡斯帕羅夫(garry kasparov)。

然而，近年來進步速度加快了。能夠運算海量數據的設備經常取得以往不可想象的勝利。計算機能夠在智力競賽中取勝，ibm的“沃森”(watson)在2011年贏得電視節目《危險邊緣》(jeopardy)就是例證。它們還能以越來越強大的“悟性”模仿人的天賦。例如，機器通過觀察螢幕上物體的運動，就能學會玩街機遊戲。

即便如此，alphago電腦在古老的中國棋盤遊戲——圍棋的對壘中擊敗韓國九段棋手李世石(lee sedol)，在五局“人機對戰”中首戰告捷，不僅標志著電腦榮譽板上的一個新檔次。賽前對勝利信心滿滿的李世石，在落敗后坦承“震驚”。

圍棋有點像國際象棋的變體，只是復雜程度高得多。的確，其棋局的變數比宇宙中的原子數量還要多。這個挑戰會挫敗傳統的程式。事實上，只有多臺計算機組成神經網絡，通過觀察和實踐來“自學”（這些能力仍處於計算機科學的前沿），才能駕馭這種高難度挑戰。

杰米斯· 哈薩比斯(demis hassabis)以及他在deepmind（alphabet旗下英國人工智慧部門）的團隊以如此快的速度掌握圍棋制勝之道，這一點值得贊賞。沒錯，作為一件具有強大能力的資訊技術設備，alphago可以被形容為一把計算機化的大錘，其用途是敲開一個消遣的堅果。然而，它的勝利提醒世人，世界正在快速攻克人工智慧及其實際部署所面臨的障礙。

這在很大程度上歸功於美國和中國企業對人工智慧研究的巨大投入。這些企業從高校挖走一些最優秀的計算機科學家，並提供資源和工具，讓這些科學家從事內心渴望的研究。

根據最近的一項調查，全球半數人工智慧專家相信，人類水平的機器智慧到2040年就能成為現實。這為增進人類福祉開啟巨大可能性——從應對氣候變化、治療疾病，到節省勞動力的設備。這也引發種種道德問題，其深刻性絲毫不亞於遺傳學所構成的道德問題。人工智慧專家談到人腦被“逆向工程”的可能性。物理學家史蒂芬· 霍金(stephen hawking)去年曾警告，除非我們小心，否則棋盤遊戲可能是最無關緊要的問題：人工智慧最終可能“比我們所有人更聰明”。

人們不一定非要相信未來將出現某種科技“敵托邦”才會認為，政府和整個社會應該認真對待這些發展的潛在影響。競相進軍人工智慧領域的谷歌(google)、facebook等公司指出，他們正在成立倫理小組以考量這些技術的適當用途。這些小組不太可能對商業利益以及研究人員的熱忱無動於衷。

需要進行一些外部監督，類似於遺傳學領域的英國人類受精和胚胎學管理局(hfea)，以保護公眾免受相關發展的威脅，這些威脅所牽涉的不只是韓國圍棋高手的自尊。當然，目前也許還沒有證據表明計算機有朝一日將踢開他們的人類主人，但我們仍應該對這些發展給予應有的謙卑和審慎。

文章來源：ft中文網，譯者：和風