《刷新未來》微軟納德拉：人類與AI 為何必須論勝負？

我們正逐步走入 AI 的時代，但人工智慧的發展，只能是成就人類或毀滅人類兩種極端嗎？企業家們對此議題的看法相持不下，有 Tesla 執行長馬斯克的末日論，也有 FB 創辦人佐克伯的一派樂觀，微軟執行長薩帝亞納德拉則點出：為什麼電腦與人腦必須較量，為什麼雙方就得爭霸？

許多關於人工智慧的討論，忽略了人機合作的美妙可能性。納德拉在天下雜誌出版的《刷新未來》書中寫道，人工智慧如果不能兼顧 IQ 和 EQ，它就不會成功。關於人機之間的相處之道，科幻小說作家艾西莫夫的「機器人三大守則」我們都已經很熟悉，但現今創造機器人或 AI 軟體時，需要更完整的價值觀與設計原則…

將人工智慧提升到（人機合作）這個層級所需的心力，更勝登陸月球的野心。負責微軟研究院在劍橋實驗室的克里斯多夫．畢曉普（Christopher Bishop）曾寫過一份備忘錄，主張這件事需要的心力，堪比一整個太空計畫，甚至更甚：就像是多個平行、獨特、互為相關的登月計畫。其中的一大考驗，就是定義出人工智慧要達到的主要社會責任。

我和薩奇布．沙赫（Saqib Shaikh）一起站上講台時，窺見了人工智慧在社會上的應用潛力。沙赫是微軟工程師，年幼時喪失視力，所以他致力於協助開發能彌補視力缺失的技術。沙赫與同事利用視覺辨識與先進機器學習等尖端技術，開發出應用程式，可以在他平時配戴看起來像墨鏡的小型電腦上執行。這項技術可以清晰化與即時解讀資料，以語音取代視覺，描繪出世界的模樣，並傳達給沙赫。這項工具讓沙赫可以用更豐富的方式體驗世界，比方說，把街上傳來的聲響與附近滑板好手的特技連結起來，或是會議中突然安靜無聲的同事，可能在想什麼。沙赫甚至可以「閱讀」餐廳的菜單，他開發的技術能在他耳邊輕聲讀出菜單上的餐點。或許最重要的是，沙赫可以在熙來攘往的公園裡，找到親愛的家人，一起相聚野餐。

人機共事 不能忽略人性化設計

太多對於未來人工智慧的討論都忽略了人機互動同步合作的美妙可能。我們對於人工智慧的觀感似乎只限於兩個極端，一邊是電影《2001 太空漫遊》（2001: A Space Odyssey）中，殺人邪惡電腦 HAL 揮之不去的恐怖聲音；另一邊是今天 Cortana、Siri 和 Alexa 等智慧助理友善親切的聲音。我們可能會幻想兩種未來，一是當機器載著我們到處移動、幫我們完成生活中重複乏味的雜事、協助我們做出更好決策，我們可以如何運用突然多出來的超多空閒時間；二是害怕機器人會引發大規模的經濟混亂。我們似乎無法超越這種烏托邦與反烏托邦的二分法。

我的看法是，推動人工智慧開發的討論，並不是善惡對立的辯證，而是應該檢視開發這項技術的人與組織，抱持什麼樣的價值觀。麥考夫在《與機器人共舞》（Machines of Loving Grace）書中寫道：「如何掌控充滿智慧機器的世界，要回答這個困難的問題，最好的方式就是理解打造這些系統的那些人，他們的價值觀是什麼。」這個見解相當發人深省，也是我們必須處理的議題。

在思考人機互動方面，艾西莫夫的定律是現成又深具啟發的架構，同時也提供了後續探討這類倫理與科技兩難故事的原型。然而，三定律並未完整包含研發人員和科技公司創造電腦、機器人或軟體工具時，應該確立的價值觀或設計原則。三定律也未說明，在人工智慧和機器學習對經濟的影響層面愈來愈大的現在，人類必須傳承到下一世代的關鍵能力為何。

艾西莫夫不是唯一想過這些危機的人。發明家兼企業家伊隆．馬斯克（Elon Musk）更誇張地說，如果人類不在大腦植入一層數位智能（介於人類大腦皮層和人工智慧電腦之間的高頻寬記憶體），我們全都可能淪為機器的寵物。而電腦先驅艾倫．凱（Alan Kay）也打趣說：「預測未來的最好方式，就是去創造未來。」套用在人工智慧的議題上，基本上他就是在說，不要再預測未來會怎樣了，有計畫地開創未來吧。我同意。跟任何軟體設計會遇到的挑戰一樣，所謂的「計畫性」，就從開發軟體所用的平台基礎開始。用軟體開發的語言來說，人工智慧即將變成第三個「執行期」（run time），成為下一個讓程式設計師開發並執行應用程式的系統。PC 是第一個執行期，微軟為 PC 開發像 Word、Excel、PowerPoint 等 Office 軟體套件這樣的應用程式。今天，網路就是第二個執行期。在人工智慧和機器人的世界，我們會在全新的平台上撰寫生產力和溝通工具，這個平台不只處理資料，還會從資料中學習，並和實體世界互動。

第三執行期的樣貌，今日正在成型。蓋茲在 1995 年春天發表的〈網際網路浪潮〉備忘錄，預言網際網路對於裝置的連結性、硬體、軟體開發與商務的影響。二十多年後的今天，我們正準備迎接新一波浪潮——人工智慧浪潮。所以，在迎面而來的海嘯之前，引導我們思考、設計與開發的設計準則與價值觀是什麼？

針對這個問題，有不少人正走在前頭帶路。麻省理工學院媒體實驗室的辛西亞．布雷齊爾（Cynthia Breazeal）畢生心力都在探索以人性化方式發展人工智慧與機器人技術。她認為，技術專家通常會忽略社交與行為層面的設計。在最近的談話裡，布雷齊爾觀察到，儘管人類是最社會化、情感最豐富的物種，我們卻花極少的時間思考科技的同理心。她提到：「總歸來說，我們體驗世界的方式，就是透過溝通和合作。如果我們有興趣研究和人類一起共事的機器，就絕不能忽視人性化設計的重要。」

倫理與同理心的標準規格

我們探尋人工智慧最重要的下一步，就是建構設計的倫理與同理心，開發系統的方式，不只明確規範技術規格，還需要倫理與同理心的規格。為達到目標，我認為科技產業與社會應該討論與思辯幾點人工智慧設計的原則和目標。

人工智慧是設計來輔助人類的。我們開發愈多自動化機器的同時，也要尊重人類的自主權。協作機器人（co-bots）可以承擔像採礦這類危險的工作，提供安全網，保護人類工作者。

人工智慧應該公開透明。不只是科技專家，我們所有人都應該知道新科技運作的方式及規則。我們不只要有智慧機器，更要可理解的機器；不只是人工智慧，還要有共生智能（symbiotic intelligence）。科技會了解人類，人類也必須知道科技如何觀察與分析世界。要是你的信用評分出錯，你卻無法讀取評分，該怎麼辦？當社群媒體蒐集有關你的資訊，卻做出錯誤結論時，公開透明就非常必要。倫理與設計必須攜手並進。

人工智慧做到效率最大化的同時，必須確保不傷害人類自尊。人工智慧應該保存文化，務求多元。為了確保此點，我們需要更廣、更深、更多元的族群投入設計這些系統。人工智慧未來的價值觀與道德觀不該由科技業全權決定，這些價值觀與道德觀也不應由北美、西歐與東亞地區較富裕強勢的一小群人主導。每個文化都應該有機會參與塑造人工智慧設計的價值觀與目的。人工智慧必須防範社會與文化偏見，確保有適當且具代表性的研究資料，如此，才不會讓有意或無心的偏頗論斷造成系統出現歧視。

天下雜誌出版《刷新未來：重新想像 AI+HI 智能革命下的商業與變革》

http://www.books.com.tw/products/0010775073