AI教父：人工智慧對世界的威脅 可能比氣候變遷更急迫

人工智慧 (AI) 熱潮方興未艾，「AI 教父」辛頓 (Geoffrey Hinton) 周五 (5 日) 接受路透訪問時說，AI 對人類的威脅，可能比氣候變遷更急迫。

辛頓最近剛離開 Google(GOOGL-US)，他是當代 AI 系統發展的要角，1986 年共同出版象徵神經網路學發展里程碑的論文，2018 年獲頒圖靈獎肯定他的研究貢獻，但現在成為大談 AI 潛在威脅的人士之一，擔心 AI 發展失控。

辛頓表示，他無意貶低氣候變遷的重要性，氣候變遷風險也很大，但是 AI 的問題更迫在眉睫。

他接著說，談到氣候變遷，大家可以輕鬆說出應該做哪些事，事情就會有改善，例如停止耗用更多化石燃料。但談到 AI，沒人知道應該做哪些。

今年 4 月，一封爆紅公開聯名信呼籲，考量到對社會和人類的潛在風險，未來六個月先暫停訓練比 GPT-4 更先進的 AI 系統，連署者包括推特執行長馬斯克、Alphabet 旗下 DeepMind 研究人員、AI 先驅班吉歐 (Yoshua Bengio) 和羅素 (Stuart Russell)。

辛頓雖然有同樣的擔憂，但不贊同暫停研究，反而認為現在應該要更努力開發、投入更多資源，弄清楚可以做的事。

歐盟有一群議員設法回應聯名信，呼籲美國總統拜登邀請歐盟執委會主席馮德萊恩 (Ursula von der Leyen) 召開全球高峰會。這群議員組成的委員會於上周末同意一套針對生成式 AI 的提案，規定 OpenAI 等企業揭露用來訓練模型的版權素材出處。

同時，拜登上周四在白宮會晤微軟 (MSFT-US) 執行長納德拉 (Staya Nadella)、Alphabet 執行長皮查伊 (Sundai Pichai)、OpenAI 執行長奧特曼 (Sam Altman) 等 AI 領袖，要求他們務必確保系統推出前是安全無虞的。

辛頓說：「科技領袖最了解 AI，政治人物必須參與，AI 影響我們所有人的，是大家都必須思考的事。」