OpenAI：超級智慧10年內實現 組新團隊防止人類滅絕

聊天機器人 ChatGPT 研發公司 OpenAI 表示，計劃投入大量資源來創建一個新研究團隊，以確保人工智慧 (AI) 未來對人類保持無害，透過 AI 來監督 AI 自身的發展。

最新團隊將由 OpenAI 聯合創辦人兼科學長 Ilya Sutskever 和 Jan Leike 共同領導。兩人在一篇文章中指出，超級智慧 (superintelligence) 將是人類發明出最具影響力的技術，可以幫助我們解決世界上許多最重要的問題。

但是，超級智慧的巨大力量也可能非常危險，導致人類喪失權力，甚至造成人類滅絕。雖然超級智慧目前看來還很遙遠，但有望在 10 年內實現。

想要管理這些風險，徹底解決相關問題，就必須成立新的治理機構。目前，人類對於掌控潛在的超級智慧 AI 還沒有解決方案，也不能預防 AI 失控。

OpenAI 的目標，是在「對齊研究」(alignment research) 方面有所突破。「對齊研究」是指聚焦確保 AI 持續對人類有益的研究。

為此，OpenAI 宣布組建一個由高等機器人學習研究人員和工程師組成的團隊「Superalignment」。將在接下來的 4 年裡，OpenAI 將投入到目前為止獲得的運算資源中的 20%，用於解決超級 AI 的對齊問題。過程中預計將會有很多團隊共同參與進來，從開發新方法擴展至實際應用。OpenAI 表示，目標是在 4 年內解決這項挑戰。