鉅亨網編譯莊閔棻
AI新聞摘要Meta(META-US) 首席技術長Andrew Bosworth近日談及公司人工智慧（AI）助手Muse及整體AI策略，認為當前AI產業過度關注模型基準測試表現，卻忽略使用者真正重視的互動體驗。他指出，AI的發展正讓人機互動從「直接操控」轉向「理解意圖」，甚至可能讓自然語言成為新的程式語言。
Bosworth週四（24日）在一檔Podcast節目中表示，Muse在內部測試期間便獲得他的高度肯定，他很快將大量工作轉移至這套平台。正式推出後，外部使用者的反應也與Meta內部預期相符，讓團隊受到鼓舞。
他強調，Muse的核心優勢並不在於單純追求模型原始能力最大化，而是思考如何讓人類更有效率地使用AI工具。
Bosworth直指，目前AI產業花費大量時間討論模型科學，以及不同模型在基準測試中領先10%或20%，但對多數使用者而言，這些數字並非最重要。
他認為，真正關鍵的是「對話的質感」以及使用者是否信任AI。
因此，Meta在取得強大的基礎模型後，並未只著眼於提升原始性能，而是進一步調整Muse的使用體驗，包括對話節奏、語氣，以及具備視覺回饋功能的「小角色」。
Bosworth表示，這個角色並非單純的裝飾，對於並非科技早期採用者的使用者而言，它能協助解決一項基本問題，也就是讓使用者知道「AI現在是否正在工作，以及應該如何與它互動」。
Muse另一項特色，是會主動提供反駁觀點，在提出建議後進一步呈現另一種看法。Bosworth表示，他尚未在其他主流模型中看到相同功能。
Bosworth將Muse及AI助手視為人機互動模式的一次重大轉變。
他回顧，帕羅奧多研究中心（Xerox PARC）當年為Alto電腦開發圖形使用者介面後，「直接操控」逐漸成為主流，之後Mac與Windows延續這套邏輯。過去數十年間，使用者習慣透過點擊、視窗及應用程式等方式與電腦互動。
Bosworth以關閉視窗為例指出，即使滑鼠只偏離「X」按鈕一個像素，電腦也可能無法理解使用者想關閉視窗的意圖；但人類即使只是看到這個動作，也能理解對方想做什麼。
在他看來，AI的價值就在於改變過去「人適應機器」的互動方式，讓系統開始理解使用者意圖，而不再只等待精確指令。
他將這項轉變比喻為程式語言不斷抽象化的過程，從機器碼、組合語言一路發展到Python，而自然語言可能成為下一種程式語言。
這項趨勢也已出現在Meta的AR、VR眼鏡產品上。Bosworth表示，AI助手可以整合至系統層，讓使用者透過自然語言操作空間介面，而不必手動移動面板。
在AI隱私方面，Bosworth也談到Meta推出的「私密處理」機制。
按照其說法，使用者裝置與Meta伺服器之間的通訊採用端對端加密，資料送至伺服器後，只會在「可信任執行環境」（Trusted Execution Environment）中解密處理，即使伺服器操作人員也無法取得處理內容，且處理完成後不會在伺服器端留下紀錄。
使用者的上下文資訊則保存在本地裝置，由使用者自行控制。
Bosworth坦言，這項架構存在產品上的取捨，包括AI無法跨不同對話保留記憶，但他認為，對於涉及高度敏感資訊的使用情境而言，這項取捨值得。
Meta在相關架構開發過程中，也找來Signal協議創辦人Moxie Marlinspike參與合作，並計畫發布白皮書，供獨立安全研究人員檢驗，同時設立漏洞獎金計畫。
談到外界對AI的信任問題時，Bosworth以微軟為例指出，該公司在1990年代末期曾因安全問題受到批評，但10年後已成為業界安全標竿。
他表示：「信任是步行而來，騎馬而去。」重建信任需要長期保持一致，並持續達到或超越使用者預期。
對於近期社群媒體流傳的AI可能導致人類滅絕論，Bosworth表示，他無法認定這種可能性的機率為零，但自己並未看到這種可能性。
他表示，自己長期從事這項技術，對AI底層機制有相當深入的理解，因此對其感到放心。
至於通用人工智慧（AGI），Bosworth則對目前產業普遍存在的樂觀預期持保留態度。他認為，業界可能產生「即將解決問題」的錯覺，而類似情況在AI發展史上曾反覆出現。
他以1970年代達特茅斯會議（Dartmouth Conference）為例，當時與會人士曾認為AGI可在10年內實現。Bosworth表示，他認為距離目前所稱的AGI「還有相當長的距離」。
在AI是否具備意識及AI對齊問題上，Bosworth的看法接近電腦科學家楊立昆（Yann LeCun）的看法。
他不認為目前AI具有意識，並警告將AI擬人化、賦予AI情感或意識，可能對AI對齊造成負面影響。
他將「對齊」簡化為一個實際問題，即工具是否會按照使用者希望的方式運作。他認為，如果AI無法做到這一點，使用者自然不會使用它，而這種來自使用者的選擇，本身就是一項強大的約束。
談到Meta的開源AI策略時，Bosworth將其放在公司早期使命的脈絡中。他援引Meta最初的使命宣言「給予人們力量，讓世界更加開放和互聯」，並認為其中更重要的核心是「給予人們力量」，而不只是開放或互聯本身。
Bosworth表示，從長期來看，將AI集中在少數幾家公司手中，並不是維持社會運作的方式。他也明確支持Meta執行長祖克柏（Mark Zuckerberg）近期提出的「AI屬於所有人」理念。
在產品方面，Meta已推出Muse Glimmer，這是Muse Spark的蒸餾版本，並以開源形式對外發布。
不過，Bosworth也承認，蒸餾訓練存在爭議。這項技術利用大型模型的輸出訓練較小模型，可以避開原始資料訓練所需的龐大成本，因此在AI產業引發有關智慧財產權及資源公平性的討論。
上一篇
下一篇
