TikTok CEO警告AI網路安全風險：AI代理降低垃圾資訊生成成本

TikTok首席執行官周受資指出，企業和個人需要更深入了解人工智慧帶來的風險。他警告，AI代理可能在用戶未充分理解授權範圍的情況下執行任務，而人工智慧也正大幅降低生成垃圾資訊的成本。

人工智慧為企業帶來新的發展機會，但隨著相關技術不斷進步，用戶和組織也面臨着可能尚未充分認識的網路安全風險。TikTok首席執行官周受資（Shou Zi Chew）對此發出警告。

周受資於2026年10月12日在新加坡舉行的星展銀行亞洲前瞻峰會（DBS Asia Future Forward）上表示，社會需要加強對人工智慧風險的認識，尤其是當AI代理逐漸具備代表用戶執行任務的能力時。

「網路安全風險確實存在。」周受資指出，用戶可能在尚未完全了解授權範圍的情況下，就允許AI代理訪問敏感帳戶或服務。

AI代理可能擴大網路安全風險

與主要負責回答問題的傳統聊天機器人不同，AI代理的設計目標是執行具體任務。根據獲得的權限，它們可能與外部服務互動，並代表用戶採取行動。

周受資舉例指出，用戶可能允許AI代理使用自己的信用卡進行購物，卻沒有充分理解這些權限的實際範圍，最終導致AI購買超出預期的商品。

這類風險不僅影響個人用戶。企業在部署AI代理時，也必須考慮這些工具能夠訪問哪些系統、帳戶和資訊，以及它們被授權執行哪些操作。

如果授權範圍過大，或缺乏適當的安全防護，AI代理就可能執行用戶沒有預料到的操作。因此，組織需要制定清晰的權限限制，並確保用戶了解授予AI訪問權限可能帶來的後果。

AI降低垃圾資訊生成成本

周受資也指出，人工智慧正在降低生成垃圾資訊的成本，為需要管理大量用戶內容的線上平台帶來新的挑戰。

他表示，垃圾資訊不可能被完全消除，但企業應設法提高不法分子大規模發送垃圾資訊的成本，讓相關活動更難持續。

對於TikTok等平台而言，生成大量不受歡迎內容的成本不斷下降，意味著防禦措施也必須隨著攻擊者能力的變化而升級。

企業需要採用適當的工具識別和管理垃圾資訊，避免濫用行為影響平台正常運作。

這也帶來更廣泛的網路安全挑戰：當有害內容和濫用行為變得更容易生成時，攻擊者可能以更大的規模開展相關活動。因此，平台不能只關注識別個別事件，也需要設法提高大規模濫用行為的難度與成本。

企業應為員工制定明確的AI使用規範

周受資同時提醒企業，員工不應隨意將機密業務資訊輸入公開的AI聊天機器人。

他表示，企業需要培訓員工，避免向這些服務披露商業機密或受法律特權保護的資訊。儘管人工智慧能夠顯著提升工作效率，但如果員工過度熱衷於使用新工具，可能會忽略合理及可接受的使用界限。

對企業而言，這意味著必須明確規定員工可以使用哪些AI工具、哪些資訊可以輸入，以及哪些操作需要經過人工審核。除非企業已批准相關用途並落實適當的安全措施，否則員工不應將敏感資料提交給公開的AI服務。

員工教育尤其重要，因為網路安全風險不一定來自複雜的駭客攻擊，也可能源於日常工作中的不當操作。

周受資鼓勵人們親自使用AI工具，以實際了解技術的能力與限制。不過，企業和員工在探索AI應用時，仍應遵守適當的安全與數據保護要求。

AI的長期影響仍存在不確定性

除了網路安全問題，周受資也表示，社會可能高估了人工智慧的短期發展速度，卻低估了它的長期潛力。

他預計，人工智慧可能在未來兩至三年內推動科學領域取得突破，但同時指出，新技術的普及需要時間，現有AI系統也仍存在侷限。

談及人工智慧是否可能超越人類能力時，周受資表示，目前下定論仍為時過早，但他認為，AI未來在某些領域超越人類並非不可能。

他也提到，真實內容在TikTok平台上仍然具有重要價值。儘管AI生成影音不斷增加，但他表示，主要觀看AI內容的用戶目前僅占平台用戶的個位數百分比。

對於企業而言，這番言論傳遞出一個重要訊息：採用人工智慧的同時，也必須加強網路安全意識、完善訪問權限控制，並建立負責任的數據處理規範。隨著AI代理變得更加先進，企業不僅需要了解這些系統能夠執行什麼操作，也必須明確規定它們應該被允許執行什麼操作。

資料來源： Channel NewsAsia，2026年10月12日

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。