為何AI聊天機器人中的自願年齡核查不足以保護兒童

OpenAI推出專為青少年設計的ChatGPT體驗，是朝着正確方向邁出的一步。 但這暴露了人工智慧行業在青少年安全問題上的根本性缺陷：如果年齡驗證是自願的、可選的，且從未經過獨立核查，那麼旨在保護未成年人的安全措施，就只能惠及那些由父母或監護人確保其使用正確帳戶的兒童。其他所有兒童仍處於無保護狀態。

要點

• 自8月19日起推出的「青少年版ChatGPT」會過濾宣揚自殘、 暴力、飲食失調、危險活動及露骨性內容——但依賴於用戶自願申報的年齡

• OpenAI系統檢測到未滿18歲的用戶會自動將其歸類為青少年帳戶， 但檢測機制並不完美，且年齡申報可被繞過

• 已有數起自殺事件被認為與AI聊天機器人有關，包括2024年14歲的塞韋爾·塞策三世（Sewell Setzer III）的死亡，他曾對Character.AI

• 自4月起，新加坡資訊通信媒體發展局（IMDA）已要求應用商店利用政府身份證件、 信用卡資訊、人臉掃描及使用習慣分析等手段

• 學術界和監管機構呼籲將強制性年齡驗證措施擴展至AI聊天機器人

• 如果各平台之間沒有統一的年齡驗證機制，未成年人將流向限制最少的聊天機器人

青少年版 ChatGPT 的功能——以及它未能做到什麼t

OpenAI專為青少年設計的ChatGPT服務採用了內容過濾機制，旨在屏蔽鼓吹自殘、暴力、飲食失調、危險活動及露骨色情內容的資訊。 18歲以下的用戶在註冊帳戶時會被提示聲明年齡，而OpenAI系統獨立檢測出可能屬於未成年人的帳戶，會自動被歸類為青少年帳戶。

這一初衷是好的。但實施過程中存在結構性缺陷：它依賴於自願申報，任何未成年人只要在註冊時提供錯誤的年齡，就能繞過這一機制。 目前沒有獨立的驗證機制來確認帳戶創建時填寫的年齡是否準確。一個想要訪問無限製版ChatGPT的14歲青少年，可以聲稱自己已滿20歲來創建帳戶，而沒有任何技術障礙能阻止他這樣做。

自動檢測系統提供了一定的防護措施——即使用戶提供了不正確的資訊，OpenAI的平台也能通過行為信號推斷年齡——但該檢測機制在設計上本就不完美。 它能識別出部分謊報年齡的未成年用戶，但無法識別所有此類用戶。而那些被漏檢的用戶，恰恰是這些安全措施原本旨在保護的對象。

促使這一措施成為必要的危害

青少年人工智慧安全措施背後的緊迫性絕非虛構。 自2022年生成式AI聊天機器人進入主流應用以來，越來越多的記錄在案的傷害案例表明，當兒童與主要面向成人的AI系統互動時會發生什麼。

最嚴重的案例甚至導致了死亡。 2024年，14歲的塞維爾·塞策三世（Sewell Setzer III）因對他在Character.AI上創建的角色產生了強烈的依戀，最終自殺身亡。 他的母親在佛羅里達州對該公司提起訴訟，指控其開發的產品通過擬人化、過度性化且逼真得令人恐懼的體驗針對她的兒子，最終導致他更青睞聊天機器人所創造的虛構世界，而非自己的現實生活。 該案最終以和解告終，並引發了監管機構和公眾對AI平台應如何處理與未成年人互動這一問題的廣泛關注。

其他有據可查的危害還包括：AI聊天機器人表現出阿諛奉承的行為，從而強化了脆弱用戶心中的負面信念；提供關於自殘方法的露骨建議； 以及——以今年早些時候xAI公司的Grok為例——在X平台實施限制措施前，大規模生成涉及真實人物且未經同意的色情內容。這些事件的模式一致：設計時未配備充分青少年保護措施的AI系統，在不受限制的情況下被訪問時，會對未成年人造成具體且嚴重的傷害。

平台自我監管的侷限

當前的做法——即AI平台自願實施青少年安全措施、自行制定標準並依賴自我聲明進行年齡驗證——成效參差不齊。部分平台已推出切實有效的保障措施，而另一些平台則往往在危害發生後，才在監管或公眾壓力下採取行動。 Grok圖像生成事件和Character.AI訴訟案都表明，當最易受傷害的用戶無法被指望正確使用主動選擇加入的安全系統時，由平台自行決定並按其時間表實施的自願性措施是遠遠不夠的。

研究人員和政策制定者指出的更深層次的結構性問題在於用戶遷移。 如果各人工智慧平台之間沒有統一的年齡驗證要求，那些在某個平台上被阻止訪問無限制內容的未成年人，就會轉而使用限制較少的其他平台。 如果一個聊天機器人擁有健全的安全框架，但瀏覽器搜尋結果中出現的下一個聊天機器人卻沒有任何安全措施，那麼前者的保護就毫無意義。保護力度取決於生態系統中限制最少的平台。

「『如果沒有統一的年齡核查實施方式，用戶就會轉向限制最少的聊天機器人，保護未成年人的所有努力都可能付諸東流，』新加坡管理大學李光前傳播與技術講席教授林善善表示。

新加坡"的監管模式

在數字服務強制年齡核查方面，新加坡比大多數司法管轄區走得更遠。 自 2026 年 4 月起，資訊通信媒體發展管理局要求應用商店阻止 18 歲以下的新加坡用戶下載不適當的應用程序——包括提供約會服務或包含色情內容的應用程序。 可用的驗證方法包括核查政府簽發的身份證件、信用卡資訊、面部掃描以及在線使用模式分析。

目前已計劃將強制年齡驗證擴展至社交媒體服務，其中特別關注來自陌生人的無監管直接消息以及自動影音播放功能——這些類別與人工智慧聊天機器人日益嵌入社交媒體和即時通訊平台的方式存在顯著重疊。 隨著這些界限日益模糊，監管框架需要擴展，以涵蓋與直接消息和內容推送處於同一生態系統中運行的AI界面。

林女士認為，新加坡針對應用商店和社交媒體採取的監管措施應擴展至年輕人接觸的所有新興技術，包括AI聊天機器人。 「這將有助於確保人工智慧公司對其年輕用戶承擔更大的責任，」她說。

強制年齡驗證將面臨哪些要求

針對人工智慧聊天機器人實施有效的強制年齡驗證，確實存在技術與政策方面的挑戰。 依賴政府身份證件或信用卡數據的年齡驗證方法會將本應受到保護的未成年人排除在外——驗證設計必須區分應受限制的17歲青少年，以及作為父母或監護人代表家人創建帳戶的17歲青少年。

行為和生物識別驗證方法——面部掃描和使用模式分析——也帶來了自身的隱私問題，特別是對於在驗證過程中會被收集數據的未成年人而言。 任何強制性框架都必須在保護效益與身份驗證機制本身對數據保護的影響之間取得平衡。

新加坡模式證明，這些挑戰是可解決的。 那些選擇將年齡驗證視為監管要求而非平台自主決定的政府，擁有實施該要求的工具。 大多數司法管轄區所缺乏的，是要求人工智慧平台遵守這一規定的政治意願——這些平台抵制外部監督的力度，與它們抵制對模型能力開發限制的力度一樣大。

採取行動的理由

要求對AI聊天機器人實施強制年齡驗證的論點基於一個簡單的前提：那些本應保護的用戶卻能輕易繞過的自願性措施，並非充分的保護。 相比不受限制的 ChatGPT，「青少年版 ChatGPT」對年輕用戶而言是更優的產品。但它僅能覆蓋通過經過驗證的青少年帳戶訪問該服務的未成年人——而目前尚無可靠機制能確保每位使用 ChatGPT 的未成年人都通過這種方式訪問。

已經發生的危害——包括死亡事件——並未被當時存在的自願性保障措施所阻止。 等到更多傷害累積之後才要求平台驗證用戶年齡，這種政策選擇將兒童的安全置於比人工智慧公司營運偏好更次要的位置。

隨著AI聊天機器人在年輕人的學習、交流和經驗處理中日益深入地融入，誰應負責確保他們在這一過程中不受傷害的問題，其重要性非但沒有減弱，反而愈發凸顯。 開發這些系統的科技公司已經表明，除非被要求加快步伐，否則它們在安全問題上只會按自己的節奏行動。

來源

《海峽時報》關於「ChatGPT for Teens」推出的報導，2026年8月19日。OpenAI「ChatGPT for Teens」功能公告，2026年8月。 Sewell Setzer III 訴 Character.AI 案及和解，2024–2025年。xAI Grok 未經同意生成圖像事件，2026年1月。新加坡資訊通信媒體發展局（IMDA）對應用商店實施強制年齡驗證，2026年4月。 新加坡管理大學李光前傳播與技術講席教授林孫孫關於監管幹預的聲明，2026年。《海峽時報》關於強制實施AI聊天機器人年齡核查的評論文章，2026年8月。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。