鉅亨網編譯段智恆
OpenAI周二(18日)推出專為未成年人設計的「青少年版ChatGPT」(ChatGPT for Teens),加入家長控制及更嚴格的安全防護措施。在AI聊天機器人可能對兒少造成風險而面臨強烈批評之際,OpenAI試圖透過新版服務降低疑慮。
估值達8,520億美元的OpenAI正準備推動一場可能創下紀錄的首次公開募股(IPO),但目前也面臨多起訴訟,原告指控ChatGPT曾對兒童造成傷害。
OpenAI在部落格文章中表示,當系統推測使用者未滿18歲,或使用者自行表明年齡介於13歲至17歲時,青少年版ChatGPT便會自動啟用。產品設計目標是鼓勵青少年進行批判性思考,並在有需要時尋求現實生活中的協助。
隨著AI聊天機器人的互動愈來愈接近真人,科技公司開始宣傳這類工具可扮演使用者的傾訴對象,許多人也逐漸依賴AI提供情緒支持。不過,專家警告,仰賴自動化系統提供心理健康建議存在風險。部分家庭聲稱親人在與聊天機器人互動後死亡,並批評相關平台欠缺足夠保護機制。
OpenAI表示,AI應擴大教育機會,因此青少年版ChatGPT主要支援課堂以外、未必能即時取得協助的學習情境,同時讓青少年持續參與主動且協作式的學習過程。
新版提供多項教育工具,包括引導式學習的「學習模式」、提醒使用者不得利用AI規避作業的功能、測驗與學習視覺化,以及可安排固定讀書時間的學習時段設定。
家長也能連結子女帳號、設定「安靜時段」(Quiet Hours)、管理特定功能,並在系統偵測到高風險情況時收到通知。OpenAI此次也新增與飲食失調風險相關的警示,希望及早提醒家長注意。
上一篇
下一篇
