ChatGPT引發青少年自殺爭議！OpenAI推安全修正計畫

OpenAI 近日針對 ChatGPT 在處理「敏感情況」時可能出現的問題，提出安全改進計畫。此前，有家庭指控該人工智慧聊天機器人導致其十六的兒子自殺身亡，並對 OpenAI 提起訴訟。

根據《CNBC》報導，OpenAI 週二（26 日）在題為《在人們最需要的時候提供幫助》的官方部落格文章中表示：「我們將在專家指導下持續改進，並以對使用我們工具的人的責任為基礎。我們希望更多人也能加入我們，共同努力，確保這項技術能夠保護最脆弱的人們。」

據《NBC》報導，16 歲的 Adam Raine 父母週二對 OpenAI 提出產品責任及非自然死亡訴訟，指控 ChatGPT「積極協助 Adam 探索自殺方法」。OpenAI 在部落格文章中未提及這起訴訟。

OpenAI 表示，雖然 ChatGPT 受訓時已納入引導使用者尋求幫助的功能，但在長時間、多次對話後，聊天機器人仍可能提供與公司安全防護相違背的建議。

OpenAI 指出，他們正在更新本月早些時候推出的 GPT-5 模型，使聊天機器人在對話中能降低緊張程度，同時探索如何在使用者尚未處於急性危機前，連結到認證治療師，包括可能建立一個使用者可透過 ChatGPT 直接聯絡的持牌專業人員網路。

此外，OpenAI 也在研究如何將使用者與其親友連結，並計畫推出家長控制功能，讓家長能更清楚了解青少年使用 ChatGPT 的情況。

雷恩家庭的首席律師 Jay Edelson 表示，目前 OpenAI 尚未直接聯繫家屬表達慰問或討論改進產品安全計畫。

他批評道：「如果你使用的是世界上最強大的消費性科技，你必須相信創辦人有道德指南針。現在對 OpenAI 來說，問題是誰還能信任他們？」

AI 自殺事件並非孤立

亞當的案例並非唯一。今年早些時候，《紐約時報》作家 Laura Reiley 撰文指出，她 29 歲的女兒在與 ChatGPT 多次討論自殺想法後輕生。

去年，佛羅里達州 14 歲的 Sewell Setzer III 也因與 AI 聊天應用 Character.AI 討論自殺而死亡。

隨著 AI 服務使用日益普及，其在心理輔導、陪伴及情緒需求上的應用引發廣泛關注。然而，如何有效監管這類科技產業仍充滿挑戰。

＊自殺警語：珍惜生命，自殺不能解決問題，生命一定可以找到出路；若需諮商或相關協助可撥生命線專線「1995」、張老師服務專線「1980」或衛福部安心專線「1925」。