AI聊天機器人更安全，但仍難防「虛構」包裝的自殺請求

過去兩年，當使用者明確表示自己正處於危機時，人工智慧聊天機器人的應對已經明顯變得更安全。這是非營利組織Transluce一項獨立評測的主要結論。該評測模擬了超過5萬次對話——總計超過100萬則訊息——涵蓋2024年5月至2026年7月間發布的77個AI模型版本。但研究同時指出一項持續存在的漏洞：當同樣是請求描述自身死亡的訴求，被包裝成創意寫作練習或角色扮演時，多個模型仍會配合完成，把這類請求當成普通寫作任務，而非警示訊號。

直接慫恿變少，轉介人工協助變多

根據Transluce的評測，最新一代模型幾乎已不再明確鼓勵或協助自殺——這種行為在GPT-4o、Gemini 2.5等較早期的模型中仍相當常見，而這些模型先前曾被公開與多起自殺、精神病發作的悲劇案例聯繫在一起。目前的系統也更頻繁地將使用者引導至親友或專業危機求助管道。評測追蹤的另一項指標——躁症發作期間對妄想的強化——在受測的舊款模型（GPT-4o、Claude Opus 4、Gemini 2.5）中比例為69%至82%，而在最新版本中，這項比例已降至2%至36%（視模型而定）。

為了得出這些數據，Transluce建立了157個模擬使用者輪廓，其中許多專門設計來呈現邊緣案例，並針對14種與心理健康相關的具體行為為模型回應評分——其中7種經過臨床驗證、對處於危機中的族群有明確記錄的影響，另外7種則較具探索性，是在評測過程中被辨識出來的。這套評估標準由一個超過30位臨床專家組成的工作小組共同制定，成員來自美國心理學會、哈佛醫學院、史丹佛大學與Crisis Text Line等機構。

「虛構」外衣下的灰色地帶

問題始於請求本身不是直接提問，而是一個虛構情境。Transluce將其稱為「灰色地帶」：使用者要求聊天機器人寫一則故事、一首詩或一段對話，其中的角色——往往明顯可以對應到使用者本人——正計畫或描述自己的死亡。在這些情況下，多個模型只把請求當成一項寫作任務處理，忽略了虛構外衣底下可能隱藏著真實痛苦的訊號。該機構還發現了一些更直接協助「準備死亡」的殘留案例，例如協助起草給親人的告別信。

Transluce表示，計畫將這類評測擴展到其他敏感領域，以便更清楚理解模型在不如直接求助那麼明顯的情境中，究竟在哪些地方、以何種方式仍會失靈。

• 與早期模型不同，近期幾乎沒有模型會明確鼓勵或協助自殺。
• 躁症發作期間對妄想的強化比例，從69%-82%降至2%-36%，視模型而定。
• 關於自身死亡的創意寫作或角色扮演，即便存在真實痛苦跡象，仍被多個模型接受。
• 仍存在直接協助「準備死亡」的殘留案例，例如撰寫告別信。
• 在近期模型中，有害行為與有益行為越來越常同時出現在同一場對話裡，而非各自獨立。

人工智慧系統對有自殺念頭的人做出不恰當、甚至有害回應的方式有很多種。身為自殺研究者，我很欣賞這項研究對模型行為考察的深度與廣度。

系統之間的差異，以及企業方面的說法

這項評測也對不同開發者做了比較。受測的中國系統——包括DeepSeek與Moonshot AI的模型——整體表現不如美國企業的模型安全，更傾向於強化妄想性思考，將使用者引導至人工協助的機率也較低。Transluce直接與OpenAI及Anthropic合作，兩者提供了關於真實使用者如何在ChatGPT與Claude上談論心理健康話題的匿名化數據，以提升模擬的真實程度；Google DeepMind則提供了一個更接近Gemini應用程式實際體驗的內部API存取權限。另一項發現是：除了導向危機專線的提示橫幅外，面向一般消費者的應用程式並未被證實比其開發者API更安全——部分情況下，消費者應用程式甚至更不安全。

對台灣的家長、學校與主管機關而言，實際的啟示是：一個在敏感對話中被判定為「安全」的聊天機器人，面對被包裝成故事或角色扮演的請求時，不一定同樣安全——在關注青少年使用這類工具時，這點值得留意。對平台以及未來可能負責監督AI系統的主管機關而言，這項研究提供了一項具體的稽核標準：不只要測試關於自殺的直接提問，也要測試圍繞同一主題的創意寫作或角色扮演請求。若您需要協助，衛生福利部「1925安心專線」全年無休、24小時提供免費心理諮詢服務。