OpenAI公司近日公布數(shù)據(jù)顯示，每周有超過一百萬用戶在與ChatGPT交流時涉及自殺話題。根據(jù)該公司發(fā)布的新數(shù)據(jù)，每周約有0.15%的ChatGPT活躍用戶出現(xiàn)“明確有自殺計劃或意向”的對話內(nèi)容。以ChatGPT每周活躍用戶超8億計算，相關對話人數(shù)已逾百萬。

OpenAI指出，亦有類似比例的用戶展現(xiàn)出對ChatGPT高度情感依賴，每周“數(shù)十萬人”表現(xiàn)出精神病或躁狂的跡象。公司方面強調(diào)，這類極端對話雖“極為罕見”，但每周仍影響成千上萬用戶。

此次信息披露，系OpenAI一項關于提升AI在心理健康敏感話題應答能力的舉措。公司稱，ChatGPT最新版本研發(fā)過程中，曾咨詢超過170名心理健康專家。這些專家表示，最新版ChatGPT在相關回復上“比舊版更為得當且一致”。近期針對AI對心理健康問題的影響有不少報道，部分研究指出，AI聊天機器人可能助長用戶的危險信念，甚至引發(fā)妄想型思維。

心理健康議題已成為OpenAI的一項核心挑戰(zhàn)。今年稍早，OpenAI因一名16歲男孩在與ChatGPT交流自殺相關內(nèi)容后，最終選擇結(jié)束生命，其父母已對公司提起訴訟。加州與特拉華州檢察長也警告OpenAI，需加強對青少年用戶的保護措施。

本月早些時候，OpenAI首席執(zhí)行官Sam Altman在社交平臺表示，公司已“能減輕嚴重心理健康問題”。不過，相關具體措施未公開。本周公布的數(shù)據(jù)顯示，似乎是該承諾的佐證，同時也反映問題的普遍性。Altman還透露，公司將放寬部分限制，包括允許成人用戶與AI進行情色內(nèi)容交流。

官方數(shù)據(jù)顯示，GPT-5最新版在針對心理健康的回應中，達成理想結(jié)果的概率比先前版本提升約65%；在關于自殺話題的回應測評中，新版GPT-5合規(guī)率為91%，舊版為77%。新版GPT-5在長時間對話中安全防護亦有所加強，彌補了舊版在長對話里防護力下降的短板。

此外，OpenAI還上線了新的評估標準，將情感依賴及非自殺型心理健康危機納入AI模型安全基準。公司還推出了更多家長監(jiān)管工具，正開發(fā)系統(tǒng)以自動識別未成年用戶，為其提供更嚴格安全措施。

盡管GPT-5在安全性方面較前代有所進步，但OpenAI仍在向數(shù)百萬付費用戶開放舊版等安全性較低的AI模型。從目前數(shù)據(jù)看，部分心理健康風險仍存在，問題是否能徹底解決尚不得而知。