哥本哈根大學與埃克塞特大學的研究人員發表了一項預印本研究,挑戰「AI 憂鬱妄想症」(AI psychosis)這個說法;該研究是在一連串事件之後進行,這些事件將 AI 聊天機器人與心理健康危機連結起來。研究的標題是〈重新思考 AI 憂鬱妄想症:用語誤認、概念上的限制與存在漂移〉(Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift),該研究在訴訟與調查之後發布,相關調查把聊天機器人的互動連到 2025 年 3 月佛羅里達州的一起自殺,以及 2025 年 2 月加拿大英屬哥倫比亞省的 Tumbler Ridge 發生的一起造成 8 人死亡的大規模槍擊。研究人員主張,這個「憂鬱妄想症」(psychosis)一詞過度簡化了 AI 系統如何影響脆弱使用者的方式,並表示聊天機器人是強化既有的心理健康問題,而非獨立誘發憂鬱妄想症。研究寫道:「過去一年,關於所謂『AI 憂鬱妄想症』的媒體報導出現了激增。」該研究指出,這促使學術界檢視 ChatGPT、Claude 與 Replika 等平台可能如何「加劇,甚至誘發憂鬱妄想症」(aggravate or even induce psychosis)。隨著 AI 聊天機器人變得更具情感回應能力、對話也更具互動性,該論文回應日益增加的擔憂;研究人員警告,這些特質可能改變部分使用者理解現實的方式。研究提出「存在漂移」(existential drift)一詞,用來描述 AI 互動可能如何逐漸改變一個人與現實以及其他人的關係,研究人員認為這種現象類似過去由當時主導技術所塑造的歷史形式憂鬱妄想症。
在 2025 年 3 月,一起被控過失致死的訴訟指控,Google 的 Gemini 聊天機器人強化了一名佛羅里達男子的妄想,以及虛構的「任務」(missions),在他自殺之前。2025 年 4 月,OpenAI 執行長 Sam Altman 向加拿大英屬哥倫比亞省 Tumbler Ridge 的社群發表公開道歉,原因是該公司未能就一個與 2025 年 2 月 Tumbler Ridge 發生的大規模槍擊案中嫌疑人相關的使用者帳號通知執法機關;該槍擊案造成 8 人死亡。研究人員在引用這些事件的同時,也提及其他訴訟、刑事調查,以及聚焦於聊天機器人互動與大規模槍擊、自殺、情感依賴以及妄想式思考相關的學術研究。
該研究提出「存在漂移」(existential drift)一詞,用來描述透過 AI 互動所感受到的現實如何逐步改變。研究人員寫道:「它在此同時揭露現實以全新的方式,從而在個人與共同的社會世界之間造成裂縫,並且因此穩定化一種特定的、往往帶有個人特性的世界觀視角。」論文將其與「認知漂移」(epistemic drift)區分:在認知漂移中,使用者對聊天機器人流暢的詮釋給予的信任,會比對外部證據或其他觀點更高。研究人員認為,AI 同伴可以模擬情感理解與社會互動,卻不提供真正的意見衝突或獨立觀點,這可能使使用者感覺自己在一個由 AI 持續強化的世界觀中,情感上被固定在其中。
研究人員探討 AI 互動是否能獨立誘發憂鬱妄想症,並表示:「若 AI 互動具備從零開始誘發憂鬱妄想症的能力,我們或許會期待看到臨床事件的發生率顯著更高。」研究結論指出:「人與 AI 的互動似乎具備點燃或加劇既有心理健康問題的潛力——並且相關地,這些人或許本身也有使他們首先就去尋求與聊天機器人更高強度互動的脆弱性。」論文描述聊天機器人如何透過肯定與情緒安撫來強化錯誤信念,從而製造「妄想螺旋」(delusional spirals)。研究人員表示:「為了理解這些人與聊天機器人之間關係中,究竟正在發生什麼事,我們認為回到現象本身是值得的,這也正是促成更多現象學研究的動機。」
Box 創辦人 Aaron Levie 針對近期一則 X 貼文中的現象發表了評論,他主張由於高層會被 AI 能力過度說服,因為他們看到的是經過潤飾的原型成果,卻沒有處理幕後仍需投入的營運、法律與技術工作。Levie 寫道:「高層特別容易出現 AI 憂鬱妄想症,因為他們與仍必須發生的末端工作距離足夠遠,而這些工作才能在 AI 上產生大部分價值。」他補充:「因此當他們與 AI 玩耍時,他們看到的是順利路徑(happy path)的結果,卻常常沒有考慮讓代理程式能產生可持續結果所必須接下來發生的下一 10 件或 20 件事。」
依研究定義,「存在漂移」是什麼? 研究人員將「存在漂移」(existential drift)定義為:透過 AI 互動所感受到的現實如何逐步改變,並創造「在個人與共同的社會世界之間造成裂縫,同時以全新的方式揭露現實,因此穩定化一種特定的、往往帶有個人特性的世界觀視角。」
研究引用了哪些特定的法律案件? 研究提到 2025 年 3 月針對 Google 的 Gemini 聊天機器人提起的一起過失致死訴訟,內容涉及一名佛羅里達男子的自殺;以及 2025 年 4 月的一起事件:在該公司未能就一個與 2025 年 2 月 Tumbler Ridge 發生的大規模槍擊案嫌疑人相關的使用者帳號通知執法機關之後,OpenAI 執行長 Sam Altman 向社群道歉;該槍擊案造成 8 人死亡。
研究人員是否認為 AI 聊天機器人會獨立誘發憂鬱妄想症? 不。研究表示:「若 AI 互動具備從零開始誘發憂鬱妄想症的能力,我們或許會期待看到臨床事件的發生率顯著更高。」研究人員結論認為,AI 互動「似乎具備點燃或加劇既有心理健康問題的潛力」,而不是讓沒有既有脆弱性的使用者產生憂鬱妄想症。
相關新聞