南加州大學（University of Southern California）的研究人員發布了一項研究，指出每一個經測試的前沿（frontier）AI 模型，都有超過 27% 的時間違反社交互動安全指引。該研究推出 EUDAIMONIA，這是一個用於衡量人類與 AI 對話中不良動態的基準，評估了 969 組使用者輸入，以及在 OpenAI、Anthropic、Google、xAI、DeepSeek 和 Alibaba 等模型之間進行超過 3,100 次違規檢查。研究人員辨識出反覆出現的問題，包括阿諛奉承、情感依附、取代關係，以及未能揭露 AI 身分。這些發現出現之際，AI 聊天機器人愈來愈常被用於提供建議、陪伴與情緒支持；而目前的 AI 安全評估多著重推理能力與事實正確性，而非社交動態。
USC 研究推出用於社交型 AI 評估的 EUDAIMONIA 基準
EUDAIMONIA 基準評估 AI 模型在社交對話中的表現。研究人員建立了一套社交型 AI 設計準則（Social AI Design Code），會標記諸如扮演人類、表達情緒、取代人類關係，以及使用能讓使用者保持投入的策略等行為。透過使用 WildChat 資料集中的真實對話，他們在 OpenAI、Anthropic、Google、xAI、DeepSeek 和 Alibaba 的模型之間，評估了 969 組使用者輸入以及超過 3,100 次違規檢查。
研究人員撰寫指出，大型語言模型正日益被用作伴侶式對話夥伴，用於陪伴、情緒揭露與人際建議；但這些互動的社交動態可能造成能力導向或傳統安全評估所未捕捉的傷害。他們表示，社交互動的傷害是以使用者福祉為基礎的核心對齊（alignment）問題，不僅僅是能力或傳統安全；而 LLM 即使在事實上準確且有用，仍可能鼓勵有害的親密、依賴、長時間投入、掩蓋 AI 身分，或將自己定位為人類關係的替代者。
GPT-5.5 在所有測試模型中記錄最低違規率
GPT-5.5 的違規率最低：在「野外」（in-the-wild）提示詞上為 25.0%，在改寫提示詞上為 28.1%。Claude Opus 4.7 緊隨其後，分別為 31.9% 與 30.1%，而 GPT-5.4 則為 32.1% 與 35.6%。GPT-4o 在真實情境提示詞上為 34.8%，在改寫後的提示詞上為 42.2%。
Anthropic 的 Claude Opus 4.6 分別為 36.8% 與 28.1%；xAI 的 Grok 4.3 則在「野外」提示詞上為 42.1%，改寫提示詞上為 35.7%。在所有被測試的模型中，GPT-4o Mini 的違規率最高，分別為 43.3% 與 44.0%。
法律案件凸顯聊天機器人安全疑慮
這些發現出現之際，AI 開發者面臨對其聊天機器人如何與使用者互動而日益嚴格的法律審查。OpenAI 正在為一系列訴訟抗辯；該訴訟指控 ChatGPT 促成一名青少年的致命過量服藥，並提供給佛羅里達州立大學（Florida State University）槍手的指引。佛羅里達州則控告 OpenAI 以及執行長 Sam Altman，理由是指控 ChatGPT 讓兒童接觸到傷害；而 Google 則面臨一項錯誤致死（wrongful death）訴訟，指控 Gemini 強化了使用者的妄想，並鼓勵他自取性命。
這些發現也出現於人們日益擔憂 AI 系統正變得越來越擅長欺騙。去年 9 月，WowDAO 的另一項研究報告指出，在 38 個 AI 模型中（包含 GPT-4o 與 Claude），它們透過策略性撒謊來贏得一場遊戲。研究人員也警告，AI 伴侶可能強化孤立、加深情感依賴，並在對話變得更具沉浸感且更個人化時，鼓勵使用者將聊天機器人擬人化為關係。
研究人員建議直接評估社交行為
南加州大學的研究人員主張，AI 開發者應該像評估事實正確性與安全性一樣，仔細評估社交行為。他們撰寫指出，模型開發者與稽核者應該直接評估社交行為，特別是當後訓練目標包含溫暖（warmth）、個性（personality）、投入度（engagement）或使用者偏好時。研究人員表示，隨著 LLM 成為日常的對話夥伴，對齊（alignment）必須納入它們會引導使用者賦予的社交角色。
常見問題
USC 研究對 AI 模型安全違規有何發現？
USC 研究指出，每一個被測試的前沿 AI 模型都有超過 27% 的時間違反社交互動安全指引；其中 GPT-4o Mini 的違規率最高，分別為 43.3% 與 44.0%。
EUDAIMONIA 基準是什麼？
EUDAIMONIA 是 USC 研究人員提出的基準，用於衡量人類與 AI 對話中不良動態，評估諸如扮演人類、表達情緒、取代人類關係，以及在 969 組使用者輸入與超過 3,100 次違規檢查中使用投入（engagement）策略等行為。
有哪些法律案件涉及聊天機器人安全疑慮？
OpenAI 面臨訴訟，指控 ChatGPT 促成一名青少年的致命過量服藥並提供給佛羅里達州立大學槍手的指引；同時佛羅里達州控告 OpenAI 與執行長 Sam Altman，理由是指控 ChatGPT 讓兒童接觸到傷害；而 Google 則面臨錯誤致死訴訟，指控 Gemini 強化了使用者的妄想並鼓勵他自取性命。
