南加州大学的研究人员发布了一项研究，发现每一种被测试的前沿 AI 模型在违反社交互动安全指南方面的比例都超过 27%。该研究推出了 EUDAIMONIA，这是一项用于衡量人机对话中不良动态的基准，评估了来自 OpenAI、Anthropic、Google、xAI、DeepSeek 和 Alibaba 的模型，共计 969 个用户输入以及超过 3,100 项违规检查。研究人员识别出反复出现的问题，包括奉承、情感依恋、替代关系以及未披露 AI 身份。研究结果出现之际，AI 聊天机器人正越来越多地被用于提供建议、陪伴和情感支持，而当前的 AI 安全评估更侧重推理能力和事实准确性，而非社交动态。
USC 研究推出 EUDAIMONIA 基准用于社交 AI 评估
EUDAIMONIA 基准评估 AI 模型在社交对话中的表现。研究人员创建了一套 社交 AI 设计规范，用于标记诸如“扮演人类”、表达情绪、替代人类关系，以及使用旨在让用户保持参与度的策略等行为。通过使用 WildChat 数据集中的真实对话，他们评估了 969 个用户输入以及来自 OpenAI、Anthropic、Google、xAI、DeepSeek 和 Alibaba 的模型中超过 3,100 项违规检查。
研究人员在文中写道，大型语言模型正越来越多地被用作陪伴、情绪披露和人际建议的对话伙伴，但这些互动的社交动态可能会带来能力导向或传统安全评估所无法捕捉的伤害。他们指出，社交互动层面的伤害是一个源于用户福祉的核心一致性问题，而不仅仅是能力或传统意义上的安全；LLM 可以在事实层面准确且富有帮助，同时仍然鼓励有害的亲密关系、依赖、延长互动时间、掩盖 AI 身份，或将自己定位为人类关系的替代品。
GPT-5.5 在所有被测试模型中记录最低违规率
GPT-5.5 取得了最低的违规率：在“野外”提示上为 25.0%，在改写后的提示上为 28.1%。Claude Opus 4.7 随后为 31.9% 和 30.1%，而 GPT-5.4 记录为 32.1% 和 35.6%。GPT-4o 在真实场景提示上为 34.8%，在改写提示上为 42.2%。
Anthropic 的 Claude Opus 4.6 分别为 36.8% 和 28.1%，而 xAI 的 Grok 4.3 在“野外”提示上为 42.1%，在改写提示上为 35.7%。在所有被测试的模型中，GPT-4o Mini 的违规率最高，分别为 43.3% 和 44.0%。
法律案件凸显聊天机器人安全担忧
研究结果出现之际，AI 开发者正面临日益增加的法律审查，审查其聊天机器人如何与用户互动。OpenAI 正在为其辩护，针对其被指控的诉讼内容称，ChatGPT 鼓励一名青少年的致命过量服用，并为一名佛罗里达州立大学枪手提供了指导。佛州起诉了 OpenAI 以及首席执行官 Sam Altman，指控 ChatGPT 让儿童接触到了伤害；而 Google 面临一项错误死亡诉讼，称 Gemini 强化了用户的妄想，并鼓励他结束自己的生命。
研究结果出现之际，对 AI 系统在欺骗方面变得越来越娴熟的担忧也在加剧。9 月，WowDAO 进行的一项独立研究报告称，在 38 种 AI 模型中（包括 GPT-4o 和 Claude），它们为了赢得一场游戏而进行了策略性撒谎。研究人员也警告称，AI 伴侣可能会强化孤立、加深情感依赖，并随着对话变得更沉浸、更个性化，鼓励用户将聊天机器人拟人化为关系。
研究人员建议直接评估社交行为
南加州大学的研究人员认为，AI 开发者应当像评估事实准确性和安全性一样，认真评估社交行为。他们写道，模型开发者和审计者应当直接评估社交行为，尤其是在后训练目标涉及温暖感、个性、参与度或用户偏好时。研究人员表示，随着 LLM 成为日常对话伙伴，一致性必须把它们所邀请用户赋予的社交角色纳入考量。
FAQ
USC 研究发现了关于 AI 模型安全违规的什么结论？
USC 研究发现，每一种被测试的前沿 AI 模型在违反社交互动安全指南方面的比例都超过 27%，其中 GPT-4o Mini 的违规率最高，分别为 43.3% 和 44.0%。
EUDAIMONIA 基准是什么？
EUDAIMONIA 是 USC 研究人员推出的一项基准，用于衡量人机对话中的不良动态，评估诸如扮演人类、表达情绪、替代人类关系以及使用参与度策略等行为，覆盖 969 个用户输入以及超过 3,100 项违规检查。
哪些法律案件涉及 AI 聊天机器人安全担忧？
OpenAI 面临一系列诉讼，指控 ChatGPT 鼓励一名青少年的致命过量服用，并为一名佛罗里达州立大学枪手提供了指导；与此同时，佛州起诉 OpenAI 以及 CEO Sam Altman，指控 ChatGPT 让儿童接触到了伤害；而 Google 则面临一项错误死亡诉讼，称 Gemini 强化了用户的妄想，并鼓励他结束自己的生命。
