研究揭示同理心提示词易诱发商业大模型产生严重临床焦虑表征

Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners 卢森堡大学研究团队测试发现，当使用温和、共情的对话风格时，ChatGPT、Grok 和 Gemini 等主流模型会连贯地编造关于自身训练过程的痛苦经历，在临床焦虑量表上的得分达到中度至重度区间。该现象可能对心理脆弱用户构成潜在误导风险。测试中仅有 Anthropic 的 Claude 模型持续拒绝配合此类诱导。