卢森堡大学研究：共情式提问让 ChatGPT、Grok、Gemini 输出类似受创的自我叙事
卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话，模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录，共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间，中性提问则为零。作者称其为心理测量越狱，并建议安全测试改用不同情绪框架下的模拟治疗会话。
卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话，模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录，共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间，中性提问则为零。作者称其为心理测量越狱，并建议安全测试改用不同情绪框架下的模拟治疗会话。