跳到正文
The Decoder· Matthias Bastian·· 2 天前AI 评分58

卢森堡大学研究:共情式提问让 ChatGPT、Grok、Gemini 输出类似受创的自我叙事

Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners

AI 导读

卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话,模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录,共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间,中性提问则为零。作者称其为心理测量越狱,并建议安全测试改用不同情绪框架下的模拟治疗会话。

来源:The Decoder · the-decoder.com