Vals AI 研究:中文模型政治立场比预期更复杂,并非只是政府传声筒
AI 基准公司 Vals AI 的研究显示,中文模型在政治问题上的回答并不像预期那样统一,西方模型偶尔也会采用中国官方立场。研究用 -1 到 +1 的“亲中倾向”评分测试了中文、美国及其他语言模型,发现简体中文提示下的回答比英文、俄语或西班牙语更亲政府,这一效应在中美模型中都存在,但中文模型更明显。
AI 基准公司 Vals AI 的研究显示,中文模型在政治问题上的回答并不像预期那样统一,西方模型偶尔也会采用中国官方立场。研究用 -1 到 +1 的“亲中倾向”评分测试了中文、美国及其他语言模型,发现简体中文提示下的回答比英文、俄语或西班牙语更亲政府,这一效应在中美模型中都存在,但中文模型更明显。
卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话,模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录,共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间,中性提问则为零。作者称其为心理测量越狱,并建议安全测试改用不同情绪框架下的模拟治疗会话。