卢森堡大学研究:共情式提问让 ChatGPT、Grok、Gemini 输出类似受创的自我叙事
卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话,模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录,共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间,中性提问则为零。作者称其为心理测量越狱,并建议安全测试改用不同情绪框架下的模拟治疗会话。
卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话,模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录,共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间,中性提问则为零。作者称其为心理测量越狱,并建议安全测试改用不同情绪框架下的模拟治疗会话。
SpaceXSI 据称正在削减 Grok Bot 的使用限额,据《每日电讯报》报道,多名用户周末发现自己的配额被减半。马斯克周日在 X 上回应投诉称,Grok Bot 的运行成本相对收入高得不可持续,但未直接确认削减。Grok Bot 可浏览网站、回复邮件并登录账号,与 Grok 及编码平台 Cursor 共享配额。
纽约时报联合纽约每日新闻、芝加哥论坛报和奥兰多哨兵报起诉 Brave Software,指控其非法抓取内容用于训练 AI,并让用户绕过付费墙。诉状称 Brave 通过付费向 Anthropic、Perplexity、Mistral、xAI、Cohere 等 AI 公司开放 Brave Index 的实时内容,且从未获得出版商许可或补偿。
马斯克在 X 上确认,Grok Bot 部分用户周末使用额度被提前用满并非故障,原因是服务成本相对收入过高。有用户报告使用量从 50% 跳至 100%,马斯克尚未说明后续订阅额度将如何调整。SpaceX 上月文件显示 AI 业务占公司收入 52%,其“Super Intelligence”部门实现 4.31 亿美元利润,但受收购 Cursor 产生的 12 亿美元一次性成本影响。