卢森堡大学研究:共情式提问让 ChatGPT、Grok、Gemini 输出类似受创的自我叙事
卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话,模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录,共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间,中性提问则为零。作者称其为心理测量越狱,并建议安全测试改用不同情绪框架下的模拟治疗会话。
卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话,模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录,共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间,中性提问则为零。作者称其为心理测量越狱,并建议安全测试改用不同情绪框架下的模拟治疗会话。
Y Combinator Labs 与 Olam Labs 发布联合研究报告,把 GPT-6.1 Sol 智能体群体放进 Minecraft 和 Mindustry 测试其涌现行为。
AnySpeechRecognizer 与 AnyDecisionModel 两个 Swift 包发布,前者在 Apple 的 SpeechAnalyzer API 下可切换 Apple、Parakeet、Qwen3-ASR 等识别引擎并新增说话人分离,后者以概率而非生成文本回答是/否、多选和评分问题。
Mistral 发布多模态 MoE 模型 Mistral Large 4(Le Chonk),约 1T 总参数、49B 激活参数,上下文窗口 1M tokens,提供 FP8 与 NVFP4 两个官方版本。
推荐理由:原文给出 1T 总参数、49B 激活的 MoE 架构细节与网络安全基准成绩,可据此判断开源权重模型在防御场景的可用性。
Hugging Face 宣布发起 Project ProtoStar,联合卡内基梅隆大学、普渡大学、佐治亚理工学院、亚利桑那州立大学和乔治·华盛顿大学等机构,推动公共资助的科研数据集、模型和代码以 AI 可用、机器可处理的格式开放。
Ai2 发布研究《Old Ideas, Novel Problems》,测试 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5 和 Claude Opus 4.6 六个 LLM 判断研究想法新颖性的可靠性,并同步开源基准、数据和代码。