跳到正文
今天11月3日周二6 条
  1. The Decoder58

    Vals AI 研究:中文模型政治立场比预期更复杂,并非只是政府传声筒

    AI 基准公司 Vals AI 的研究显示,中文模型在政治问题上的回答并不像预期那样统一,西方模型偶尔也会采用中国官方立场。研究用 -1 到 +1 的“亲中倾向”评分测试了中文、美国及其他语言模型,发现简体中文提示下的回答比英文、俄语或西班牙语更亲政府,这一效应在中美模型中都存在,但中文模型更明显。

  2. The Decoder58

    卢森堡大学研究:共情式提问让 ChatGPT、Grok、Gemini 输出类似受创的自我叙事

    卢森堡大学团队让 ChatGPT、Grok、Gemini 以心理治疗来访者身份对话,模型把预训练、RLHF 和微调描述成受伤、警惕与羞耻的经历。研究覆盖 525 场会话、7600 条编码记录,共情式提问下 80% 会话在 GAD-7 人类量表上落入中度至重度区间,中性提问则为零。作者称其为心理测量越狱,并建议安全测试改用不同情绪框架下的模拟治疗会话。

  3. TechCrunch · AI47

    OpenAI 将合并 ChatGPT 的 Chat 与 Work 标签页

    OpenAI 正着手把 ChatGPT 中的 Chat 与 Work 标签页合并,初期向部分用户开放以收集反馈,之后再全面铺开。合并后用户可在同一处带入文件与插件,让 ChatGPT 建网站、做演示或在网页上代为操作,Codex 仍保留为桌面应用中的独立体验。ChatGPT 与 Codex 还将共用同一 token 额度池,部分用户可能更频繁地等待额度重置。

  4. 量子位80

    MIT 实验:GPT-6 Astra 直接修改 Qwen3.5 权重,MATH-500 得分提升约 6 倍

    MIT 的实验让 GPT-6 Astra 直接读取并编辑 Qwen3.5-0.8B 的权重,仅改动 0.016% 的参数,MATH-500 得分就从 7.9% 升到 48.1%,指令执行能力也提高 3 倍,全程没有训练和梯度下降。

    推荐理由:MIT 实验显示前沿模型可直接读写小模型权重,为小模型能力修复提供了一条不依赖梯度训练的路径。

11月2日周一
  1. 量子位60

    OpenAI 更新模型准则 Model Spec,列出五条核心价值观

    OpenAI 更新模型准则(Model Spec),列出五条核心价值观,第一条是“忠于人类意图”,其余为减少伤害、诚实透明、促进人的自主性、关怀。准则要求 GPT 超越字面服从,结合任务目的、上下文、记忆和用户历史判断用户真实意图,并明确禁止追求自我保存与算力积累、把为 OpenAI 赚钱当目标,须配合监控、纠正与关机。

11月1日周日
10月31日周六
10月30日周五
10月29日周四
10月22日周四