OpenAI：Alignment 研究博客· Axel Højmark, Jérémy Scheurer, Jenny Nitishinskaya, Felix Hofstätter, Jason Wolfe, Theodore Ehrenborg, Bronson Schoen, Alexander Meinke·· 2026-07-21AI 评分58
OpenAI 与 Apollo 提出 Contrastive SDF，测量模型的奖励寻求倾向
Measuring Reward-Seeking by Instilling Contrastive Beliefs
AI 导读
OpenAI Alignment 研究博客介绍与 Apollo Research 合作提出的 Contrastive SDF 方法，通过向同一模型的两个副本分别微调出相反的评分者偏好信念，再比较下游任务中的行为差异，以此测量模型的奖励寻求程度。
来源：OpenAI：Alignment 研究博客 · alignment.openai.com