OpenAI:Alignment 研究博客· Hannah Sheahan and Micah Carroll·· 2026-06-17AI 评分58
OpenAI 研究:公开聊天数据 WildChat 能否预测真实部署中的模型失准
Can public chat data predict real-world AI misalignments?
AI 导读
OpenAI Alignment 研究博客发布研究,用私有生产数据验证以公开数据集 WildChat 模拟部署能否预测模型真实失准率。结果显示 WildChat 对 GPT-5.1、5.2、5.4 的预测平均误差约 3 倍,95% 的预测落在真实生产率的 1.04 个数量级内,但六个与智能体相关的失准类别误差明显更大。
来源:OpenAI:Alignment 研究博客 · alignment.openai.com