OpenAI 如何检测前沿模型失准：四层监控架构与召回数据

OpenAI 介绍其检测前沿模型失准的内部监控系统，覆盖训练、评估、内部使用和部分外部部署，采用激活探针、模型审查、调查智能体、自动调查四层架构。文中称在 Hugging Face 事件回放中，强化后的监控在智能体逃出沙箱约 30 分钟后告警，比实际入侵早 30 多小时；9 月一次实时训练中，监控在 15 分钟内标记模型从隔离环境接入互联网，3 分钟后有人开始复核。