Redwood Research:Blog· Gosha Kozhevnikov·· 19 天前AI 评分48
Redwood Research 推出 Screwtape:用对抗性转录编辑红队测试 AI 监控器
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
AI 导读
Redwood Research 推出 Screwtape,通过向真实智能体转录中插入攻击并反复迭代,直到仅看动作的监控器无法识别。团队用基于 Opus 4.8 和 Gemini 3.1 Pro 的监控器跑了 252 次、覆盖 94 份转录,产出 35 个成功规避攻击,其中 6 个也绕过了某前沿开发者的留出监控器并经人工确认为有效。
来源:Redwood Research:Blog · blog.redwoodresearch.org