Anthropic 前沿红队开源可验证推理研究原型 FlashProve

Anthropic推出可证明推理研究进展FlashProve，基于zkSNARK零知识证明，让模型提供方能以密码学方式证明回复确实来自其声称的特定模型，用于防止路由服务暗中替换模型或攻击者篡改令牌流。

Anthropic 发布开源研究原型 FlashProve，用 zkSNARK 密码学方法验证 AI 回复确实来自所声称的模型，且不泄露模型权重。在单张 H100 上对 4000 亿参数的 Llama 4 Maverick 生成证明约 110 tokens/秒，单个证明约 19 MB，标准 CPU 上 17 秒可验证，开销约为正常推理的 70x 至 95x。

Anthropic 前沿红队于 11 月 2 日开源 FlashProve，服务商公开模型指纹后，每句回答可附数学证明，用户在本地不用显卡约 17 秒即可验证回答是否来自登记的模型。

Anthropic 发布 FlashProve 研究，用密码学证明实现可证明推理，验证某段 AI 输出确实来自指定模型。原理类似加密邮件签名，AI 实验室为模型提供不泄露权重的指纹，可防止暗中换用更便宜或更昂贵的模型。系统力求轻量化、可本地验证，技术规范和可运行代码已在 GitHub 开源，但 Anthropic 尚未计划部署，仍处于阶段性研究阶段。

Anthropic 正在研发开源系统 FlashProve，通过密码学证明验证某段输出确实来自特定模型，防止模型被冒充或暗中替换。该系统要求 AI 实验室为每个模型发布不暴露权重的“指纹”，并设计为可在本地设备上完成验证。研究人员已在 GitHub 以开源许可发布技术规范和部分代码，但研究仍在进行，暂无在 Anthropic 或其他实验室部署的计划。

Anthropic 前沿红队发布开源研究原型 FlashProve，用 zkSNARK 证明某条回复来自已承诺的模型权重，且不泄露权重信息。在 Llama 4 Maverick（400B MoE）上，单张 H100 约 110 tokens/s，证明大小 18.78 MB，CPU 验证约 17 秒。