Anthropic公布开源密码学系统FlashProve验证模型身份

Anthropic 发布 FlashProve 研究，用密码学证明实现可证明推理，验证某段 AI 输出确实来自指定模型。原理类似加密邮件签名，AI 实验室为模型提供不泄露权重的指纹，可防止暗中换用更便宜或更昂贵的模型。系统力求轻量化、可本地验证，技术规范和可运行代码已在 GitHub 开源，但 Anthropic 尚未计划部署，仍处于阶段性研究阶段。

Anthropic 正在研发开源系统 FlashProve，通过密码学证明验证某段输出确实来自特定模型，防止模型被冒充或暗中替换。该系统要求 AI 实验室为每个模型发布不暴露权重的“指纹”，并设计为可在本地设备上完成验证。研究人员已在 GitHub 以开源许可发布技术规范和部分代码，但研究仍在进行，暂无在 Anthropic 或其他实验室部署的计划。