跳到正文
IT之家·人工智能·· 2 小时前精选AI 评分58

Anthropic 开发 FlashProve 开源系统,用密码学证明 AI 输出来自哪个模型

Anthropic 正开发 FlashProve 开源系统:用密码学证明 AI 输出来自哪个模型

AI 导读

Anthropic 发布 FlashProve 研究,用密码学证明实现可证明推理,验证某段 AI 输出确实来自指定模型。原理类似加密邮件签名,AI 实验室为模型提供不泄露权重的指纹,可防止暗中换用更便宜或更昂贵的模型。系统力求轻量化、可本地验证,技术规范和可运行代码已在 GitHub 开源,但 Anthropic 尚未计划部署,仍处于阶段性研究阶段。

推荐理由

原文解释了 FlashProve 用密码学指纹验证输出来源且不泄露模型权重的原理,可帮助读者理解可证明推理的可行路径。

来源:IT之家·人工智能 · ithome.com