Anthropic 新原型验证 AI 响应来源
Anthropic's new prototype proves which model wrote an AI response without exposing its weights
Anthropic 发布了名为 FlashProve 的研究原型，该原型利用密码学技术验证 AI 响应是否确实来自声称的模型，但系统仍有显著局限性，例如当前仅支持高达 1,024 个 token 的上下文验证，且无法隐藏模型架构
2026年11月4日
Anthropic
Anthropic 发布了 FlashProve，这是一个使用密码学验证 AI 响应是否确实来自所声称模型的研究原型。该系统仍然存在重大局限性。
今天向 AI 模型发送查询的人没有办法验证所选模型是否确实生成了响应。一个路由服务可能会悄悄地用更便宜的模型来削减成本。攻击者可能会篡改数据流。Anthropic 表示，其新的开源研究原型 FlashProve 旨在解决此问题。
FlashProve 使用一种称为 zkSNARK 的密码学技术。简单来说，模型提供者首先创建模型权重的数字指纹。然后，在每次响应中，提供者会提供一个小型证明，表明这是特定模型生成了输出。该证明本身不会透露有关秘密模型权重的任何信息。
生成证明的速度足够快，以实现实用
根据 技术报告，FlashProve 在单个 H100 GPU 上为 Meta 的 Llama 4 Maverick（一个拥有 4000 亿参数的模型）生成证明的速度约为每秒 110 个 token。每个证明大约为 19 兆字节，可以在标准 CPU 上花费 17 秒进行验证。与正常推理相比，这增加了大约 70 倍到 95 倍的开销。
听起来很多，但与早期的系统相比这是一个巨大的飞跃。Anthropic 表示，之前唯一可用的同类开源系统处理 1000 个 token 花费了超过 14 小时。它生成的 93.6 吉字节的证明需要将近一整天的时间来验证。
监管机构可以验证提供商实际运行的是哪些模型
Anthropic 看到了几个用例。监管机构可以检查提供商是否实际上只运行了经过批准的模型，公司可以证明他们的代码经过了特定安全模型的审查，提供商可以检测其服务器上的篡改，例如攻击者或更高级的模型未被注意地溜入。
在其 Frontier Safety Roadmap 中，Anthropic 设定了在 2026 年 9 月之前构建一个推理验证原型的目标。该公司表示，它已经通过一个单独的项目达到了这个目标，该项目对推理流量进行签名并在可信服务器上跟踪计算。FlashProve 追求相同的目标，但采用纯密码学方法，并且不需要可信硬件。
上下文窗口和采样限制限制了它
Anthropic 强调 FlashProve 是一个研究原型。该系统目前只能证明最多 1024 个 token 的上下文，远低于当前模型的上下文窗口。它隐藏了模型的权重，但没有隐藏其底层架构。并且，只有当模型选择最可能的下一个 token 时，证明才有效，而不是像聊天机器人通常在日常使用中产生的随机输出。
完整的 代码、Lean 证明和文档可在 GitHub 上以 Apache 2.0 许可证获得。
无炒作的 AI 新闻 – 由人类编辑
订阅 THE DECODER 以获得无广告阅读、每周 AI 新闻简报、我们独有的每半年发布一次的“AI 雷达”前沿报告、完整存档访问以及访问我们的评论部分。
- THE DECODER 上每篇文章的完全访问权限
- 无广告
- 加入评论和社区讨论
- 通过邮件获取每周 AI 新闻回顾
- 每年 6 次：“AI 雷达”—— 深入探讨最重要的 AI 话题
- 每日 AI 新闻，始终最新
- 我们的完整十年档案
- 由一支拥有10年以上AI经验的团队负责
来源：The Decoder · the-decoder.com