发生了什么
- Anthropic 在其研究网站上发布了一份关于语言模型“可证明推理”（provable inference）的报告。该文发布日期为2026年11月2日，TechCrunch 于11月3日作了报道。
- 这项工作介绍了 FlashProve。运行模型的一方可以先对模型作出承诺，再用密码学证明表明每条回复都是由该模型产生的。
- 该技术属于被称为 zkSNARK 的证明家族。作者称它们适合这个问题，因为能隐藏信息，且验证效率高。
- 报告由来自 Anthropic、EPFL、StarkWare、MIT、RESI 和 Succinct 的8个人署名。代码、用 Lean 编写的形式化证明以及文档，均以 Apache 2.0 许可证发布。
- 作者强调，这只是阶段性进展，而不是一套已经完成的研究议程。据 TechCrunch 报道，Anthropic 或其他任何实验室都没有部署它的计划。
为什么重要
- 如今，向模型提问的人无法核实回复是否来自自己选择的模型。作者提醒，靠文本质量来判断是行不通的。
- 报告给出了三种情形。独立评估者需要知道，自己测试的与向公众提供的是同一个模型。通过中间服务访问模型的用户，想知道它有没有被换成更便宜的模型。而如果攻击者在冒充模型的同时篡改了 token 流，用户根本无从察觉。
- 难点在于，前沿模型的权重是保密的，而要核验一条回复，就得把模型再运行一遍。密码学证明把二者分开：实验室公布模型的一个不泄露权重的指纹，任何人都可以验证证明。
关键数字
8。 这是报告的作者人数，分属 Anthropic 以及五家学术机构和密码学公司。
背景
TechCrunch 把这个系统比作让邮件收件人确认发件人身份属实的签名。区别在于，FlashProve 还能防范实验室自己：它可以阻止公司为了省钱而悄悄把模型换成更便宜的，或者为了抬高结果而换成更昂贵的。作者补充说，这类证明还有助于核实各方是否遵守了关于 AI 发展节奏的承诺。
Mamífero 一直关注证明 AI 输出来源的种种努力。我们报道过Anthropic 发布了 C2PA 凭证验证器，可确认其品牌，以及谷歌开始用 SynthID 标记其内容，并拉来了 OpenAI。在外部评估方面，METR 同意 Anthropic 关于风险较低的判断，同时质疑了其衡量方式。在商业领域，Visa、Mastercard 和 Ant 开始联合验证 AI 智能体。
接下来
- 要让这个系统发挥作用，每个实验室都得公布自己所发布模型的指纹。目前没有一家作出承诺。
- 这项研究仍然开放，作者邀请其他人拿走代码并加以改进。
- 据 TechCrunch 报道，验证被设计得足够轻量，可以在本地设备上运行。
一句话总结
FlashProve 不会改变模型做什么，而是改变人们能核查它们的什么。如果各实验室公布自己的指纹，评估者、企业或用户就可以要求出示证明，而不必相信一个标签。目前它只是等待有人采用的开源代码。
来源
- Rinberg, R., Allain, A., Chiesa, A. 等，“Progress on provable inference for large language models”，Anthropic，2026年11月2日，anthropic.com/research/provable-inference
- FlashProve 代码见 GitHub
- Brandom, R.，“Anthropic is working on a system to prove AI models’ identity”，TechCrunch，2026年11月3日，techcrunch.com
- 封面图片：D. Sharon Pruitt，CC BY 2.0，来自 Wikimedia Commons
编辑：Rodrigo Cornejo。我们如何挑选和核实：谁在写这些笔记。