Anthropic 公布开源系统 FlashProve,用密码学证明某段输出确实出自某个模型,厂商偷换模型也会被识破,指纹还不泄露权重。目前只有规范和代码,没有部署计划。
11 月 3 日,Anthropic 在一篇博文里公布了一个叫 FlashProve 的系统,做的是「可验证推理」:给出一段模型输出,用密码学方法证明它确实出自某个特定模型。技术规范已经放出,相关组件的代码以开源许可发布在 GitHub 上。Anthropic 自己在文里写得很清楚,这只是中间进度,不是完整的研究议程,也没有在任何模型上部署的计划。
它要防的是「谁在替你回答」
场景很具体。你调用一个标着旗舰型号的接口,返回的答案真是那个型号生成的吗?Anthropic 的研究者举了几个例子:一家 AI 公司可能为了省成本,悄悄把贵的模型换成便宜的;也可能为了刷榜,把便宜的换成贵的来抬高评测分数。再往外一层,第三方同样可以造假:开发者说「我的代码库被前沿安全模型扫过一遍」,公司说「这个商业计划经过了合适模型的审核」,用户凭什么信?
FlashProve 想做的,是让这类声明可以被独立验证,而不是靠对方自证。类比是电子邮件的 DKIM 签名,收件方可以确认一封邮件真的来自它声称的域名。差别在于威胁模型:DKIM 防的是冒充者,FlashProve 要防的还包括运行模型的那家厂商本身,也就是最有能力作弊、也最有动机作弊的那一方。
指纹不给权重,这是能商用的前提

图片来源:TechCrunch
实现路径是,模型厂商为每个发布的模型公布一份「指纹」,之后就能把具体输出和指纹对上,用密码学方式验证。最关键的一点是指纹不暴露模型权重。权重是闭源厂商最值钱的资产,Anthropic 和 OpenAI 都靠它吃饭。如果不泄露权重也能做验证,商业模型才可能接入这套系统,否则它只是开源模型的玩具。设计上还要求足够轻量,验证可以在本地设备上跑完,不必把输出送到第三方服务器。
这套设计如果成立,受益的不只是终端用户。招投标、审计、内容平台的模型来源核查,都可以从「厂商声明」变成「可以被检查的凭证」。反过来说,它也会让模型定价变得更透明:如果用户能验证自己拿到的是哪一档模型,靠模糊型号卖高价的空间就会被压缩。
一个没解决的问题:谁来发指纹
局限同样明显。系统成立的前提是厂商自愿公布指纹。不公布就无法验证,公布了才形成约束,中间没有任何强制机制。对比内容溯源领域的 C2PA 标准,后者解决的是「这张图、这段视频由什么设备或软件生成」,FlashProve 解决的是「这段文字背后的模型是哪一个」,两者互补,但都不解决同一个问题:造假者愿不愿意配合。
Anthropic 自己的措辞也留了余地,说发这份东西是希望别人拿去改进。换句话说,它更像一份公开的方法论草案,而不是一个今天就能接入的产品。技术规范里还有一堆工程问题要填:指纹怎么和推理服务的批处理、量化、蒸馏版本对应,模型迭代后旧指纹怎么失效,这些都不是一篇研究博文能解决的。
中国视角:标识办法已经先跑了一年
中国在这条线上走得不算晚,但方向不同。2025 年 9 月 1 日起施行的《人工智能生成合成内容标识办法》,要求服务提供者对 AI 生成的文本、图片、音视频加显式标识和隐式标识,前者是用户能看到的提示,后者写进文件元数据。这是行政监管路径:先定义义务,再要求可核查。
Anthropic 走的是技术路径:不规定谁必须标,而是让「证明我是谁」变成一件可计算的事。两条路各自的短板都很清楚。行政路径依赖平台执行与抽查,内容一旦跨平台、跨出境就基本失灵;技术路径依赖厂商自愿,缺少强制力,还得等行业标准把指纹格式统一。
真正的交集在往前一步。如果哪天监管要求生成内容必须附可验证凭证,那么谁来提供这套密码学基础设施,就会从研究话题变成产业问题,连带牵出芯片、云服务和标准组织的角力。中国的大模型厂商如果要出海,面对的欧盟《AI 法案》透明度条款和各大平台的内容审核,都会问到同一个问题:你怎么证明这段输出是你的模型生成的。回答这个问题,靠的不是公关稿。
今日金句
“行政路径要求「你必须标」,技术路径让「我能证明」。前者靠执法,后者靠自愿。AI 内容的信任问题,最后会落在两条路的交叉口上。”
关注【德高行知情郎】,每天三篇硬核科技解读,看懂技术背后的产业与国运。
原文标题 : Anthropic 要给 AI 模型发「身份证」,连自己都伪造不了
Anthropic 公布开源系统 FlashProve,用密码学证明某段输出确实出自某个模型,厂商偷换模型也会被识破,指纹还不泄露权重。目前只有规范和代码,没有部署计划。
11 月 3 日,Anthropic 在一篇博文里公布了一个叫 FlashProve 的系统,做的是「可验证推理」:给出一段模型输出,用密码学方法证明它确实出自某个特定模型。技术规范已经放出,相关组件的代码以开源许可发布在 GitHub 上。Anthropic 自己在文里写得很清楚,这只是中间进度,不是完整的研究议程,也没有在任何模型上部署的计划。
它要防的是「谁在替你回答」
场景很具体。你调用一个标着旗舰型号的接口,返回的答案真是那个型号生成的吗?Anthropic 的研究者举了几个例子:一家 AI 公司可能为了省成本,悄悄把贵的模型换成便宜的;也可能为了刷榜,把便宜的换成贵的来抬高评测分数。再往外一层,第三方同样可以造假:开发者说「我的代码库被前沿安全模型扫过一遍」,公司说「这个商业计划经过了合适模型的审核」,用户凭什么信?
FlashProve 想做的,是让这类声明可以被独立验证,而不是靠对方自证。类比是电子邮件的 DKIM 签名,收件方可以确认一封邮件真的来自它声称的域名。差别在于威胁模型:DKIM 防的是冒充者,FlashProve 要防的还包括运行模型的那家厂商本身,也就是最有能力作弊、也最有动机作弊的那一方。
指纹不给权重,这是能商用的前提

图片来源:TechCrunch
实现路径是,模型厂商为每个发布的模型公布一份「指纹」,之后就能把具体输出和指纹对上,用密码学方式验证。最关键的一点是指纹不暴露模型权重。权重是闭源厂商最值钱的资产,Anthropic 和 OpenAI 都靠它吃饭。如果不泄露权重也能做验证,商业模型才可能接入这套系统,否则它只是开源模型的玩具。设计上还要求足够轻量,验证可以在本地设备上跑完,不必把输出送到第三方服务器。
这套设计如果成立,受益的不只是终端用户。招投标、审计、内容平台的模型来源核查,都可以从「厂商声明」变成「可以被检查的凭证」。反过来说,它也会让模型定价变得更透明:如果用户能验证自己拿到的是哪一档模型,靠模糊型号卖高价的空间就会被压缩。
一个没解决的问题:谁来发指纹
局限同样明显。系统成立的前提是厂商自愿公布指纹。不公布就无法验证,公布了才形成约束,中间没有任何强制机制。对比内容溯源领域的 C2PA 标准,后者解决的是「这张图、这段视频由什么设备或软件生成」,FlashProve 解决的是「这段文字背后的模型是哪一个」,两者互补,但都不解决同一个问题:造假者愿不愿意配合。
Anthropic 自己的措辞也留了余地,说发这份东西是希望别人拿去改进。换句话说,它更像一份公开的方法论草案,而不是一个今天就能接入的产品。技术规范里还有一堆工程问题要填:指纹怎么和推理服务的批处理、量化、蒸馏版本对应,模型迭代后旧指纹怎么失效,这些都不是一篇研究博文能解决的。
中国视角:标识办法已经先跑了一年
中国在这条线上走得不算晚,但方向不同。2025 年 9 月 1 日起施行的《人工智能生成合成内容标识办法》,要求服务提供者对 AI 生成的文本、图片、音视频加显式标识和隐式标识,前者是用户能看到的提示,后者写进文件元数据。这是行政监管路径:先定义义务,再要求可核查。
Anthropic 走的是技术路径:不规定谁必须标,而是让「证明我是谁」变成一件可计算的事。两条路各自的短板都很清楚。行政路径依赖平台执行与抽查,内容一旦跨平台、跨出境就基本失灵;技术路径依赖厂商自愿,缺少强制力,还得等行业标准把指纹格式统一。
真正的交集在往前一步。如果哪天监管要求生成内容必须附可验证凭证,那么谁来提供这套密码学基础设施,就会从研究话题变成产业问题,连带牵出芯片、云服务和标准组织的角力。中国的大模型厂商如果要出海,面对的欧盟《AI 法案》透明度条款和各大平台的内容审核,都会问到同一个问题:你怎么证明这段输出是你的模型生成的。回答这个问题,靠的不是公关稿。
今日金句
“行政路径要求「你必须标」,技术路径让「我能证明」。前者靠执法,后者靠自愿。AI 内容的信任问题,最后会落在两条路的交叉口上。”
关注【德高行知情郎】,每天三篇硬核科技解读,看懂技术背后的产业与国运。
原文标题 : Anthropic 要给 AI 模型发「身份证」,连自己都伪造不了