Anthropic在周二发布的博客文章中表示，正在开发一套开源系统，用于验证某段输出由哪个AI模型生成。该系统名为FlashProve，旨在提供研究人员所称的“可证明推理”，即一种密码学证明，本质上是一种数学保证，证明某项输出确实来自某个特定模型。其目标是让用户能够确认，自己收到的答案确实来自他们认为正在使用的模型。
这类似于加密电子邮件签名，收件人可以据此确认邮件确实来自其声称的发件人。FlashProve同样能够抵御冒充者试图将一个模型伪装成另一个模型的行为，即便冒充者是构建并运行该模型的实验室也不例外。研究人员特别指出，该系统可用于防止AI公司暗中换成更便宜的模型以削减成本，或换成更昂贵的模型以夸大性能结果。
FlashProve还可用于验证第三方关于某项任务由先进模型完成的说法。研究人员写道：“开发者可能声称，其软件库已由某个前沿网络安全模型扫描过漏洞；或者一家公司可能声称，其商业计划已获得某个合适模型的批准。用户该如何验证这些说法？”
要使系统发挥作用，AI实验室需要为每个发布的模型公布一份“指纹”，之后可将其与特定输出匹配并进行密码学验证。关键在于，这些指纹不会泄露模型权重，也就是定义模型行为方式的内部数值，而Anthropic和OpenAI等闭源模型开发商一直将这些权重保密。这意味着实验室可以在不放弃其最有价值资产的情况下公布指纹，从而使该系统也能适用于商用模型。该系统还设计为轻量级，因此验证可在本地设备上完成。
作为此次发布的一部分，研究人员公布了详细的技术规范以及该系统各组成部分的可运行代码，并以开源许可证在GitHub上公开。该系统相关研究仍在进行中，目前没有在Anthropic或任何其他实验室部署的计划。
研究人员在发布文章中解释：“这篇研究文章旨在分享阶段性进展，而非一套已完成的研究议程。我们公开分享的明确目标是，希望其他人查看我们的工作，将其采纳并加以改进。”
