🤖 AI

Anthropic研究FlashProve:怎样证明AI回答来自指定模型

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
FlashProve(FlashProve)

Anthropic研究的系统,用来验证回答来自哪个AI模型。

模型(móxíng)

一种能够生成文字的AI系统。

密码学证明(mìmǎxué zhèngmíng)

用数学方法检查回答来源的证明。

发生了什么

Anthropic(制作Claude的人工智能公司)公开了一个叫FlashProve的开放源代码研究原型。它想用密码学证明,让人们检查一条AI回答是否真的由指定模型生成。Anthropic的研究说明和TechCrunch报道都指出,这还不是已经上线的产品。

为什么需要它

使用AI服务时,用户通常会相信屏幕显示的模型名称。但只看回答文字,无法确定回答到底来自哪个模型。服务可能为了节省成本而换用更便宜的模型,或者在比较性能时使用了不同的模型。普通用户很难从回答本身发现这种变化。

类似的问题也会出现在第三方的说法中。有人可能声称,某项工作由很强的模型完成。如果只有聊天记录或一段文字,用户仍然需要相信提供者。能验证来源,才有机会检查这类说法。

FlashProve怎样工作

模型提供方先为某个模型发布一段短的识别信息。它和模型内部的权重相联系。权重是决定模型行为的内部数字,但不会直接公开。

模型回答问题后,提供方生成一份证明。证明把问题、回答和指定模型联系起来。用户只要有识别信息、问题和回答,就可以检查证明,不必拥有模型的内部数字。系统也希望让用户在自己的设备上完成检查。

为什么重要

如果研究人员比较AI,公司选择工作工具,或者客户检查自己购买的服务,模型身份都很重要。来源可以被核对后,测试结果和工作记录会多一层依据。人们也更容易分清,究竟是哪一个系统做出了回答。

不过,来源真实不代表内容正确。真正的模型仍可能误解问题,也可能给出错误答案。FlashProve主要回答“谁生成了这段内容”,不是回答“这段内容是否正确”。

已经确认的事实

Anthropic同时公开了技术说明、协议文件、可运行代码和形式化证明。公开测试使用了Llama 4 Maverick,这是一个很大的混合专家模型。测试中,一张H100显卡每秒大约生成110个词元。每次检查1024个词元时,证明文件约19MB。24核CPU检查一次约需17秒。生成证明所需的计算资源,也明显多于普通回答生成。

这些结果说明研究取得了进展,但不代表它已经适合日常AI服务。

仍然不清楚的地方

Anthropic表示,目前没有把FlashProve部署到自己或其他实验室服务中的计划。它什么时候支持商用模型,能不能处理很长的聊天,用户是否愿意等待检查,都还没有答案。公开测试针对特定模型结构,不能说明所有AI都能直接使用。

接下来关注什么

接下来要看新的技术测试和独立检查结果。其他AI公司是否采用兼容的证明,也会影响它能否普及。如果这类方法推广,人们以后可能同时检查回答内容和回答来源。现在,FlashProve更像是给AI增加来源核对能力的研究工具,不是保证答案正确的印章。

🤖 AI

Anthropic研究怎样确认AI回答的来源

📰 完整报道: Anthropic研究FlashProve:怎样证明AI回答来自指定模型

Anthropic正在研究FlashProve,让人们检查AI回答来自哪个模型。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
FlashProve(FlashProve)

用来检查哪个AI写了回答的系统。

模型(móxíng)

一种会生成文字的AI。

💡 一句话总结

  • FlashProve可以帮助检查哪个模型写了回答。
  • Anthropic希望外部的人也能进行验证。
  • 来源是真的,不代表回答一定正确。

我们使用AI时,屏幕常常会显示模型名称。但是,回答里的文字不会自己说明是谁写的。如果服务换了另一个模型,普通读者很难发现。

Anthropic(制作Claude的人工智能公司)正在研究FlashProve。它想把回答和写出回答的模型联系起来。这样,Anthropic以外的人也可能检查这条联系。

为什么需要这样做?不同模型可能擅长不同的事情。公司选择工作工具时,会比较模型的结果。研究人员测试系统时,也要知道究竟用了哪一个模型。如果模型名称不能检查,一个模型可能拿到另一个模型的成绩。能核对来源,就多了一条判断测试是否可信的线索。

FlashProve会使用一段短的识别信息。它能指向一个模型,但不会公开模型内部的数字。回答还会带着一份证明。用户可以用识别信息、问题和回答进行检查,不必拥有模型本身。

不过,FlashProve只针对一个问题:是谁写了回答。它不能保证回答正确。就算真的由某个模型生成,模型也可能听错问题,或者说出错误内容。

Anthropic公开了技术说明和代码,也用很大的模型做了测试。测试显示,这种方法已经有进展,但生成证明需要更多计算资源。它还不是普通用户马上就能使用的功能。

Anthropic没有公布正式上线时间,也没有说明哪些商用服务会支持它。接下来要看其他AI公司是否采用相似的方法。现在,它能帮助人们确认回答来自谁,但不是保证答案正确的印章。

🤖 AI

Anthropic想给AI回答挂上名字

📰 完整报道: Anthropic研究FlashProve:怎样证明AI回答来自指定模型

Anthropic正在研究怎样看看回答是哪一个AI做的。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
Anthropic(Ānsēluópǐkè)

制作Claude的人工智能公司。

FlashProve(FlashProve)

帮助大家检查哪个AI做了回答的方法。

Anthropic(制作Claude的人工智能公司)正在研究FlashProve。

AI会给我们回答。 可是,回答的字不会告诉我们是谁做的。

FlashProve可能帮助大家检查AI的名字。 这像给回答挂一张真的名牌。

可是,真的名牌不能让回答变正确。 AI还是可能说错话。

FlashProve什么时候能用,现在还不知道。

来源