Anthropic开源FlashProve:AI的回答第一次能自证「出自哪个模型」,GEO的信任底座要换了

新闻2周前更新 ai30guanwang
39 0
可验证来源的AI回答示意图
证明能说清「是谁说的」,说不清「说得对不对」——两件事必须分开(配图:AI30媒体部)

11月5日,Anthropic开源了一套叫FlashProve的可证明推理系统。它要解决的问题很具体:当一个AI给出答案,你怎么确定这句话真的是它说的,而不是中间被替换、被代理、被人塞了一段?FlashProve给出的答案是零知识证明——不公开模型权重,也能证明确实是承诺的那个模型算出来的。这件事在技术上偏底层,但落到内容行业,它动的是「引用凭什么可信」这块地基。

机制:不公开权重,也能证明是谁算的

先把机制讲清楚。用户向服务方发起请求,服务方用指定模型生成回答,同时产出一份证明;验证方不需要拿到权重,只要跑验证程序,就能确认这段输出确实由该模型在给定输入下产生。Anthropic在4000亿参数的MoE模型Llama 4 Maverick上做了实测:单张H100的证明吞吐约110 token/s,每份证明约18.78MB,CPU端验证约17秒。这三个数字决定了它现在能用在哪儿——证明体积不大、验证很快,但生成证明的算力开销是vLLM正常推理的70到95倍。

代价与边界:只证来源,不证正确

代价之外还有边界,而且边界写得相当克制。目前只支持1024 token的上下文、只支持整数化模型、只支持贪婪解码;更关键的一句在官方表述里:它只证明来源,不证明正确。也就是说,证明能告诉你「这话确实是这个模型说的」,但不能告诉你「这话是对的」。这个区分很重要,因为过去一年行业里大量所谓「AI内容溯源」,实际上把两件事混在一起卖:一边说可追责,一边暗示可信。来源与正确性拆开之后,责任链才真正清晰——模型厂商对「谁生成的」负责,内容方对「说得对不对」负责。

和GEO的关系:来源审计多了一条硬信号

为什么这和GEO有关?因为生成式引擎的采信逻辑,本质就是一套来源审计。AI搜索在给出答案时,要判断一段内容来自哪里、谁背书、是否被改动过。过去这套判断靠的是软信号:域名权重、多源一致性、更新时间、结构化标记。FlashProve这类技术成熟后,会多出一条硬信号——内容是否由声称的模型原样产出、有没有被中间环节改写。对做品牌内容的人来说,这意味着两件事同时发生:伪造与洗稿的成本上升,而「可核验」的价值上升。乌镇峰会刚刚把「来路清楚、去向可查」写进开放AI倡议,技术侧的同一条线,现在有了可执行的工具。

企业侧三层准备:留痕、分账、抽检

对企业的落地建议,可以按三层来准备。第一层是留痕:把AI参与生产的内容标注清楚模型、版本、时间与人工干预环节,别等被质疑了再回溯。第二层是分账:把「事实性表述」和「观点性表述」分开管理,事实部分必须能指向可核查的一手来源,这正是GEO规范里「事实、观点、营销表达三区分治」的落地方式。第三层是抽检:定期用公开模型复跑关键问答,看自家品牌在被问到时,引擎引的是官网、是权威媒体,还是一段来源不明的聚合稿。三层做完,才谈得上在AI搜索里稳定出现。

写在最后

也要说清局限。70到95倍的证明开销,意味着短期内它只会出现在高价值、低频次、需要定责的场景——比如金融研报、医疗建议、法律意见、政企公文。日常营销内容不可能每条都带证明,成本撑不住。但方向已经明确:AI内容的「可验证性」正在从公关话术变成工程指标。谁先把内容的事实结构整理干净、把出处链条留完整,谁在下一轮引擎采信里就少交学费。(文 / AI30媒体部 | 最后更新:2026年11月5日)

延伸阅读:天融信官网收录页 | 伙伴云官网收录页

© 版权声明

相关文章

暂无评论

none
暂无评论...