事实没错，出处错了：ProvenanceGuard给MCP智能体补上「归因校验」这一关

AI答案的可信度检查，长期卡在一个反直觉的盲区上：一条声明可以每个字都是真的，却把出处张冠李戴。9月29日，Multiverse Computing在UC Berkeley的Agentic AI Summit 2026上详细介绍了他们的解法ProvenanceGuard——一个专门抓「跨源混淆」的事后核查层，论文同时放在Hugging Face与arXiv上。在医疗智能体的评测里，专家标出的139条问题声明，它抓住了138条。

真话配错出处：一个新命名的错误

先看两个例子，理解这个错误为什么危险。客服智能体回答：「根据账户记录，这个方案包含30天退款窗口。」30天退款是真的，但它写在政策文档里，不在客户的账户记录里。事实核查器一看：证据池里有这条，放行。换到临床场景更麻烦：某个用药剂量调整来自患者本人的病历工具，答案却把它表述成医学文献的研究结论——事实没变，权威性变了，而「错误归因」在受监管的行业里和「事实错误」一样致命。研究者原话是：在数据敏感场景中，错误的归因可以和错误的事实造成同等损害。

为什么主流核查工具看不见它

为什么现有工具查不出来？因为MiniCheck、RAGAS Faithfulness、AlignScore、SummaC这类主流核查器的工作方式是把所有检索到的材料合并成一个证据池，再问「这条声明在池子里有没有依据」。它们验证的是事实存在，不是事实出处在哪。多工具智能体恰好是重灾区：一次回答要同时查数据库、内部记录和网页搜索，结果拼进同一个无标签的上下文里，「谁说的」这个信息在进入模型之前就丢了。

五步管线：把来源ID留到最后

ProvenanceGuard的思路是把「来源身份」一路保留到最后。它叠加在黑盒MCP智能体之上，不需要重新训练模型，只读取执行轨迹里每一条工具输出及其来源ID，然后跑五步管线：第一步用本地语言模型把答案拆成原子声明；第二步用MiniLM把每条声明路由到最相关的来源；第三步用DeBERTa自然语言推理模型打支持度分，并对数字、日期、系统标识符做字面校验——来源里没有这个数，句子再通顺也不放行；第四步做归因比对，答案点名或暗示的来源必须和支持度来源一致；第五步输出逐条裁决和整条答案的放行或拦截。被拦截的答案可以走RARR式的溯源改写，或退到安全兜底话术，改写结果会再过一遍核查。

成绩：139条问题声明抓住138条

成绩单来自一个真实的医疗智能体：它同时访问患者病历与研究文献。团队收集了281条真实执行轨迹，留出40条答案共361条声明给人类专家评估，专家判定其中139条不该通过。ProvenanceGuard抓住138条，召回率99.3%；代价是保守——67条专家认为没问题的声明也被拦下复核。在拦截F1上它拿到0.802，高于MiniCheck的0.783、RAGAS的0.758、AlignScore的0.662和SummaC-ZS的0.436。50条被故意调换出处的事实声明，它百分之百检出。短板也明确：当多个来源长得像时，精确指认「到底是哪一篇」的准确率掉到50.3%——拦得住错，分不清近。

开销与落地：0.5秒一条，NVFlow已接入

落地成本不算重：整套本地配置跑下来，平均每条答案增加约0.5秒延迟，路由和推理步骤都在几十毫秒量级。自动修复环节，173条被拦截的完整轨迹全部得到处置，其中144条选择了保守的兜底文本而非改写——宁可少说，不可编造；59条多源重建的拦截案例里57条成功恢复。NVIDIA的NVFlow金融智能体已经接入了可选的ProvenanceGuard校验，用SEC文件片段做核查源。这套能力已在Hugging Face开源，研究者提醒：换云端模型需要重新做校准，报告里的数字只代表本地小模型配置。

对GEO的启示：被引用，还要被归对

这件事对做GEO的人有直接的启发。过去我们默认「被AI引用」就是终点，ProvenanceGuard这类工作把度量往前推了一格：AI不仅要说你的内容，还要把出处归对。一个品牌的定价政策被智能体说成「据用户评价」，一个临床数据被归到错误的文献——引用发生了，可信度却错位了。随着企业级智能体接入越来越多的私有数据源，「出处归因是否准确」会从工程细节升级成品牌资产的一部分：你的内容不仅要能被检索到、被引用，还要在模型的世界里挂着正确的名字。

写在最后

对正在搭多工具智能体的团队，这份研究值得放进必读清单：它不改变你的模型，只要轨迹里带着来源ID就能叠加；反过来说，如果你的系统把所有工具输出拼成一锅粥，再好的核查层也无从下手——先把溯源做好，才是第一件事。想跟进行业动态可以看我们对Hugging Face的收录页；搭建智能体工作流的话，LangChain的收录页也整理好了。

一句话结论：事实核查的下一关是出处核查——ProvenanceGuard证明了「归因对不对」可以被系统化地验证，而这一关，现有的证据池式核查器全都过不去。

（文 / AI30媒体部 ｜ 2026年9月30日）