当AI助手回答问题时，它是怎么知道答案来自哪里的？

发布时间：2026-07-17 08:21:09 来源：安智兰德资讯网 作者：探索

这项由Adobe研究院联合多所高校研究团队共同完成的当A答问答案工作，以预印本形式于2026年7月1日发布在arXiv平台，助知道自里编号为arXiv:2607.01420v1，当A答问答案归属于计算机科学中的助知道自里计算与语言方向。感兴趣的当A答问答案技术读者可通过该编号检索完整论文，深入探索技术细节。助知道自里

回想你使用AI助手查资料时的当A答问答案体验：它给出的答案看似逻辑严密，但你心中难免存疑——答案究竟对不对？助知道自里依据何在？这种不确定性在医疗、法律等高风险领域会被无限放大，当A答问答案因为缺乏来源支撑的助知道自里错误信息可能导致严重后果。

这就是当A答问答案“溯源”（Attribution）的核心价值。研究人员将其定义为：AI在生成答案后，助知道自里能明确指出“这句话源自文档第三页的当A答问答案文本”或“第五张图表”。这相当于为AI的助知道自里每句话附上“出处脚注”，让用户得以自行核实。当A答问答案

过去，学界在纯文本溯源上已取得进展，但现实世界中的文档（如医疗报告、合规文件、科研论文）多为图文混排。折线图、解剖示意图和数据表格往往承载了文字无法完全表达的关键信息。当AI需同时从文本和图像中挖掘依据时，传统方法显得捉襟见肘。

为此，Adobe研究院团队提出了MULTATTNATTRIB方法及配套数据集MULTATTREVAL。前者是“工具”，后者是“考场”。其独特优势在于：无需对AI模型进行任何额外训练，即可在图文混合的复杂文档中准确定位来源，且处理速度达到传统方法的7倍。

一、为何给AI装上“溯源仪”如此困难？

在纯文本领域，溯源已有迹可循，主要存在三条技术路径：

1. 训练驱动（Training-driven）：直接训练模型在生成答案时附带引用。效果显著，但成本高昂，每次更换基座模型均需重新训练。
2. 事后核查（Post-hoc Verification）：先由AI生成答案，再独立检索验证。灵活但需多轮推理，时间与计算成本翻倍。
3. 内部信号读取（Internal Signal Reading）：利用模型内部的注意力权重和激活值，这些信号隐含了“模型关注点”的信息。本研究采用的正是此路径。

进入多模态场景后，挑战呈指数级上升。系统不仅要理解文本语义，还要解析视觉内容，并判断二者如何共同支撑答案。此前如MCiteBench、MMDocRAG等基准数据集，多采用“从候选片段中挑选”的多选题模式，这与真实场景中“在完整长文档中定位”的需求存在巨大差距。

二、从AI大脑读取“注意力指纹”

团队的核心洞察基于Transformer架构的特性：模型每一层的多个“注意力头”会对输入分配不同权重。研究发现，在数百个注意力头中，有一小部分具有特殊行为——它们会集中关注真正支撑答案的位置（无论是文本还是图像），扮演“搜索探针”的角色。

MULTATTNATTRIB的工作流程分为三个阶段，宛如一场“考古发掘”：

1. 寻找正确的探针（头识别）

利用少量已知答案来源的样本（探针集），通过因果中介分析（CMA）测试所有注意力头。
* 实验逻辑：对比正常输入与将真实证据替换为无关内容时，注意力头的反应差异。若头在正常输入时关注证据，替换后注意力转移，则证明其因果响应证据。
* 筛选标准：排除注意力均匀分布的“粗心”头，从1536个头中筛选出最具价值的几十个。

2. 校准挖掘深度（阈值设定）

利用同一批探针样本，为图片和文本分别设定溯源阈值。
* 方法：运行溯源后，根据是否命中真实来源，寻找使“命中率”与“误报率”综合指标最优的分界分数。
* 优势：此过程仅需执行一次，即可应用于后续所有文档。

3. 正式发掘（来源定位）

用户提问时，模型仅需一次前向计算（读一遍文档）。
* 图片处理：计算图片所有图像块（patch）的平均注意力值，得出“被关注程度分数”。
* 文本处理：使用滑动窗口计算各段文字的平均注意力分数。
* 判定：将分数归一化后，对照预设阈值。超过阈值的标记为来源；若无超过阈值项，则返回分数最高项，确保始终有结果。

整个过程无需额外生成文字，速度极快。

三、文字头与图片头：AI大脑里的“专科医生”

团队深入分析了注意力头的分工，发现其呈现“共享为主、局部专科”的特征：

• 总体相关性：多数注意力头在文本和图片任务上表现正相关，支持“共享底座”假设。
• 头部特异性：排名靠前的文本头在图片任务中表现垫底。前四名头的重叠率仅约14%，排名相关系数甚至为负。
• 层级分布：
• 图片溯源优质头：集中在模型第22-36层（中后部）。
• 文本溯源优质头：分布更广，从早期到晚期层均有。
• 跨模态通才头：聚集在中后层过渡地带。

这一发现解释了为何采用因果中介分析优于简单平均：平均注意力易选出单一模态的“专科头”，而因果分析更易选出响应双模态的“通才头”，更适合混合来源溯源。

此外，溯源头具有稀缺性。归一化后，约80%的头得分低于0.1，仅不到2%的头得分超过0.6。这验证了少数头即可捕获绝大部分溯源信号，保障了计算效率。

四、考场设计：首个多模态长文档溯源数据集

为公平评估，团队构建了MULTATTREVAL数据集，这是首个专为长文档多模态溯源设计的评测基准。

• 数据来源：选取MINT-1T大型开源数据集中的20篇PDF文档，涵盖学术、商业、健康、法律、市场营销五大领域。
• 规模：约89,000个文字词元和253张图片。
• 样本构成：生成698组“问题-答案-来源”三元组，包括176组纯文本、255组纯图片、267组图文混合溯源。

生成与过滤流程严谨：
* 纯文本：筛选差异大的段落，生成仅能由此段落作答的问答对。
* 纯图片：筛选视觉差异大的图片，配不重叠文字背景，生成仅凭图片可答的问答对。
* 图文混合：通过嵌入向量匹配语义相关图文，利用命名实体识别确认视觉呈现，生成需双模态互补才能回答的问题。

质量过滤确保答案质量、证据精确性（文本长度12-25词且为原文子串）、以及模态独立性。最终，90组样本作为探针集，608组作为测试集。

五、比赛结果：七倍速度下的全面超越

评测采用精确率、召回率和F1值。基线模型为开源Qwen3-VL-30B及闭源GPT-5.4。

1. 纯文本溯源

• MULTATTNATTRIBF1值达0.596，较VLM直接提示法（0.485）提升约23%。
• 结合Cohere检索后，F1升至0.665，较VLM基线提升约37%。主要得益于召回率从0.382跃升至0.726。

2. 纯图片溯源

• MULTATTNATTRIB表现突出，精确率从0.477升至0.750（提升57%），F1从0.617升至0.776（提升26%）。
• 直接操作图像块（patch token）比语言描述判断更准确。

3. 图文混合溯源

• F1从0.493升至0.582，全面超越Qwen基线。

4. 对比GPT-5.4

• 在图片溯源上，MULTATTNATTRIB的精确率（0.749）和F1（0.786）均超过GPT-5.4所有变体。
• 在文本溯源上，GPT-5.4精确率占优，但MULTATTNATTRIB召回率更高。

5. 计算效率

• 在NVIDIA A100单GPU场景下，直接提示VLM法平均推理需15.67秒，显存占用78.28GB。
• MULTATTNATTRIB平均推理仅需2.16秒，显存占用63.41GB，速度快7.3倍，且几乎无显存溢出风险。

六、领域难度：法律文书优于学术论文

不同领域文档的溯源难度差异显著：
* 难度排序：学术 > 市场营销 > 健康 > 商业 > 法律。
* 学术文档：知识点反复陈述、交叉引用，导致“过度标注”，精确率下降（F1约0.54）。
* 法律文档：条款结构化强，定位清晰，F1高达约0.74。

尽管领域不同，MULTATTNATTRIB的优势具有泛化性，始终优于VLM直接提示，且结合Cohere RAG辅助效果最佳。

七、局限性：尚未开采的“矿区”

团队坦诚列出了当前局限：

1. 数据集局限：包含装饰性或近似重复图片，导致基线方法因精确匹配受罚；目前仅标注单张图片来源，未覆盖多图来源场景。
2. 方法依赖：需少量标注探针样本。未来可探索无监督头评分，但纯相关性打分可能选出“碰巧”关注的头，而非因果驱动头。
3. 模型验证：目前仅在Qwen3-VL-30B上验证，其他架构/规模模型的注意力信号清晰度待考。

核心意义：证明视觉语言模型内部已自发形成“证据雷达”，可通过外部方法捕捉利用，无需改动模型参数。这为AI的透明度和可信度奠定了坚实基础。

Q&A

Q1：MULTATTNATTRIB方法需要重新训练AI模型吗？
A：不需要。这是一种“无训练”方法，不修改模型参数，仅从内部注意力信号中读取证据位置。可直接应用于现有视觉语言模型，无需额外训练数据或时间。

Q2：MULTATTREVAL数据集和其他多模态溯源数据集有什么本质区别？
A：现有数据集（如MCiteBench、MAVIS）多为“多选题”模式（从候选片段挑选），而MULTATTREVAL要求模型在完整长文档中定位来源，无候选池，更贴近真实部署。此外，它覆盖纯文本、纯图片及图文混合三种类型，跨越五大领域，是首个专门为此场景设计的基准。

Q3：MULTATTNATTRIB在速度上比传统提示方法快多少，为什么？
A：在相同硬件（NVIDIA A100）和基座模型下，速度约为直接提示VLM方法的7.3倍，显存降低约15GB。原因在于传统方法需生成大量文字作为溯源输出，而MULTATTNATTRIB仅做一次前向计算，直接从注意力权重提取位置，跳过文字生成阶段，避免KV缓存持续增长。

相关文章