MoRE-RAG：基于贝叶斯优化的多检索专家融合技术，用于检索增强生成

《Neurocomputing》：MoRE-RAG: Bayesian optimal fusion of multiple retrieval experts for retrieval-augmented generation

　　摘要
面向异构多模态文档库的工业检索增强生成（RAG）系统，如本研究所针对的可维护性设计审核（MDA）数据集，通常会结合多种检索器，而融合策略的选择直接决定了检索精度及后续答案的正确性。然而，现有的RAG技术缺乏多检索器融合的统一理论框架，且固定权重策略（如互反排名融合、线性插值）无法适应不同数据集的特性。本文提出了MoRE-RAG（混合检索专家RAG），将贝叶斯决策理论引入RAG融合机制。我们为任意数量的检索专家推导出了封闭形式的最佳权重公式，从而在单一数学框架下实现了检索层与模态层的融合。在此基础上，我们还整合了分层混合检索与实体置信度控制机制，构建了专为工业多模态文档设计的RAG框架。在四个BEIR基准数据集及工业维护数据集上的实验表明，MoRE-Ensemble在NDCG@10指标上相比RRF平均提升了18.82%，而在工业数据集上的端到端生成任务中，其在答案正确性、上下文相关性及F1分数方面均优于所有基准方法。消融实验和权重分析进一步验证了各组件的有效性以及贝叶斯权重的自适应特性。标注预算分析还显示，50–200对标注即可获得稳定的融合权重，使得该框架在标注资源有限的工业环境中具备实际应用价值。

引言
大型语言模型（LLM）展现出强大的语义理解能力和少样本迁移能力，为众多领域的知识密集型任务提供了新思路[1]。然而，LLM存在两大固有局限：首先，由于训练数据的时效性和领域知识的不完整性，它们常常会产生幻觉[2][3]；其次，其黑箱式推理过程缺乏可解释性和可追溯性[4]。在诸如可维护性设计审核（MDA）这样的专业领域，这些局限尤为突出。MDA是一种贯穿复杂设备开发全周期的合规性审查活动，需依据MIL-HDBK-470A和MIL-HDBK-472等权威设计手册，系统地验证产品的可维护性指标[5][6]。在MDA工作流程中，关键证据分散在需求合同、设计文档、FMEA表格、数字模型以及现场反馈等多种异构来源中[7][8]，人工审核员必须交叉参考这些来源才能验证每个可维护性指标。因此，传统的人工审核方式效率低下、一致性差且难以追踪，亟需构建智能的知识提取与重用机制。

检索增强生成（RAG）通过引入外部知识库，将黑箱式生成转变为基于证据的推理，有效解决了上述问题[9][10]。近期的研究还通过自适应迭代检索[11]和细粒度知识优化[12]进一步拓展了RAG的功能。尽管取得了这些进展，但作为现代RAG系统核心组成部分的多检索器融合仍缺乏统一的理论框架，由此衍生出三个关键问题：
(1)检索层融合（稀疏检索与密集检索融合）与模态层融合（文本与图像融合）是否共享统一的最佳数学框架？现有的互反排名融合（RRF）[13]和线性得分插值等方法依赖固定公式或手动调整，缺乏理论上的最优性保障。
(2)如何从理论上确立融合权重的最优性？目前的策略大多基于启发式权重分配，无法量化每个检索器或模态的贡献程度。
(3)固定的融合策略能否根据不同的查询类型（如精确匹配查询与语义理解查询）进行自适应调整？

在工业RAG应用中，这三个问题彼此关联：若没有统一理论（问题1），就无从为权重分配提供原则性依据（问题2）；没有原则性的权重，针对不同查询类型的自适应路由（问题3）就会变成针对特定数据集的工程化操作，无法迁移到新领域。其结果是，实际部署的RAG系统要么不得不在每个新数据集上重新调整权重，要么过度依赖单一检索器，从而导致领域覆盖范围的不足。在MDA领域，这两种情况都会带来高昂的成本——每款新产品都会引入新的技术术语，而且答案正确性的要求是由安全与监管标准决定的，而非用户体验目标。我们在第3节详细阐述的“以LLM作为评判者”方案中，将这一标准定义为答案正确性。本文通过单一的封闭形式贝叶斯融合理论解决了这三个问题，无需为每个数据集重新训练融合权重，同时也为后续添加自适应路由机制提供了原则性基础（第3.3节，MoRE-Adaptive）。

现有方法仅部分解决了这些问题。互反排名融合（RRF）通过固定公式合并多个排序列表，虽然无需训练，但其权重分配与实际检索器的能力无关，也无法实现自适应调整。线性插值虽允许调整权重，但依赖手动设置或网格搜索，同样缺乏理论上的最优性保障。在多模态RAG领域，主流方法大多采用固定配额策略（如顶级文本+顶级图像），无法根据查询特征动态调整模态权重[14][15]。这些方法的共同缺陷在于，缺乏能够根据每个检索器或模态在特定数据集上的统计可靠性进行自适应优化的统一数学框架。

为解决这些挑战，本文提出了MoRE-RAG（混合检索专家RAG），这是一种基于贝叶斯最优融合理论的检索专家融合RAG系统。其主要贡献如下：
(1)我们为任意数量的专家/模态推导出了封闭形式的最佳权重解（N-Expert公式），该公式通过预测准确率（在保留的验证集上的皮尔逊相关系数）和逆方差来量化专家的可靠性，从而为检索层与模态层的融合提供了统一的数学框架。
(2)在检索层，我们设计了三种渐进式的融合策略（MoRE-Bayes、MoRE-Adaptive、MoRE-Ensemble），并将贝叶斯加权扩展到文本-图像模态融合，同时融入分层混合检索与实体置信度控制机制，以满足工业多模态文档的需求。
(3)我们在工业维护文档数据集（MoRE-RAG的主要应用场景）以及公共基准数据集上进行了大量实验验证。在工业数据集上，该方法在检索性能和端到端生成质量方面均显著优于现有的融合基准方法。在公共基准数据集上，它在检索NDCG@10指标上优于固定权重融合方法（RRF、线性插值），在端到端生成任务中的表现则与最强的密集检索基准方法相当。因此，我们将公共基准数据集的结果作为泛化能力验证，而非主要效能证明。统计显著性测试和消融实验进一步验证了各核心组件的有效性与必要性。

相关工作
与MoRE-RAG最相关的研究是现代RAG系统中的多检索器融合以及文本-图像多模态融合；以下两个小节将分别探讨这两个方向。MDA应用场景已在引言（第1节）中介绍，第4节则再次提及作为部署场景。

方法
本节阐述了工业多模态RAG领域的三个待解决问题：缺乏融合理论、固定权重策略的适应性有限，以及多模态证据的整合不够紧密。我们提出了MoRE-RAG作为统一解决方案，首先描述整体系统架构，然后构建贝叶斯融合理论，最后在检索层和模态层应用该理论，并针对工业场景加入了相应的适配组件。

实验
本节介绍了MoRE-RAG框架的实验验证情况。我们描述了实验设置，报告了在通用基准数据集和工业基准数据集上的检索层及端到端性能，同时还给出了消融实验和深入分析。

关键实验结果
实验结果表明，贝叶斯最优融合的表现会随着数据集特性的变化而发生系统性变化。首先，权重分配与数据集的语义依赖性高度一致。在BEIR数据集上，语义依赖性（密集检索与BM25检索的性能比）与MoRE相比RRF的改进幅度高度相关：FiQA任务的改进幅度为61.3%，而NFCorpus数据集的改进幅度为8.5%。相比之下，工业数据集的BM25权重在0.54–0.72之间，反映出标准化标识符的主导作用。

结论
本文提出了MoRE-RAG，通过N-Expert贝叶斯最优权重封闭形式解为多检索器融合与多模态融合建立了统一的理论基础，同时设计了适用于工业文档的渐进式融合策略和分层检索机制。在检索层实验中，MoRE-Ensemble在四个BEIR数据集上相比RRF的平均NDCG@10提升幅度为18.82%，在工业维护数据集上的MRR@10值为0.952。在端到端生成任务中，其表现也优于其他方法。