PPENet: 一种基于先验的渐进证据网络，用于可解释的知识图谱补全

《Neurocomputing》：PPENet: A prior-grounded progressive evidence network for interpretable knowledge graph completion

　　

摘要知识图谱补全（KGC）对于智能知识服务（如科学发现和决策支持）变得越来越重要。然而，由于关系导向的结构接地较弱，它在应急响应分析中仍显不足。为解决这些局限性，我们提出了一种基于大语言模型的知识图谱补全的先验引导渐进式证据网络（PPENet），该网络将分散查询重构为自适应关系组件建模过程。具体来说，所提出的网络通过三个阶段进行：结构先验挖掘、基于证据的关系解耦和先验 - 证据对齐。在先验层，为解决上下文感知不足的问题，我们采用轻量级知识图谱嵌入模型从训练图中的所有观测三元组中推导全局关系先验。为每个查询检索多个置信度感知锚点。在证据层，我们渐进式检索关系感知证据，以扩展每个查询的相邻实体。此外，引入解耦证据编码器，在独立性正则化约束下解决子图线索的纠缠问题。在推理层，为连接稳定的实体语义与查询特定的结构证据，我们构建了先验 - 证据对齐模块。该模块将结构锚点注入语言模型，实现候选受限的实体推理。实验结果表明，我们的框架在三类数据集上均优于现有方法，性能有显著提升。源代码可在以下网址获取：https://github.com/ZNY-Kizz/PPENet

引言知识图谱补全（KGC）旨在从观测到的实体 - 关系事实中推断缺失的三元组，从而提高知识图谱的结构完整性和语义服务能力。这种能力对于应急管理（包括事件评估、灾害风险分析和应急响应支持等任务）等复杂场景中的决策支持尤为重要。特别是在消防安全和应急管理领域，火灾事件及其相关因素的结构化组织和语义关联建模已成为风险评估和应急响应分析的关键。应急火灾知识图谱（EFKG）是为火灾事故分析构建的领域特定知识图谱。在 EFKG 中，节点表示与火灾事件相关的各种实体（如城市和火灾原因），而边捕捉这些实体之间的关系。EFKG 为火灾风险评估、灭火决策支持和应急响应优化等任务提供结构化支持。在此背景下，从现实知识密集表示中推断缺失事实已成为知识工程和智能推理中的重要挑战。

传统的基于结构的 KGC 方法主要学习实体和关系的低维嵌入，结合预定义的评分函数来预测三元组。例子包括 TransE [1]、DistMult [2]、ConvE [3] 和 RotatE [4]。尽管这些方法在标准基准上取得了强劲性能，但它们往往依赖静态表示，无法完全捕捉丰富的图结构上下文。为了减轻这一局限性，Schlichtkrull 等人提出了 R-GCN [5]，通过关系感知图卷积聚合邻域信息。Vashishth 等人进一步提出了 CompGCN [6]，将实体 - 关系组合操作与图卷积统一，以增强多关系图中的结构编码。同时，Yang 等人提出了 Neural-LP [7] 作为基于规则的代表性方法，学习可微逻辑规则以显式建模关系依赖和路径模式，而 Yao 等人提出了 KG-BERT [8] 作为基于文本的代表性方法，利用预训练语言模型编码实体描述和上下文语义。

最近，大语言模型（LLMs）逐渐被引入知识图谱补全任务中。作为一种由预训练语言模型驱动的基于文本的 KGC 方法，Wang 等人提出了 SimKGC [9]，通过高效对比学习增强实体和关系文本表示的判别能力。此外，一些研究将缺失三元组补全重构为指令遵循任务。Wei 等人提出了 KICGPT [10]，结合 LLM 与检索机制以缓解长尾实体补全问题。尽管这些方法取得了一定进展，但在保持结构信息和为 LLM 设计有效推理接口方面仍存在明显局限性。

然而，现有方法在结构密集型场景中的性能仍然有限。幸运的是，知识图谱中广泛存在的层次拓扑关联、关系路径模式和候选邻域线索为将分散查询重构为自适应语义建模过程提供了可行途径，如图 1 所示。尽管如此，利用这些结构资源进行可靠的 KGC 仍面临几个关键挑战：(i) 结构锚定不足：不完整三元组仅暴露有限的局部关系需求，使得查询难以在训练图上建立稳定的关系导向结构锚定，从而削弱后续推理所需的上下文感知能力。(ii) 证据纠缠：与查询相关的证据通常分布在多跳路径和异构邻域中，不同的关系组件很容易在查询实体的局部结构表示中纠缠在一起，从而削弱模型识别方向性关联证据的能力。(iii) 推理接口不对齐：全局关系先验表示和查询特定证据在表示空间和语义粒度上存在显著异质性，缺乏可解释的表示对齐和渐进式层次引导。

为解决这些挑战，我们提出了一种用于可解释 KGC 的先验引导渐进式证据网络（PPENet）。所提出的框架通过渐进式证据推理实现关系导向的结构锚定，从而在结构密集型场景中实现可靠的候选受限实体推理。基于大语言模型骨干，PPENet 构建了一个由先验锚点引导的三层渐进式证据推理框架，以支持分散查询的自适应语义建模。具体来说，先验层从训练图推导全局关系先验，为不完整三元组提供稳定的结构支持。该层利用轻量级知识图谱嵌入模型编码全局关系规律，并为每个查询检索多个置信度加权锚点，从而提供全局上下文支持。在证据层，基于规则的证据子图检索器渐进式引导模型追踪关系路径模式，而解耦证据编码器通过独立性正则化将混合子图信号分解为可解释的结构组件，以实现查询特定证据嵌入。在推理层，结构先验和证据路由对齐模块连接全局关系先验与查询特定证据，允许推理接口灵活利用渐进式结构证据。总体而言，该框架保留了强大的语言先验，同时通过低秩适应（LoRA）将证据嵌入和结构锚点注入语言模型，实现结构化证据的有效集成。在两个公共基准数据集和 EFKG 数据集上的实验结果表明，PPENet 始终优于现有方法。所提出网络的总体框架如图 2 所示。

我们的主要贡献总结如下：
•我们构建了一个渐进式证据推理框架，其中结构先验挖掘引导基于证据的关系解耦，从而实现对密集知识图谱中层次关系的精确建模。
•我们将渐进式结构证据适应到大语言模型的推理接口，并通过结构锚定的低秩适应机制赋予框架可解释的推理能力。
•在两个公共基准数据集和 EFKG 数据集上的大量实验表明，PPENet 始终优于现有方法，并在火灾事件分析和应急响应支持等具有挑战性的场景中表现出强大的补全能力。

本文其余部分组织如下：第 2 节回顾了相关的 KGC 方法。第 3 节详细描述了我们要提出的 PPENet 模型。第 4 节展示了三个数据集上的实验结果和分析。第 5 节总结了全文。

章节片段相关工作
在本节中，我们系统地回顾了 KGC 中的主要方法和任务挑战。

方法
知识图谱（KG）可以表示为有向多重图，用于存储关于实体和事实的结构化信息。设 表示知识图谱的一个实例，其中 表示实体集， 表示关系集， 表示三元组集。对于任意三元组 ，其语义表示存在从头实体 到尾实体 的关系 。

知识图谱补全（KGC）旨在基于 推断三元组中的缺失元素。在本文中，我们将 KGC 定义为任务

数据集
为了验证 PPENet 的有效性，我们在两个广泛使用的基准知识图谱数据集和一个火灾领域知识图谱数据集上进行了全面实验。所选数据集涵盖了通用 KGC 场景和结构密集型应急响应场景。由于这些基准数据集在先前 KGC 研究中已被广泛采用，它们不仅提供了多样化的关系结构供评估，还确保了实验结果的可比性。
•WN18RR

结论
本文提出了 PPENet，一种用于 KGC 的证据可解释框架，称为 PPENet，专注于候选受限实体推理的稳定结构接地和渐进式证据推理。为建立全局一致的结构支持，先验层对训练图中所有观测三元组进行全局关系先验编码，并为每个查询检索置信度感知锚点。此外，证据层渐进式扩展查询特定

CRediT 作者贡献声明
Xuehui Wang: 数据整理、构思。Kaiwen Xu: 正式分析。Ningyuan Zhao: 方法学。Nan Jiang: 构思。Peiguang Jing: 方法学。Yuting Su: 方法学。

利益冲突声明
作者声明他们没有已知的竞争财务利益或个人关系可能影响本论文报告的工作。

Xuehui Wang 就职于应急管理部天津消防科学技术研究所，天津 300381，中国。Xuehui Wang 的研究工作集中在消防安全、智能消防以及人工智能技术在防火和应急管理中的应用。

Xuehui Wang|Kaiwen Xu|Ningyuan Zhao|Nan Jiang|Peiguang Jing|Yuting Su
应急管理部天津消防科学技术研究所，天津 300381，中国