角色感知与类型感知的超关系知识图谱补全

《Big Data and Cognitive Computing》：Role-Aware and Type-Aware Hyper-Relational Knowledge Graph Completion

　　

知识图谱作为结构化知识表示的基础设施，推动人工智能从数据驱动向知识增强范式演进。超关系知识图谱（Hyper-Relational Knowledge Graphs, HKGs）采用超边结构，克服了传统三元组方案在建模具有复杂依赖约束的多实体事实时的表达局限。然而，现有补全方法侧重于全局结构模式，忽视了实体角色依赖与类型级语义先验，使其易受数据稀疏和语义噪声的影响。本研究提出RATA，一种融合角色感知与类型感知机制的超关系知识图谱补全模型，以缓解上述缺陷。该模型通过超边表示统一编码超关系事实，并利用双向节点-超边注意力模块捕获全局语义。它借助角色感知序列建模显式表示实体语义角色，并引入实体类型先验构建层次语义，以对齐实例级与类型级信息，从而融合结构、角色语义与类型先验知识。在JF17K、WD50K和WikiPeople上的评估表明，RATA在实体补全与关系补全任务上取得了具有竞争力的性能。消融实验验证了其超边全局编码、角色感知建模与类型感知表示学习模块的有效性，表明RATA为复杂超关系知识图谱补全提供了可行的技术支撑。

**研究背景与问题**

知识图谱以图结构化的知识表示范式，已成为智能问答、推荐系统、网络搜索、知识推理以及知识增强大语言模型等领域的关键基础设施。传统知识图谱将现实世界事实编码为三元组（h,r,t），其中h、r、t分别对应头实体、关系与尾实体。然而，许多现实事实本质上是多关系的：单一事件通常涉及时间、地点、参与者与数量等多个描述性限定符。例如，“Marie Curie与Pierre Curie共同获得1903年诺贝尔物理学奖”这一事实，不仅涉及获奖关系，还包含获奖年份与共同获奖者等上下文属性。将此类复杂事实分解为孤立三元组会破坏其内在整体语义，并可能割裂限定符与核心事实之间的关键关联，从而降低下游推理与补全任务的性能。

为克服三元组中心知识图谱的表达局限，超关系知识图谱（HKGs）通过限定符或超边结构扩展标准三元组，使单个事实能够关联多个实体与描述性属性，从而更忠实地建模复杂现实知识。尽管表达能力增强，HKG仍普遍存在事实不完整与语义噪声问题，因为知识获取 heavily 依赖人工标注与自动化抽取流程。知识图谱补全（KGC）从观测证据推断缺失实体与关系，因而构成HKG的重要研究任务。一系列面向HKG的补全模型，包括NaLP、HINGE、StarE、HyperFormer与HAHE，已利用卷积网络、图神经网络与Transformer建模限定符与高阶事实，并在实体与关系预测任务上取得可观进展。

现有文献分别研究了实体-角色异质性与类型-本体资源。HAHE采用双向节点-超边注意力以及角色与角色对偏置项，以捕获全局与局部语义信号。HyperCL构建配对的实例级与层次本体视图，将同一实体的跨视图嵌入视为正样本，并将概念对齐实体作为难负样本进行对比优化。然而，少有现有框架将角色语义与类型感知本体紧密统一于一个集成补全流程中。受此缺口驱动，本工作将全局超边上下文整合到局部角色序列中，显式区分限定符内与跨限定符交互，并在统一掩码下对共享实体嵌入施加类型驱动对比约束。该设计针对结构编码、角色交互与类型级先验知识之间的语义脱节问题。

研究人员开展了如下研究：RATA采用HAHE的双向节点-超边注意力范式进行实例级结构编码，并将学习到的全局超边表示作为上下文特征馈入后续角色感知序列编码器，从而使全局事实上下文显式参与角色条件交互建模。对于类型感知学习，RATA继承HyperCL的实例-类型跨视图对齐核心原则，并进一步发展类型引导负采样策略，通过选择与相同或语义相似类型关联的实例构建负样本。此外，类型视图采用单向信息传播以保留类型级语义特征并缓解实例级噪声干扰。因此，RATA的贡献在于一组面向任务的定制设计及其面向超关系知识图谱补全的联合优化。

本研究有三项关键贡献。第一，提出一个集成的超关系补全框架，将HAHE风格全局超边编码与角色感知序列建模耦合。RATA将全局超边表示视为上下文令牌，并在后续序列编码器中引入角色特定与角色对信息，联合建模全局事实上下文与角色条件交互。第二，设计了一种结合实例-类型跨视图对齐与类型引导负采样的类型感知学习策略。通过选择与相同或语义相似类型关联的负实例，该策略比不加区分的负采样提供更具判别性的训练信号，同时类型视图采用单向传播以保持类型级语义的稳定性。第三，在真实数据集上的评估与消融研究为所提设计选择的有效性提供了经验证据，同时揭示性能增益随数据集与补全任务而变化。

**关键技术方法**

研究人员在三个公开数据集JF17K、WD50K与WikiPeople上开展实验，采用平均倒数排名（MRR）、Hits@1与Hits@3作为评估指标，基线涵盖NeuInfer、ShrinkE、MSeaHKG、HyNT、HyperFormer、HAHE、tNaLP、DVHE、DHGE、RAM与sHINGE。模型包含三个核心模块：基于HAHE的实例超图编码器、基于HyperCL的类型视图与对比目标，以及以全局超边表示为[CLS]上下文的成对感知角色序列编码器。关键技术包括：双向节点-超边注意力进行全局超边编码；类型引导负采样结合广度优先搜索（BFS）与余弦相似度识别语义相似类型；角色感知序列建模引入角色偏置与角色对偏置；以及InfoNCE对比损失与交叉熵补全损失的联合优化。

**研究结果**

4.1 实验设置。所有实验在Intel Xeon Gold 6430 CPU与NVIDIA RTX 4090 GPU上进行。使用JF17K、WD50K与WikiPeople三个公开数据集，其超关系事实占比分别为45.9%、13.6%与不足3%，从而在不同超关系信息密度下进行评估。采用MRR、Hits@1与Hits@3作为评估指标。

4.2.1 实体补全。实体补全预测超关系事实中缺失的目标实体。RATA在JF17K与WD50K上取得最佳结果，证明所提框架在这两个数据集上的有效性。然而，其在WikiPeople上的性能与评估指标相关：RATA获得MRR 0.457与Hits@1 0.362，分别比HAHE低0.013与0.031，同时Hits@3略高于HAHE。这些结果表明RATA的有效性随数据集与评估指标而变化，而非在所有基线上表现一致优越。研究人员进一步考察类型感知组件所用实体-类型映射的覆盖率与频率分布。实体-类型覆盖率定义为至少关联一个观测最近类型的实体比例。映射覆盖率分别为JF17K 97.98%、WD50K 97.10%、WikiPeople 98.85%，表明三个数据集中大多数实体均有实体-类型标注。然而类型频率分布差异显著：WikiPeople的Gini系数最高为0.935、归一化熵最低为0.508，其62.92%的观测最近类型关联不超过五个实体，且最频繁的10%类型占所有去重实体-类型关联的91.48%。WD50K也表现出明显不平衡，而JF17K分布相对均衡。此类不平衡可能对类型感知对比学习组件构成挑战，尤其当许多类型仅关联少量实体时。

4.2.2 关系补全。关系补全预测超关系事实中缺失的目标关系。RATA在所有三个数据集上取得最佳或并列最佳性能。在JF17K上，其Hits@1与MRR与HAHE持平，Hits@3达到0.999。在WD50K上，RATA在三个指标上分别比HAHE提升0.012、0.014与0.012；在WikiPeople上相应增益为0.001、0.005与0.003。这些结果表明全局超边表示与角色组合为关系预测提供了稳定信号。

4.3 消融研究。研究人员分别消融超边注意力、角色感知与类型感知模块，对应变体记为?att、?role与?type。移除任一单一模块均导致MRR、Hits@1与Hits@3一致下降，证实每个核心组件均对性能有积极贡献。移除全局超边编码器中的注意力层后，模型捕获全局超边结构的能力下降，表明注意力丰富了全局编码学习到的结构特征。移除角色感知序列建模产生最大幅度的指标退化，模型无法充分捕获实体间位置依赖、局部序列信息或全局上下文引导的隐式交互，从而削弱其对超关系事实的整体表示；这也表明当超关系事实稀疏时角色感知模块不会引入噪声。移除类型感知跨视图对比学习使模型无法充分利用类型信息，降低实体类型引导表示学习的有效性。关系补全消融结果同样表明，移除任一核心组件均不同程度降低超边关系补全性能，其中移除全局超边编码器注意力层导致最大整体下降，凸显注意力在增强实体关联表示中的核心作用。

4.4 收敛性分析。研究人员选择对比实验中次优模型HAHE作为基线，在三个数据集上进行收敛性分析。RATA在多数数据集上表现出与HAHE相当或更优的收敛性。训练初期两者损失均快速下降，随后下降速率逐渐放缓并趋于平稳。在JF17K上，RATA保持更低损失并收敛更快，拟合曲线更贴近原始损失曲线；在WD50K上两者损失轨迹相似；在WikiPeople上HAHE损失更低、收敛更快，RATA在约第20轮出现短暂损失上升，可能因WikiPeople样本复杂度更高与批次间分布变化导致训练中短暂局部波动。评估指标收敛曲线显示，RATA在三个数据集上均可靠收敛，但其相对HAHE的优势随数据集与评估指标而异。在JF17K上RATA取得更优指标值；在WD50K上约15轮后超越HAHE；在WikiPeople上HAHE的Hits@1与MRR更高，而RATA的Hits@3略高。这些观察与最终评估结果一致，表明RATA的优势在超关系信息更密集的数据集上更明显。

**讨论与结论**

本文针对超关系知识图谱补全任务，提出RATA，一种融合角色感知与类型感知机制的建模框架。所提模型为捕获超关系事实的整体结构、实体角色语义与类型级先验信息提供了统一方式。公共基准上的实验结果表明，RATA取得具有竞争力的整体性能，并在若干数据集与指标上超越代表性基线。本研究为超关系知识图谱表示学习提供了统一建模视角，并为复杂知识图谱补全及其在知识驱动智能系统中的实际部署提供了有益启示。

为全面评估模型，研究人员在JF17K、WD50K与WikiPeople三个公开超关系知识图谱数据集上开展实验，并将RATA与代表性超关系补全模型进行比较。RATA在JF17K与WD50K的实体补全上较HAHE取得一致改进，在评估数据集的关系补全上也取得良好结果。然而WikiPeople实体补全结果较为混合：RATA在Hits@3上略优于HAHE，但在Hits@1与MRR上仍低于HAHE。该结果表明RATA的有效性随数据集与评估指标而变化，其优势在数据包含更密集超关系结构时更明显。因此，实验发现支持所提集成设计的有效性。此外，消融研究证实三个核心模块——超边全局编码、角色感知建模与类型感知表示学习——均对整体性能增益有积极贡献，从而验证了角色语义与实体类型信息在提升超关系事实表示质量与改进复杂知识补全能力方面的有效性。

尽管所提模型在多个数据集上取得良好实验结果，仍有进一步改进空间。WikiPeople结果也表明，高实体-类型覆盖率并不必然意味着类型分布均衡。该不平衡对类型感知对比学习的潜在影响，以及角色感知建模对信息性结构信号的依赖，值得进一步研究。当前模型主要依赖实体类型作为语义先验，尚未充分利用知识图谱中嵌入的异构语义资源，如概念层次、属性约束与文本描述。未来工作可聚焦于引入多源知识融合策略以丰富与增强实体表示的表达能力。同时，随着超关系知识图谱规模持续扩大，模型的计算复杂度与训练效率将成为实际部署的关键挑战。为此，未来研究可探索高效注意力机制、图结构采样策略或参数高效训练方法，以提升大规模图上的训练与推理效率。此外，鉴于大语言模型在知识表示学习中已展现出强大的语义理解能力，后续研究可尝试将预训练语言模型与超关系知识图谱表示学习相结合。通过利用文本语义知识与结构化知识的互补优势，该方向有望进一步推进复杂知识推理与补全性能。