一种基于产品评论关系提取的知识融合方法

《Data Science and Management》：A knowledge fusion method based on product review relation extraction

本文提出一种基于产品评论关系提取的知识融合方法，通过POSA模块识别主语和关系引导词，MEGF模块融合多专家特征，ROE模块联合提取关系和对象，KF模块动态对齐实体。该方法有效处理电商评论中的复杂关系抽取，实验表明在通用数据集和领域知识图谱融合中均优于基线方法。

　　

Cao Zhang|Ning Zhang|Jun Xiang|Ruru Pan

江南大学纺织科学与工程学院，中国江苏省无锡市

摘要

在多个领域中，联合关系提取是快速构建和补充知识图谱的关键技术。虽然现有的提取方法擅长处理事实性文本描述，但在从电子商务平台上的大量用户生成评论文本中提取关系时效果不佳，这限制了它们在情感分析等任务中的实用性。为了解决这一问题，我们提出了一种基于产品评论关系提取的知识融合方法。该方法包括四个核心组件：词性注意力（POSA）模块、混合专家门控融合（MEGF）模块、关系-对象提取（ROE）模块和知识融合（KF）模块。POSA模块通过句法分析识别主体和相关引导词，发现大多数关系直接来源于与这些引导词的关联，从而提高了模型的效率。MEGF模块采用创新方法提取和整合文本信息，实现多专家对主题和关系引导词的理解和学习，并将这些特征信息转换为句子编码。ROE模块通过全连接机制促进关系和对象的联合提取。KF模块利用动态权重进行实体对齐。我们的方法不仅改进了评论文本的处理，还将这些信息整合到知识图谱中，从而提升了其整体性能。实证评估表明，我们的方法在两个通用数据集上优于其他基线方法，并在真实世界的特定领域知识图谱上表现出强大的性能。

引言

实体识别和关系提取是知识图谱构建的基础任务，能够更有效地从文本中提取关键信息。这些过程对于支持下游应用（如知识图谱完成[1]、搜索引擎[2]和问答系统[3]）至关重要。最初，实体识别[4]和关系提取[5]被视为独立任务。这种分离使得模型训练更加灵活，但忽略了两者之间的依赖性。此外，由于关系提取通常在实体识别之后进行，因此容易发生错误传播或累积。因此，联合提取关系提取的方法变得越来越流行。早期的模型[6,7]主要依赖于固定的实体特征或NLP工具，这些工具往往无法满足要求，导致过拟合或实体信息错误[8]。相比之下，最近的进展强调了深度学习方法。Wei等人[9]将三元组提取分解为主体识别，然后使用二元分类器进行关系和对象识别。Chen等人[10]通过结合位置感知注意力机制和关系引导注意力网络来增强联合提取。同时，Gao等人[11]采用全局实体匹配策略来提高模型性能。

当前的关系提取任务关注包含多个重叠实体对的句子，如图1所示。当没有关系三元组共享相同实体时，句子被分类为正常（Normal）。相反，如果某些三元组共享主体和对象，则句子被认为是实体对重叠（EPO）。例如，三元组（Berlin, Capital, Germany）和（Berlin, Located_in, Germany）具有相同的主体“Berlin”和对象“Germany”。在单实体重叠（SEO）情况下，一些三元组之间只共享一个实体。例如，三元组（Jack, Born_in, Washington）和（Washington, Capital, the United States）都涉及“Washington”。在实际场景中，数据经常表现出SEO的变化，尤其是在产品评论中。我们将这种变化称为单主体重叠（SSO），其中句子中的所有三元组共享相同的主体。例如，三元组（pure cotton fabric, Style_Texture, skin-friendly）、（pure cotton fabric, Style_Texture, comfortable）和（pure cotton fabric, Characteristic, renewable）都共享主体“pure cotton fabric”。

尽管上述模型在关系提取任务中取得了良好的结果，但它们都处理关于事实的描述性文本，而没有解决评论文本的提取问题。关于评论关系提取及其后续下游任务的积极效益的研究尚缺乏。与常见文本类型相比，评论文本格式需要对多类型关系有更细致的感知，并在网络层更加强调分类任务。传统的单网络架构难以准确完成这项任务，而多网络层则面临时效性问题。

为了解决上述挑战，我们提出了一种基于产品评论关系提取的知识融合方法。该方法包括四个主要组件：（1）词性注意力（POSA）模块，用于识别句子中的所有潜在主体和关系指示符；（2）混合专家门控融合（MEGF）模块，用于融合和增强提取出的主体和关系指示符的编码特征；（3）关系-对象提取（ROE）模块，根据指定的关系提取与识别出的主体最可能相关的对象；（4）知识融合（KF）模块，利用动态权重进行实体对齐。我们使用检测到的主体和关系指示符作为输入，预测每个主体-关系对的可能对象，如果没有找到有效的三元组，则返回无对象。我们的方法结合了门控融合机制，将主体和关系特征与更广泛的句子上下文相结合。该机制增强了关系和实体之间的交互，并减少了无关噪声特征的引入。我们将结果应用于领域知识图谱融合，获得了良好的结果。

主要贡献如下：

•

我们提出了一种基于产品评论关系提取的知识融合方法，该方法整合了关系提取的各种组件，并应用于特定领域以完成知识图谱，证明了其可行性。

•

我们引入了一种特定的引导词提取技术，用于捕捉主体-对象连接并推断三元组之间的关系。

•

我们提出了一个多尺度混合专家模型，用于指导每种关系并最小化关系之间的交互。

•

我们从两个角度评估了我们的方法：一个是两个通用数据集上的关系提取性能，另一个是特定领域中的知识图谱融合，两者都取得了良好的结果。

相关工作

相关工作

当前流行的关系提取方法分为四类：

实体-关系非关联获取方法。例如，Zelenko等人[12]应用核方法从非结构化文本中提取关系。Zhou等人[13]研究了将词汇、句法和语义知识整合到基于特征的SVM中进行关系提取的方法。Nayak等人[5]回顾了基于管道的联合提取方法，这些方法将实体提取和关系提取分开

方法论

我们模型的结构如图2所示：

•

Bert编码器：给定一个具有主体-谓语-对象或主体-链接-谓语结构的句子，BERT用于对句子进行编码，生成一组句子表示向量。

•

POSA模块：该模块对编码后的句子进行上下文分析，以提取与主体和关系引导词相关的特征。

•

MEGF模块：该模块对主体信息和关系引导词进行门控融合，增强

实验

在本节中，我们将介绍实验设置和结果的详细信息，包括数据集、参数设置、基线模型、评估和主要结果。

讨论

在本节中，我们根据单词数量、三元组类型和数据集中的三元组数量对模型进行了测试。我们分析了三元组组件及其组合与基线模型结合的优缺点。随后，我们进行了消融实验以验证主要模块之间的相关性。最后，进行了案例研究。

结论

我们提出了一种基于产品评论关系提取的知识融合方法。与之前的方法不同，我们将评论文本的信息提取作为主要任务，模型以关系引导词作为关系提取过程中的基本特征。主体和关系引导词经过门控融合，专家学习与它们的特征相结合，使模型能够使用融合的特征提取相应的对象。

伦理批准

本文不包含任何作者参与的人类或动物实验。

作者声明

尊敬的编辑：

我们签署人声明，这篇题为“基于产品评论关系提取的知识融合方法”的手稿是原创的，之前未发表，目前也没有在其他地方考虑发表。

我们确认所有列出的作者都已阅读并批准了该手稿，并且没有其他符合作者资格标准但未列出的人。我们进一步确认手稿中列出的作者顺序是

CRediT作者贡献声明

Cao Zhang：撰写——审阅与编辑、撰写——初稿、可视化、软件。Ning Zhang：监督、资金获取、概念化。Jun Xiang：监督、资源。Ruru Pan：形式分析、数据管理。

Cao Zhang：他是江南大学纺织科学与工程专业的博士，2023届毕业生，主要研究兴趣包括织物评论关系提取、多模态织物知识图谱和跨模态检索。