基于语义分解的领域平衡方法在专利相关性评估中的应用 王飞、 周阳、 陈建军、 张腾

《Information》：Towards Domain Balance Based on Semantic Decomposition for Patent Relevance Assessment Fei Wang, Yang Zhou, Jianjun Chen and Teng Zhang

　　

摘要

最近的研究越来越多地利用预训练的语言模型（PLMs）来进行专利相关性评估。在实际应用中，查询专利和候选专利是否属于同一技术领域是相关性评估的关键因素。现有的基于PLM的重新排序算法通常忽略领域信息，导致语义建模对领域不敏感。特别是，具有不同领域标签的查询和候选专利之间的分布差异会引入领域偏见。为了解决这些问题，我们提出了一种领域敏感的语义分解网络（ D S S D N e t' data-speech-attached="true" data-semantic-braille="????????????" data-braille-attached="true" has-speech="true"> D S S D N e t' data-semantic-summary=" 包含7个因素的乘积" data-semantic-braille="????????????"> D' data-semantic-summary=" 标识符" data-semantic-braille="??">??? 标识符" data-semantic-braille="??">??? 标识符" data-semantic-braille="??">??? 标识符" data-semantic-braille="??">??? 标识符" data-semantic-braille="??">??? 标识符" data-semantic-braille="?">??? 标识符" data-semantic-braille="?">??
该网络包括自然语义分解、多字段融合回归以及带有硬负样本挖掘的成对排序，用于专利相关性评估。它接受一个查询专利和一个候选专利，生成它们的技术表示，并通过具有三个约束的门控机制将这些表示分解为领域敏感部分和领域不敏感部分。此外，设计了一种领域平衡的焦点损失（domain-balanced focal loss）来消除领域敏感部分中存在的领域偏见。多字段融合回归通过结合领域敏感部分和领域不敏感部分以及领域信息来建模整体技术语义。至于带有硬负样本挖掘的成对排序，它通过增加正样本和负样本之间的差距来从整体排名角度优化重新排序目标。在公开的CLEF-IP 2011数据集上的实验表明，在召回率（Recall）上提高了2.5–17%，在平均精度（MAP）上提高了2–7%，在PRES指标上提高了3–15%，在不同截断水平上都优于强大的基线算法。这些结果表明，显式建模领域敏感和领域不敏感的语义是减轻领域偏见和提高专利重新排序性能的有效方法。