LiDAR：基于动态锚定的列表式邻域排序用于事件表示学习

《Information Processing & Management》：LiDAR: Listwise Neighborhood Ranking with Dynamic Anchoring for Event Representation Learning

　　

事件表示学习必须支持两个目标：细粒度的局部判别性和全局结构一致性。近期的对比学习方法主要依赖于孤立的局部比较，并且通常将质量各异的事件对过于均匀地对待，这可能会削弱局部判别性并扰乱更广泛的事件空间结构。为了解决这个问题，我们提出了面向事件表示学习的列表式邻域排序与动态锚定方法（LiDAR），这是一个由两个协调组件构成的框架。列表式邻域排序（LNR）用邻域级别的排序取代了孤立的局部比较，通过对精炼的正样本、具有欺骗性的困难负样本和普通负样本进行排序，来提高在高度可混淆案例中的区分度。锚定条件拓扑稳定化（ACTS）识别动态可靠的结构锚点并对其施加正则化，以减少训练过程中的全局结构干扰。我们在4,029,877个不同事件上训练了LiDAR，并在两个具有挑战性的事件判别基准和一个是传递性结构评估基准上对其进行了评估。LiDAR在Hard基准上达到了86.1%的准确率，在Hard-Ext基准上达到了84.3%。与领先的大语言模型（LLM）基线相比，这在Hard基准上对应着适度的提升（+0.9个点），在更大的Hard-Ext基准上则对应着更明显的提升（+3.9个点）。在Transitive基准上，LiDAR保持了竞争力，Spearman相关系数为0.844，且未依赖LLM生成的合成数据。进一步的分析支持了所提出的设计，并表明LNR和ACTS相辅相成。

**引言**

事件表示学习旨在将离散事件（通常以主语-谓语-宾语三元组的形式表示）映射到一个连续的表示空间中（Feng等，2025；Gao等，2022；Hu等，2024）。在该空间中，每个事件被编码为一个捕获其语义含义的稠密向量。高质量的事件表示对于各种以事件为中心的应用至关重要。例如，事件检索和事件知识图谱构建需要模型识别语义相似的事件，同时避免在词汇相似但语义不同的事件之间建立错误的链接（Guan等，2023；Yuan等，2023；Zhang等，2024）。剧本事件预测和叙事建模需要模型基于周围事件上下文选择合理的事件（Rezaee & Ferraro，2021），而因果推理需要模型判断一个事件是否合理地导致另一个事件（Man等，2024）。因此，这些应用需要表示方法能够在区分具有词汇混淆性的事件的同时，保持相关事件之间的有意义关系。

因此，有效的事件表示空间必须满足两个具有挑战性的标准。第一，它应该表现出细粒度的局部判别能力，即对语义相关的事件赋予高相似度，同时避免由于表面词汇重叠而产生的虚假相似度。如图1所示，"police arrest suspect"（警察逮捕嫌疑人）应该更接近于语义对齐的事件，如"officer apprehend criminal"（警官抓捕罪犯），而不是更接近于具有误导性但词汇相似的事件，如"suspect attack police"（嫌疑人袭击警察）。第二，它应该通过在扩展的事件关系上保持连贯的相似度模式来维持全局结构一致性。例如，如果"Apple acquires startup"（苹果公司收购初创公司）与"startup integrates into iOS"（初创公司整合进iOS）有意义地相关，而后者又与"Apple improves iOS"（苹果公司改进iOS）相关，那么表示空间应该将此链表示为一个连贯的进展，即相邻事件保持接近，而两个端点也通过它们的共同联系保持相对接近。

事件表示学习已从依赖关系或符号引导的方法演变为更近期的对比学习方法。早期的研究通常通过纳入预定义的关系结构、话语关系、精心构建的图谱或外部符号资源来改善事件语义（Ding等，2015；Granroth-Wilding和Clark，2016；Modi，2016；Ning等，2018；Weber等，2018）。这些方法提供了超越原始语料共现的有用指导，能够更好地捕获事件或事件链之间的结构化依赖关系。然而，它们通常依赖于预定义的关系模式、精心构建的资源或显式标注信号，这使它们在大规模开放域事件表示学习中不够灵活。

近期的进展日益依赖于对比学习（Chen等，2020；Gao等，2021；Jing等，2021；Wang和Isola，2020），这提供了一种更可扩展的方式，可以直接从大型语料中获取事件表示，而无需人工构建关系资源。在事件表示学习中，SWCC（Gao等，2022）是该方向上的一个重要步骤，因为它将弱监督对比学习与聚类信号相结合，并成为后续工作的强基线。在此基础上，后续方法通过更丰富的正样本构建、更困难的负样本建模或更具信息量的增强来加强局部学习。例如，MulCL（Zheng、Cai、Liu等，2022）和MLSCL（Wei等，2023）使用了多结构增强，PromptCL（Feng等，2023）引入了基于提示的增强，MCTM（Hu等，2024）利用了多粒度事件视图，而LLM-CL（Feng等，2025）则通过大语言模型生成的合成数据提高了局部判别能力。

**动机。** 尽管近期的对比学习方法大幅改进了事件表示学习，但仍有几个问题尚未得到充分探索：

- 在主要是无监督或弱监督的设置中，局部对比学习通常涉及多个质量差异显著的比较候选项。尽管存在这种情况，许多方法仍然依赖孤立的成对比较，未能充分区分更可靠的邻居与较弱或具有误导性的邻居。因此，细粒度的局部判别性变得不够稳定。

- 增强局部分离并不总是能保持更广泛的结构一致性（Jing等，2021；Robinson等，2021）。如图2所示，推开一个具有误导性的邻近事件可能细化局部边界，但它也可能扰乱周围的事件链，从而损害所学事件空间的整体结构组织。

- 当前方法通常增强局部对比信号或纳入额外的监督。然而，它们在一个框架内同时改进局部判别并保持更广泛的事件级结构的策略有限。

**研究目标。** 本研究旨在通过解决细粒度局部判别性和更广泛的结构一致性来改进对比事件表示学习：

- 通过更好地区分更可靠的对比比较与较弱或具有误导性的比较来提高细粒度的局部判别性。

- 支持更广泛的结构一致性，使局部细化不会过度扰乱有意义的事件级组织。

- 评估统一框架是否能够共同增强困难事件判别和传递性结构相似度。

为应对这一挑战，我们提出了面向事件表示学习的列表式邻域排序与动态锚定方法（LiDAR），这是一个同时针对事件表示学习中的困难局部判别和更广泛结构一致性的框架。其局部组件——列表式邻域排序（LNR），通过学习锚定中心候选邻域内的相对顺序，超越了孤立的成对对齐。对于每个锚定事件，LNR使用包含PSPR精炼正样本、具有欺骗性的困难负样本和普通批内负样本的候选邻域。该设计鼓励模型为可靠的语义邻居分配比较弱或具有误导性的局部替代方案更高的分数，从而提高细粒度的局部判别性。在更广泛的结构层面，LiDAR采用锚定条件拓扑稳定化（ACTS）来支持结构一致性，通过在局部优化期间抑制代表性事件空间区域的过度漂移来实现。其动机在于，并非所有事件作为结构参考点都同样具有信息量：在原型诱导区域内具有稳定轨迹和中心位置的事件比噪声或边界实例提供了更可靠的稀疏脚手架。因此，ACTS识别这些结构锚点并将其用作软结构正则化的参考点，而不是试图均匀地约束整个事件空间。

LiDAR的有效性源于其两个组件在统一优化过程中的互补角色：LNR通过学习锚定中心候选邻域内的相对顺序来提高局部判别性，而ACTS通过抑制代表性锚定区域的过度漂移来支持更广泛的结构一致性。我们在从《纽约时报》Gigaword语料库中使用Ollie（Schmitz等，2012）提取的4,029,877个事件三元组上训练LiDAR。所学表示在困难事件判别和传递性相似度基准上进行了评估，在困难局部判别上表现出强大的性能，在面向结构一致性的评估上表现出具有竞争力的性能。

总之，本文的主要贡献如下：

- 我们提出了LiDAR，一个统一的事件表示学习框架，同时针对事件表示空间中的困难局部判别和更广泛的结构一致性。

- 我们提出了列表式邻域排序（LNR），它通过学习锚定中心候选邻域内的相对顺序超越了成对比较。LNR通过将PSPR精炼的正样本与具有欺骗性的困难负样本和普通批内负样本进行对比，来增强细粒度的局部判别性。

- 我们提出了锚定条件拓扑稳定化（ACTS），一种从动态训练过程中选择稳定且具有代表性的结构锚点的方法。这些锚点作为稀疏脚手架，用于在局部优化期间抑制代表性事件空间区域的过度漂移。

- 我们在困难事件判别、传递性相似度和剧本事件预测上评估了LiDAR。LiDAR在困难局部判别上表现出强大的结果，特别是在更大的Hard-Ext基准上，同时在传递性相似度评估上保持了竞争力。消融和诊断分析进一步揭示了性能提升的来源以及局部排序和基于锚点的稳定化如何相辅相成。

本文其余部分组织如下。第2节回顾了相关工作，涵盖使用关系或符号引导的事件表示方法和近期的对比学习方法。第3节提出了问题形式化和LiDAR框架。第4节描述了实验设置，第5节报告了主要结果。第6节提供了LiDAR改进之处及其组件如何交互的诊断分析。第7节讨论了这些发现更广泛的方法论意义。第8节介绍了本工作的局限性和未来方向。最后，第9节对本文进行了总结。

**相关章节摘要**

**相关工作**

我们从两个角度回顾先前的工作：具有关系或符号引导的事件表示方法，以及用于事件表示学习的近期对比学习方法。

**方法论**

在本节中，我们形式化了事件表示学习并提出了LiDAR。如图3所示，LiDAR首先从训练集中构建锚定中心的候选邻域，包括PSPR精炼的正样本和具有欺骗性的困难负样本。然后通过两个互补的组件学习事件表示：(1) 列表式邻域排序（LNR），通过在共享候选邻域内建模相对顺序来提高细粒度的局部判别性（第3.2节）；

**实验设置**

本节描述了用于评估LiDAR的实验设置。我们首先介绍训练数据和评估任务，包括困难事件相似度、传递性相似度和剧本事件预测。然后我们报告了训练-评估重叠检查，以评估训练语料和评估基准之间的直接对级别泄漏。最后，我们描述了基线模型，报告了LiDAR流水线的计算成本，并提供了实现细节。

**结果**

我们将实证结果分为四个部分呈现。首先，我们将LiDAR与先前的事件表示学习基线在主要内在基准上进行比较，包括困难事件判别和传递性相似度。其次，我们评估了在Hard和Hard-Ext上成对准确率提升的统计可靠性。第三，我们评估了所学表示在零样本排序和冻结编码器探测下是否迁移到MCNC上的剧本事件预测。最后，我们进行

**诊断分析**

我们进行诊断分析，以便更好地了解LiDAR在总体基准分数之外的行为。这些分析围绕四个问题组织。第一，LiDAR在哪些地方改进了困难局部判别？我们使用基于BERT(InfoNCE)的困难度分层来检查Hard和Hard-Ext。第二，LiDAR在Transitive上的表现如何，这是一个与二元困难相似度评估不同的基于排名的基准？我们分析了基于BERT(InfoNCE)的排名差距组中的性能。第三，能否

**方法论启示**

从理论上讲，LiDAR表明细粒度的局部判别性和更广泛的结构一致性不应被视为完全分离的目标。局部细化有助于解决具有挑战性的判别案例，但它不会自动保持事件空间中更广泛的邻域关系。兼容性分析进一步表明，观察到的稳定化效果取决于伴随的局部学习目标：当局部

**局限与未来方向**

LiDAR目前使用来自单一新闻语料库的主语-谓语-宾语三元组运行，由于Open IE提取（Schmitz等，2012）的限制以及该领域特定的事件分布，这对其进行了限制。将LiDAR扩展到包括其他体裁，如生物医学文本或社交媒体，将有助于评估其在不同领域中的鲁棒性。同样，我们当前的评估侧重于困难相似度、传递性相似度和剧本事件预测。

**结论**

本文探讨了事件表示学习中局部判别与全局结构一致性之间的张力。我们提出了LiDAR，一种将列表式邻域排序（LNR）与锚定条件拓扑稳定化（ACTS）相结合的方法。LNR旨在对PSPR精炼的邻域和具有欺骗性的困难负样本学习分级的局部顺序。同时，ACTS旨在防止结构稳定事件在优化过程中的过度漂移。实验

**CRediT作者贡献声明**

Yi Xiang：撰写——审阅与编辑，撰写——初稿，可视化，验证，方法论，调查，形式化分析，数据整理，概念化。Lishuang Li：撰写——审阅与编辑，验证，监督，概念化。

秦雪阳：撰写——审阅与编辑、验证、监督。冯玉博：撰写——审阅与编辑、验证、形式分析。致谢：无。易翔|李丽双|秦雪阳|冯玉博