用于零样本跨语言立场检测的主题框架引导数据增强

《Neurocomputing》：Thematic frame guided data augmentation for zero-shot cross-lingual stance detection

　　

• 聚焦于具有挑战性的跨语言和零样本场景下的立场检测。• 受框架理论启发，提出了一种新颖的主题框架引导的数据增强方法。• 构建主题框架作为跨语言的结构化通用表示。• 通过竞争方法和基于大语言模型的实验验证了我们方法的有效性。

引言
识别社交媒体上人们的态度已成为文本挖掘和社交媒体分析中日益重要的课题。立场检测旨在从给定文本中自动确定人们对有争议目标的立场（即支持、反对或中立）[4]。近年来，该领域获得了越来越多的研究关注，可广泛应用于情感分析、真实性核查、市场分析、决策制定、公共安全和社会管理等广泛领域 [2]、[22]。传统上，立场检测主要在单语言环境下进行，并分为三类：域内立场检测 [4]、[11]、[31]，跨目标立场检测 [40]、[43]，以及零样本立场检测 [3]、[10]、[28]、[48]。

现有的立场检测研究通常集中于英语数据集 [33]。与英语中丰富的标注数据相比，其他低资源语言往往缺乏足够的训练数据来构建高质量模型，这限制了立场检测在多语言环境和人口群体中的实际应用。为解决低资源语言中的数据稀缺问题，跨语言立场检测（CLSD）[32]、[36] 利用高资源源语言数据训练模型，并迁移知识以提升目标语言上的性能。当前，CLSD 方法严重依赖目标语言中的人工标注数据或未标注数据。[32]、[50] 开发了基于对比学习的方法，利用目标语言中的标注数据对齐跨语言的立场表示。为了更好地利用 CLSD 中的未标注数据，[51] 通过双知识蒸馏框架将跨语言和跨目标知识迁移到目标语言中。

在实际应用中，跨语言立场检测在极端数据稀缺场景下面临最大挑战，在此类场景中几乎没有目标语言数据可用于跨语言任务。零样本跨语言立场检测 [36] 旨在解决这种情况下的立场检测问题，即目标语言中没有可用的训练数据（包括人工标注数据和未标注数据）。已有两项相关工作使用基于知识的方法 [14]、[49] 提出了相关方案。与直接解决零样本 CLSD 不同，[14] 首先提出一种经验方法，利用基于情感的语料预训练多语言语言模型，然后微调模型以将知识迁移到目标语言。他们的工作总体上优于多个基线模型。[49] 开发了一种基于大语言模型的显式知识提取方法，用于获取零样本 CLSD 的外部立场知识。尽管他们的方法在基准数据集上取得了新的最先进（SOTA）结果，但在大语言模型生成知识的提取和验证方面带来了相当大的工作量。

与先前零样本 CLSD 中提出的知识密集型方法不同，一种更为直接的数据驱动的计算替代方案是目标语言数据增强，其核心在于利用合成的目标语言数据来弥合零样本 CLSD 中的语言差距。由于目标语言中不存在人工标注数据或未标注数据，此处数据增强的主要挑战是如何从源语言数据自动生成高质量的目标语言数据。因此，与仅使用源语言数据进行训练的零样本 CLSD 相关方法不同，基于数据增强的方法依赖于外部模型生成的合成目标语言数据。此前，针对单语言立场检测提出了一些数据增强方法，如基于掩码语言模型的数据增强 [25]、[44] 和基于生成模型的数据增强 [26]、[37]、[54]。然而，由于源语言和目标语言之间显著的数据分布差异导致难以对齐与目标相关的立场表示，这些方法难以很好地适应跨语言立场检测。

事实上，作为人类交流形式的意见性立场表达遵循公共舆论传播中的对应理论原则，以有据可依的框架理论 [6] 为代表。在框架理论中，通用框架广泛适用于各种不同话题，且在不同时间和不同语言文化语境中相对稳定 [8]。因此，它们作为不同语言和文化背景下公众共享的舆论背后的统一交际结构和编码方案发挥作用。情境性框架和主题性框架是两种基本类型的通用框架：情境性框架关注具体案例或离散事件，而主题性框架则关注在一般和更广泛背景下关注的问题和事件（[18]，引言）。对一个议题的初始框架集是通过归纳法识别出来的，以创建与主题相关的编码方案，通常通过对大众媒体来源进行内容分析来完成（[6]，传播中的框架）。

图 1 给出了一个示例，展示了选举领域中与目标立场文本表达相关的主题性框架。在跨语言立场检测的语境中，问题/事件对应于立场检测中的目标；为一个（目标）对象构建的主题性框架及其关联主题和它们之间的关系通常从丰富的源语言数据中挖掘而来，这指明了在跨语言语境中共享的立场推断编码方案。图 1 左侧展示了三个关于（目标）特朗普的社交媒体文本，其立场分别为反对和支持，其中（中间）主题包括 MAGA、贸易和移民政策。图 1 右侧给出了目标特朗普的主题性框架，包含相关主题及对应的目标-主题关系（即从文本内容中挖掘出的正面和负面相关性）。此类主题性框架（包含主题关系）可被利用作为通用的表示方案，以在零样本 CLSD 中促进目标语言数据生成，并帮助弥合跨语言差距。

在本文中，我们提出了一种新颖的主题框架引导的数据增强方法，用于零样本跨语言立场检测。我们的方法首先通过主题建模从源语言数据中为每个目标提取中间主题，从而构建每个目标的主题性框架。然后，通过挖掘文本中表达的目标立场与主题态度之间的相互关系，检测目标与其每个关联主题之间的正面和/或负面相关性。在以构建好的包含目标-主题关系的主题框架为指导的情况下，我们的方法进一步选择正面和负面相关性的样本作为增强目标语言数据的参考。最后，通过指导大语言模型，按照主题框架中指示的目标-主题关系生成与立场相关的目标语言数据。

我们工作的主要贡献总结如下：
• 受公共传播中框架理论启发，我们为零样本 CLSD 提出了一种新颖的主题框架引导的数据增强方法 TFDA，该方法利用主题框架作为通用结构表示来弥合零样本场景中的语言差距。
• 我们提出的 TFDA 通过检测目标立场与主题态度之间的相互关系来挖掘带有主题关系的中间主题，用于构建主题框架，这作为基于大语言模型的目标语言数据增强的指导。
• 在三个基准数据集上的实验结果验证了我们提出的方法在增强预训练模型和大语言模型监督微调以进行零样本跨语言立场检测方面的有效性，并证明了其相对于竞争基线方法的优越性。

章节摘要

相关工作
本节将对跨语言立场检测和零样本立场检测的相关研究进行全面回顾。然后，我们将回顾与立场数据增强相关的工作。

传统上，立场检测研究是在域内、跨目标和零样本设置下进行的。域内立场检测旨在训练模型以识别人们对预定义目标的立场 [4]、[11]、[17]、[35]、[41]。一些工作纳入辅助任务以增强立场检测性能。

问题定义
对于零样本跨语言立场检测，源语言中的训练数据与特定领域相关联，表示为 ，其中 ， 是第 - 个样本的预定义目标和文本， 是立场标签。源语言数据中有 个目标 。对于每个目标 ，我们假设存在 个中间主题，表示为 ，其中 是 的第 - 个中间主题。最初，关于目标 的主题框架定义为 。目标与主题之间的主题关系

提出的方法
我们提出了一种用于零样本跨语言立场检测的主题框架引导的数据增强方法 TFDA。我们方法的整体结构如图 2 所示，包含四个模块：主题框架构建、主题关系挖掘、主题框架引导的数据增强和立场分类。首先，主题框架构建通过短语级主题建模从源语言数据中为每个目标提取中间主题。然后，基于构建好的

实验
在本节中，我们验证了我们提出的方法 TFDA 在零样本跨语言立场检测中的有效性。我们展示了在基准数据集上的实验结果，并进行了详细分析和案例研究。

结论
与已被充分研究的单语言立场检测相比，本文聚焦于零样本跨语言立场检测这一具有挑战性的任务，其中低资源目标语言处于极端数据稀缺设置中。为应对这一挑战并弥合立场检测中的语言差距，我们以框架理论中识别的主题框架作为通用计算表示方案，提出了一种基于框架理论的、新颖的主题框架引导的数据增强方法 TFDA。

CRediT 作者贡献声明
张瑞克：撰写——初稿，验证，软件，方法论，调查，形式分析，概念化。孔清超：撰写——审阅与编辑，资源，项目管理，调查，形式分析。毛文吉：撰写——审阅与编辑，监督，资金获取，形式分析，概念化。

利益冲突声明
作者声明他们没有已知的竞争性经济利益或个人关系，这些关系可能已影响本文报道的工作。

张瑞克于 2020 年获得大连理工大学软件工程学士学位，于 2025 年获得中国科学院自动化研究所模式识别与智能系统博士学位。目前，她是 OPPO 公司的资深算法研究员。她的研究兴趣包括自然语言处理、文本数据挖掘和推荐系统。

张瑞克 | 孔清超 | 毛文吉