基于课程对抗学习与自适应增强的联合事件抽取方法(CADAEE: A Joint Event Extraction Method Based on Curriculum Adversarial Learning and Adaptive Enhancement)

《Symmetry》：A Joint Event Extraction Method Based on Curriculum Adversarial Learning and Adaptive Enhancement

　　

事件抽取(Event Extraction, EE)是自然语言处理(NLP)的核心任务，旨在从非结构化文本中识别触发词(Trigger)与论元(Argument)。在金融领域，高密度事件、论元重叠(Argument Overlap)及语义歧义带来显著挑战。研究人员提出CADAEE——一种融合课程对抗学习(Curriculum Adversarial Learning)与增强自适应层的联合抽取框架。课程对抗学习动态调整训练难度，提升模型在复杂样本上的鲁棒性与泛化能力；增强自适应层引入可学习的角色偏置嵌入(Role-Bias Embedding)建模触发词与论元间的语义依赖，并利用多头注意力机制(Multi-Head Attention)捕捉多样化特征交互。在FewFC与DuEE-Fin数据集上的大量实验证明了CADAEE的优越性，触发词与论元分类F1值分别达FewFC上80.1%和73.5%、DuEE-Fin上88.8%和71.8%。消融实验验证了各模块的协同贡献，表明CADAEE在复杂重叠事件场景下可提供鲁棒且准确的抽取，凸显了将课程学习与自适应的角色感知增强相结合用于金融事件抽取的价值。

论文解读：基于课程对抗学习与自适应增强的金融领域联合事件抽取方法研究

研究背景与意义

事件抽取(Event Extraction, EE)是从非结构化文本中获取结构化事件信息的核心技术，在金融舆情分析、风险预警及投资决策等下游应用中至关重要。传统流水线(Pipeline)方法存在错误传播问题，联合抽取(Joint Extraction)虽能缓解此问题，但在金融文本中仍面临严峻挑战：金融文本具有高事件密度、句式复杂、同一实体参与多个事件导致论元重叠(Argument Overlap)及共享触发词等现象，现有基于Transformer或大型语言模型(Large Language Model, LLM)的方法往往隐式处理重叠结构且缺乏针对金融领域噪声的课程学习(Curriculum Learning, CL)与对抗鲁棒性机制。为此，研究人员在OneEE（基于平行网格标注(Parallel Grid Labeling)的联合抽取框架）基础上提出CADAEE (Curriculum Adversarial Learning and Dynamic Adaptive Enhancement for Event Extraction)，通过触发词数量驱动的阶段性课程对抗训练(Trigger-Count-Based Curriculum Adversarial Training)与融入可学习角色偏置嵌入(Role-Bias Embedding)的增强自适应模块(Enhanced Adaptive Module)来显式建模重叠论元关系并提升模型鲁棒性。该论文发表于《Symmetry》。

主要关键技术方法

研究人员选用FewFC（中文少样本细粒度事件抽取数据集，含约22%重叠事件句）与DuEE-Fin（中文金融事件抽取数据集，过滤超过512 Token文档及跨句论元后得句子级子集）作为实验数据。以BERT-base-Chinese为文本编码器，采用平行网格标注范式将EE解耦为Span边界预测（双仿射分类器Biaffine Classifier打分）与触发词-论元角色分类（多维角色张量预测），损失函数为多标签二元交叉熵(Multi-Label Binary Cross-Entropy)。核心创新含两点：(1) 课程对抗模块——按样本触发词数|T_c(d)|分阶采样（单触发词→≤2触发词→全量），对抗扰动强度ε(t)随训练轮次呈分段衰减，使用快速梯度法(Fast Gradient Method, FGM)沿L₂归一化梯度方向注入表征层扰动；(2) 增强自适应模块——在多头注意力计算前将全局共享可学习角色偏置嵌入R_bias加至Query向量，辅以双层门控融合(Gating Fusion)动态调节上下文表示、事件类型嵌入(E)与目标事件类型嵌入(T)的信息流。超参数经验证集优选（Dropout=0.5，LR=1×10^?4），对照基线含BERT-Softmax、BERT-CRF(-Joint)、PLMEE、MQAEE、CasEE、OneEE及DHG-EE，并与LLM（零/少样本Few-Shot）对比。

研究结果

4.2.1 Comparison with Mainstream Baseline Models（主流基线模型对比）

在FewFC与DuEE-Fin上，CADAEE在触发词识别(Trigger Identification)F1达89.4%(FewFC)与89.9%(DuEE-Fin)，触发词分类(Trigger Classification)F1达79.8%(FewFC)与88.8%(DuEE-Fin)，论元识别(Argument Identification)F1达75.5%(FewFC)与73.4%(DuEE-Fin)，论元分类(Argument Classification)F1达73.5%(FewFC)与71.8%(DuEE-Fin)，均超越或持平最优基线OneEE与DHG-EE。研究表明课程对抗学习与角色偏置增强提升了细粒度类别区分及重叠论元处理能力。

4.2.2 Performance Analysis on Overlapping and Non-Overlapping Events（重叠与非重叠事件性能分析）

将FewFC测试集划分为单事件(Normal)与多事件重叠(Overlap)子集。Normal子集各模型表现接近；Overlap子集传统序列标注方法论元分类F1骤降（BERT-CRF从72.8%降至58.4%），而CADAEE仅下降2.0%（论元分类F1保持71.9%）且优于OneEE的降幅3.3%。结论：课程对抗循环与角色偏置机制有效缓解了密集论元共享带来的性能退化。

4.2.3 Comparison with Large Language Models（与大语言模型对比）

在零样本与少样本(Few-Shot, 3例演示)设置下对比Llama3.1-8B、DeepSeek-7B、Qwen3-14B等LLM（评估采用宽松子串匹配Substring Matching）。即便在对LLM放宽评判标准情况下，CADAEE仍在所有子任务上取得最高F1。少样本演示可矫正LLM过生成但Qwen3-14B出现过度约束导致召回下降。结论：CADAEE通过结构化模块同时获得高精确率(Precision)与高召回率(Recall)，不依赖Prompt工程。

4.2.4 Analysis of Computational Overhead and Adversarial Strategy Selection（计算开销与对抗策略选择分析）

对比无对抗、FGM与PGD(Projected Gradient Descent, 3步迭代)。FGM每轮耗时约基线1.81倍（800s vs 440s），PGD达2.75倍。多步PGD在金融EE任务中增益微小且开销大，FGM在计算效率与鲁棒性间取得最优平衡，故采用FGM实现课程对抗。

4.2.5 Ablation Study（消融实验）

单独移除课程对抗学习(Curriculum Adversarial Learning, CAL)或增强自适应层(Enhanced Adaptive Layer, EAL)均导致全子任务F1下降：去CAL论元分类F1降至72.4%，去EAL论元分类F1降至72.5%。两者联合作用效果最佳，证明模块协同贡献。

4.2.6 Fine-Grained Ablation on the Enhanced Adaptive Module（增强自适应模块细粒度消融）

分别替换为单头注意力(w/o Multi-Head)、去除角色偏置(w/o Bias)、去除门控融合(w/o Gate)。去除多头致触发词识别F1降至88.1%；去除角色偏置致触发词分类F1降至78.7%；去除门控对论元分类影响最大(F1降至72.7%)。各子组件均具独立必要性。

4.2.7 Qualitative Case Analysis（定性案例分析）

案例显示CADAEE正确解析"Tesla"在Investment与Acquisition事件中分别作投资方与收购方之共享论元角色，克服OneEE角色误配及BERT-CRF漏判；嵌套实体案例中CADAEE较基线更优但仍存将全局显著实体(Microsoft)误赋子公司事件角色的局限，指明需强化深层嵌套结构推理。

4.2.8 Hyperparameter Sensitivity Analysis（超参数敏感性分析）

Dropout率在0.5时最优（过低致微过拟合，过高致信息丢失）；学习率在1×10^?4时峰值，即使升至5×10^?4论元分类F1仍保持73.0%，表明框架具结构鲁棒性。

4.2.9 Analysis of Curriculum Difficulty Metrics（课程难度度量指标分析）

对比随机(None)、句长(Sentence Length)、句法复杂度(Syntactic Complexity)与所提触发词计数(Trigger Count)。触发词计数指标全面优于其余三者，论元分类F1较None提升4.6%、较句长提升1.8%、较句法复杂度提升5.4%，验证其对金融文本事件密度与论元交互的任务对齐性。

4.2.10 Computational Overhead Analysis（计算开销增量分析）

增强自适应模块仅增约4.3M参数量，推理速度210.5句/秒；双仿射(Biaffine)解码因L×L令牌对交互降至136.2句/秒，但换取重叠论元处理性能显著提升，额外开销可接受。

4.2.11 Stability and Reproducibility Analysis（稳定性与可复现性分析）

换用不同随机种子(42, 2025, 2026, 2027)重复实验，四子任务F1标准差均较低，证明框架对参数初始化不敏感，具良好复现性。

讨论与结论翻译

研究人员提出CADAEE——一种集成课程对抗训练与含可学习角色偏置嵌入之增强自适应模块的金融领域联合事件抽取模型。在FewFC与DuEE-Fin数据集上实验表明CADAEE于触发词识别、触发词分类、论元识别及论元分类四子任务中一致优于强基线，验证了其鲁棒性与泛化能力。课程对抗训练动态调制训练难度增强了模型对复杂样本的鲁棒性；增强自适应模块注入显式角色偏置先验，精确建模触发词与论元间语义依赖。消融实验确认了两模块各自有效性及协同贡献。当前局限含受限于预定义模式(Schema)故对域外及零样本事件抽取尚存挑战，且双仿然分类器密集令牌对交互与对抗训练引入计算开销，限制海量流式文档实时处理扩展性。未来工作将探索跨句建模与事件链(Event Chain)以捕获事件间因果关系，基于文本提示或自然语言描述研究零样本范式应对未见事件类型，并致力于降低计算开销及跨语言适配以提升实际部署能力。