面向数据受限对话摘要的无监督领域自适应方法

《Scientific Reports》：Unsupervised domain adaptation for dialogue summarization with augmented heuristic intermediate domains

　　

摘要

对话摘要是智能对话系统的重要组成部分，具有重要意义。虽然端到端摘要模型表现出强大的性能，但其成功依赖于获取规模充足的标注数据集。这一需求带来了显著的获取成本，尤其是在对话摘要方面尤为突出。本研究探讨了一种具有挑战性的对话摘要场景，即无可用标注摘要且数据可用性有限的情形，从而拓宽了文本摘要技术的适用范围和实用性。为此，我们提出了一种用于对话摘要的无监督领域自适应方法，该方法充分利用丰富的外部数据（如新闻领域数据）。针对对话对话（通常具有非正式性、重复性和多方互动特征）与标准文档（通常正式且简洁）之间显著差异的问题，本工作提出了一种比率自适应混合方法（ratio-adaptive mixup）。该技术通过生成多个推断出的过渡领域来桥接源域与目标域，从而增强数据增强效果。在启发式表示和语言模型判别器的引导下，我们开发了源域主导模型和目标域主导模型，两者展现出互补特性。我们所提出的方法实现了领域知识从源域到目标域的逐步迁移。在三个广泛使用的基准数据集——SAMSum、DIALOGSum和TODSum上进行的广泛实验表明，我们的方法具有优越性。