《IEEE Access》:An MLE-DE-Based Emotion Keyword Extraction Method for Empathy-Oriented Dialogue Generation
编辑推荐:
本文针对对话中情感识别的复杂性,提出了一种基于多标签情感(MLE)与维度情感(DE)融合的MLE-DE框架,以提取情感关键词(EK)来赋能共情对话生成。研究通过融合MLE的离散情感分类与DE的VAD(Valence-Arousal-Dominance)维度回归,构建统一的情感向量(EV)并匹配NRC-VAD词典提取EK。实验表明,在融合权重α=0.5时,该框架在Macro-F1、RMSE和VAD相似性上均表现最优,并能利用EK生成更具体、情感更一致的共情回复,为情感感知的对话AI提供了有效且可解释的基础。
在非面对面服务日益普及的今天,人们越来越多地通过即时通讯和社交网络服务(SNS)交流信息。与此同时,聊天机器人等对话式人工智能的广泛应用,使得识别和理解用户情感、并给予共情回应变得至关重要。然而,现实中的对话,尤其是短信和SNS中常见的简短、碎片化语句,往往包含多种共存的情感以及微妙的情感强度变化。传统的单标签情感分类方法,如将情绪简单地归为“喜悦”、“悲伤”等有限类别,难以捕捉这种复杂性。而纯粹的维度情感模型,虽然能在“愉悦度-唤醒度-支配度”(VAD)三个连续维度上量化情感,却又在区分情感的定性差异上有所不足。如何更全面、更细腻地把握对话中的复杂情感,成为构建真正具有共情能力的对话AI的一大挑战。
为此,发表在《IEEE Access》上的一项研究提出了一种创新的解决方案:一种基于多标签情感(Multi-Label Emotion, MLE)与维度情感(Dimensional Emotion, DE)融合的情感关键词提取方法,旨在为共情导向的对话生成提供更精准、可解释的情感理解基础。
为了开展这项研究,作者主要采用了以下几项关键技术方法:首先,构建了基于ELECTRA模型的多标签情感(MLE)分类器,用于识别语句中可能共存的多种离散情感类别。其次,构建了基于ALBERT模型的维度情感(DE)回归器,用于预测语句在VAD三个维度上的连续值。然后,通过设定融合权重α,将MLE输出的平均概率与DE输出的VAD向量融合,形成统一的情感向量(EV)。最后,通过计算EV与NRC-VAD情感词典中每个词条VAD向量的余弦相似度,提取出最匹配的情感关键词(EK)。实验所使用的数据包括用于MLE模型训练的多模态情感对话数据集(MELD),以及用于DE模型训练的EmoBank数据集。
整体架构
研究提出的MLE-DE框架包含三个核心步骤:MLE模块识别分类情感,DE模块量化维度情感,最后通过融合两者输出构建情感向量(EV)并提取情感关键词(EK)。
多标签情感(MLE)模型
该模型采用ELECTRA-small-discriminator作为主干网络,并加入注意力机制,通过二元交叉熵损失函数对MELD数据集的七类情感进行多标签分类。其超参数包括最大令牌长度128、批次大小32、学习率2e-5等。
维度情感(DE)模型
该模型采用albert-base-v2,其输出层为三个回归节点,对应V、A、D值,使用均方误差(MSE)损失函数在EmoBank数据集上进行训练。超参数包括最大令牌长度256、批次大小16、学习率1e-6等。
情感关键词(EK)提取
这是核心融合步骤。对于输入语句xi,MLE模型输出概率向量pi,DE模型输出VAD向量vi。首先计算概率向量的均值p?i,然后通过公式 EVi= α · p?i· 1 + (1 - α) · vi计算融合后的情感向量,其中α为融合权重,1是三维单位向量。接着,计算EVi与NRC-VAD词典中每个词条VAD向量ej的余弦相似度,选取相似度最高的词条作为最终的情感关键词EKi。该过程能有效区分情感的细微差别,例如,同被分类为“惊讶”的句子,可根据VAD值和EK被细分为“正面惊讶”和“负面惊讶”。
实验结果与分析
- •
数据集与评估指标:MLE模型使用MELD数据集,其情感类别分布存在显著不平衡。DE模型使用EmoBank数据集。评估指标包括用于分类的Macro-F1、用于回归的均方根误差(RMSE)以及衡量情感一致性的VAD相似性(VAD-Sim)。
- •
融合权重优化:通过5折交叉验证测试不同融合权重α的性能。结果表明,当α=0.5时,框架在Macro-F1、RMSE和VAD相似性上达到了最佳平衡,性能显著优于纯DE(α=0.0)或纯MLE(α=1.0)设置。
- •
与基线模型比较:MLE-DE框架在Macro-F1和RMSE上均优于BERT、RoBERTa等基线Transformer模型,同时得益于ELECTRA/ALBERT的轻量级设计,在效率和可解释性上具有优势。
- •
敏感性分析:框架对MLE概率阈值和EK相似度阈值在一定范围内表现稳健,最优阈值组合为0.4和0.75。
- •
EK的增强作用:在MLE-DE框架中加入提取的EK作为特征(MLE-DE+EK),在Micro-F1、准确率和RMSE等所有指标上均比基础MLE-DE框架有进一步提升。尤其是在“恐惧”、“厌恶”等低频情感类别上,F1分数提升最为明显。
- •
共情回复生成:通过设计提示模板,将MLE、VAD和EK信息输入大语言模型(如ChatGPT)生成共情回复。对比发现,基于MLE-DE+EK的提示生成的回复,因包含了“担忧”、“恐惧”等具体情感关键词,比仅基于MLE-DE的基线回复更具体、情感更一致,能更精准地回应用户的情感状态。
结论与讨论
该研究成功提出并验证了基于MLE-DE融合的情感关键词提取框架。其主要结论是,融合分类情感(MLE)与维度情感(DE)的互补信息,比单独使用任何一种表征都更有效。最优平衡融合(α=0.5)在5折交叉验证中取得了Macro-F1为0.76±0.03、RMSE为0.12±0.02、VAD相似性为0.89的最佳综合性能,并显著优于主流基线模型。提取的情感关键词(如“疲惫”、“失望”、“宽慰”)比通用情感标签更细腻,具有更高的上下文连贯性和心理效度,能作为情感锚点显著提升共情回复的具体性和情感一致性。
这项研究的重要意义在于,它为解决对话中复杂情感识别的挑战提供了一个有效且可解释的统一框架。通过桥接离散情感分类和连续情感表征之间的鸿沟,该框架实现了更接近人类情感推理的集成化情感表达,为构建真正情感感知、共情导向的对话人工智能奠定了坚实基础。当然,研究也存在一些局限,如对NRC-VAD等情感词典质量和偏倚的依赖,融合权重需凭经验设定,且目前仅聚焦于文本模态。
展望未来,研究人员计划从三方面推进:扩展情感词典以实现多语言和跨文化适配;开发强化学习或元学习策略以自动优化融合权重α;将框架扩展至融合语音、面部表情线索的多模态共情对话模型。通过这些努力,该框架有望演进为一个能更全面模拟人类情感感知与共情的多维对话系统。