《Scientific Reports》:A multi-task learning approach for consumer sentiment classification and emotion detection via behavioral data
编辑推荐:
情感分析能够捕捉整体观点极性,但往往无法揭示驱动消费者行为的关键情绪。对情感和情绪的识别可为揭示消费者行为与品牌忠诚度的潜在驱动因素提供关键信息。这些重要洞察使企业能够发现新兴问题、优化产品与服务,并实现个性化消费体验。本研究提出一种基于消费者评论及其对应评分
情感分析能够捕捉整体观点极性,但往往无法揭示驱动消费者行为的关键情绪。对情感和情绪的识别可为揭示消费者行为与品牌忠诚度的潜在驱动因素提供关键信息。这些重要洞察使企业能够发现新兴问题、优化产品与服务,并实现个性化消费体验。本研究提出一种基于消费者评论及其对应评分执行情感分类和情绪检测任务的多任务方法。为此,研究人员提出了(COSMO-MT),这是一种基于深度学习的情感分类与情绪检测多任务模型。该模型首先由输入层开始,随后接入嵌入层,从输入文本中分别生成情感特定、情绪特定和共享的嵌入表示。每种嵌入均通过由卷积神经网络(CNN)、双向长短期记忆网络(BiLSTM)和注意力机制组成的共享层进行处理。此外,若干辅助特征被融入共享层以提供显式语言信息。共享层的输出随后传递至任务特定层,用于情感分类和情绪检测。最终,相应的全连接层和输出层分别为两个任务生成预测结果。研究人员在两个公开数据集上评估了所提出的COSMO-MT模型的有效性。实验结果表明,该模型显著优于现有研究和基线方法。
一、研究背景与问题
在过去的二十年中,社交媒体已成为最有效的沟通渠道之一。Facebook、Twitter、Yelp和Amazon等平台为消费者提供了分享产品和服务体验、意见与情绪的平台,产生了大量用户生成内容(UGC)。消费者倾向于根据包含产品评论、评分和特征的UGC做出购买决策。然而,现有的情感分类(SC)和情绪检测(ED)研究大多将二者作为独立任务处理,很少分析任务干扰和标签依赖性,限制了跨任务知识迁移潜力的发挥。因此,有必要开发统一的多任务模型,以提升相关情感任务的泛化能力和一致性,从而更深入地理解消费者行为。
二、研究内容与结论
研究人员提出了一种新的基于深度学习的多任务模型——消费者情感与情绪建模(COSMO-MT),用于联合执行SC和ED任务。该模型在Amazon产品评论2023数据集(Dataset-1,随机选取100,000条评论)和女性服装电商评论数据集(Dataset-2,23,486条评论)上进行评估。实验结果表明,COSMO-MT在两个数据集上的SC和ED任务中均显著优于现有最先进方法和基线方法。在Dataset-1上,SC任务的F1分数和准确率分别达到0.93和0.94,ED任务分别达到0.92和0.91;在Dataset-2上,SC任务分别为0.92和0.93,ED任务分别为0.93和0.91。这一成果表明,多任务联合学习框架能够有效整合情感极性与细粒度情绪状态,为消费者行为分析提供更全面的视角。
三、关键技术方法
研究人员采用的主要技术方法包括:(1)三种并行嵌入层:情感特定词嵌入(SSWE)、情绪感知嵌入(Emo2Vec)和基于BERT的语言模型(LM)嵌入,三者融合形成共享嵌入表示;(2)共享层由三个并行网络构成,分别接收上述嵌入输出,每个网络包含一维卷积神经网络(CNN,256个滤波器,核大小为5)、双向长短期记忆网络(BiLSTM)和词级注意力机制,三个注意力输出融合为共享注意力向量;(3)融入四组共15维手工提取的辅助特征(情感特征、情感效价特征、心理语言学特征和句法特征),与共享注意力向量拼接后形成融合上下文向量;(4)任务特定层包含任务级注意力机制和全连接层,分别生成SC的三类输出和ED的六类输出,使用Softmax激活函数和稀疏分类交叉熵损失。
四、研究结果
(1)与最先进方法的比较:COSMO-MT在所有评估指标上均优于三种最先进方法(Rana等人、Xu等人、Sandiwarno等人)。在Dataset-1上,SC任务的F1分数和准确率分别比最先进方法高出6%和2%,ED任务分别高出19%和10%;在Dataset-2上,SC任务分别高出7%和4%,ED任务分别高出26%和14%。
(2)与基线模型的比较:COSMO-MT优于六种基线模型(DeBERTa-v3-base、RoBERTa+Attention、RoBERTa、SentiBERT、BERT+Attention、DistilBERT)。以表现最佳的DeBERTa-v3-base为例,在Dataset-1上,COSMO-MT在SC任务中的F1分数和准确率分别提高约10.7%和5.6%,在ED任务中分别提高31.4%和18.2%;在Dataset-2上,SC任务分别提高12.2%和8.1%,ED任务分别提高47.6%和24.7%。
(3)消融实验:移除共享层注意力机制、任务特定注意力层、BiLSTM、CNN或辅助特征均导致性能下降,表明每个组件对整体性能均有显著贡献。对辅助特征类别的独立消融分析显示,情感和情绪特征对极性和情感理解贡献最大,心理语言学和句法特征则增强了语境和语言表征学习。
(4)定性与错误分析:模型能准确识别总体情感极性和对应情绪,但在含有抱怨相关词汇线索或重叠情感表达的复杂评论文本中可能出现误分类。
(5)参数分析:GRU隐藏单元数为128时性能最佳;CNN核大小为5时取得最高性能;Adam优化器相比Adadelta和RMSProp表现出最优的收敛性和稳定性。
五、讨论与结论
讨论部分指出,COSMO-MT框架在实际应用中具有显著潜力,可帮助企业不仅了解客户满意与否,还能识别其具体情绪(如喜悦、愤怒、悲伤等),从而支持精准营销、客户留存策略和产品改进。在客户反馈监控中,结合情感和情绪信息有助于早期发现问题。该模型还可用于个性化推荐系统和商业智能分析,为决策者提供更深入的客户感知和市场动态洞察。多任务学习使得情感和情绪分类之间的知识共享成为可能,提升了表征学习能力。
研究结论部分翻译如下:本研究证明了将消费者评论及其对应评分中的情感和情绪分析相结合的重要性,这能为消费者行为提供更深入的洞察,并支持开发适应性的、对情感响应的数字环境,以考虑消费者的情绪状态。研究人员提出了一个新的基于深度学习的多任务模型COSMO-MT,用于消费者评论和评分的SC和ED。该模型由输入层、嵌入层、共享层、任务特定层、全连接层和输出层组成。输入层将输入文本转换为输入向量。嵌入层从输入向量中提供情感、情绪和共享嵌入。随后,共享层由CNN、BiLSTM和注意力层构成,接收对应的嵌入输出,通过学习捕获消费者评论和评分中语义和上下文信息的共同表征,促进SC和ED之间的知识共享。此外,一组丰富的手工辅助特征被融入共享层以增强语言覆盖范围。共享层的输出传递给任务特定层以完成情感和情绪特定任务,之后是全连接层和输出层执行SC和ED。研究人员在两个知名数据集上进行了广泛实验,结果表明所提出的模型优于现有最先进方法和基线方法。总体而言,COSMO-MT框架证明了联合情感和情绪学习对于改善以消费者为中心的观点分析的有效性。