超越聚合标签：基于大语言模型人设推理的个性化读者情感预测

《Neurocomputing》：Beyond aggregated labels: Personalized reader emotion prediction via LLM-based persona reasoning

　　

摘要社交媒体已成为观察公众对在线新闻情绪反应的重要平台。然而，现有的社会情绪预测方法主要依赖于聚合的群体级标签，这可能会将异质的读者偏好、人口构成和内容引发的情绪混淆为单一的监督信号。为了探索更具个性化的表述，我们引入了一项名为个性化读者情绪预测（PREP）的新任务。与传统群体级范式不同，PREP 旨在通过结合目标文章和读者的历史帖子，预测特定读者对新闻文章所观察到的情绪反应。为了支持这一任务，我们构建了一个源自 Facebook 对 CNN 新闻帖子反应（Reactions）的基准数据集，包含时间对齐的用户历史和观察到的用户 - 新闻反应对。此外，我们提出了人格感知读者情绪预测（PAREP）框架，作为一个可解释且具有竞争力的基线。PAREP 遵循“先推理后预测”范式：一个教师大语言模型（LLM）首先综合生成目标条件化的人格描述作为伪推理依据，然后微调一个学生大语言模型以生成人格假设并随后输出情绪反应。在推理时，PAREP 采样多条推理路径，并通过自一致性投票机制聚合其预测标签。大量实验表明，PAREP 在总体性能上达到最佳，相较于强微调基线取得了适度但一致的改进，同时提供了有助于分析用户偏好和阅读立场的中间推理路径。进一步的分析揭示了在稀疏用户历史下，基于大语言模型生成的人格画像的有用性及局限性。为推动未来研究，该基准数据集将在受控访问协议下向研究社区公开。

引言在线平台的广泛采用从根本上改变了人们消费新闻和对公共事件做出反应的方式 [1]。这些交互留下的痕迹，如点击、评论和基于表情符号的投票，为观察公众对在线内容的反应提供了宝贵的视角。然而，新闻生产和讨论的速度远远超过了任何人工监控能力，从而产生了对自动化情绪理解的强烈需求 [2], [3]。这一挑战的一个特别重要的实例是社会情绪预测：预测在线内容很可能在其读者中引发的情绪反应 [4], [5]。

社会情绪预测的研究已经经历了几个阶段。早期研究主要依赖于基于词典的方法 [6], [7], [8] 和基于主题驱动模型 [9], [10], [11]，而后续工作引入了神经架构以学习新闻内容更丰富的语义表示并融合主题信息 [12], [13], [14]。尽管取得了这些进展，预测仍然很困难，因为新闻文章通常以事实风格撰写，且包含有限的显性情感线索。为了丰富可用于预测的情感信号，最近的研究纳入了情感词典或读者评论等辅助信息 [15], [16]。然而，当新闻故事首次出现时，真实的读者反馈通常不可用，这限制了基于评论方法在实际中的应用。最近，生成式大语言模型被探索作为一种训练时增强工具：它们不再仅仅依赖真实的读者评论，而是可以合成模拟的受众反应或评论来补充文章上下文 [5]。这些方法在既定基准上取得了强有力的结果，但它们主要改进了建模流程，同时保留了传统的群体级预测目标。

因此，一个更根本的局限性在于监督信号本身。大多数现有的社会情绪预测数据集建立在聚合用户反应之上，其中许多读者的反应被合并为每个新闻项目的单一标签或分布。这种聚合既方便又可扩展，但也引入了几个歧义来源。首先，平台反应仅由选择与界面交互的用户产生，因此不代表全部读者或“沉默的大多数”。其次，反应人群在不同主题、事件和时间上可能差异巨大，这意味着聚合标签可能反映受众构成的变化，而不仅仅是内容的情感属性。第三，商业推广、协调参与和刷点击活动等平台特定因素可能会进一步扭曲观察到的反应统计 [17]。因此，聚合标签可能会将异质用户偏好、人口构成和内容引发的情绪混淆为单一的监督目标 [18]。这使得模型难以学习新闻内容与读者情绪之间稳定的映射关系。

先前的工作也认识到可以从读者视角研究情绪，包括读者反应语料库和如 XED [19] 等情绪唤起数据集，以及社交媒体上的作者 - 读者情绪分析 [20], [21]。然而，这些资源通常不提供持久用户身份、历史行为和多个观察到的目标反应的组合，而这正是评估个性化预测所必需的。为了探索这一研究不足的方向，我们提出了个性化读者情绪预测（PREP）。PREP 并非预测新闻文章的群体级情绪分布，而是旨在通过结合文章内容及读者的历史帖子，预测个体读者对目标文章所观察到的情绪反应。在本工作中，我们将平台反应视为可观察的类情绪行为信号，而非内部情感状态的直接测量。这种从群体级预测到个体级预测的转变带来了两个主要益处。首先，它改善了标签锚定：每个监督信号都锚定在特定的用户 - 文章交互中，而不是关于变化人群的聚合统计。这并没有消除平台级的采样偏差，因为数据仍然来自公开对新闻帖子做出反应的用户；然而，它避免了可能掩盖个体差异的额外聚合步骤。其次，它实现了个性化建模。通过将读者的历史行为与其后续对新闻的反应联系起来，PREP 允许模型分析用户特定的兴趣、价值观、写作风格和先前主题偏好可能如何影响反应模式。这种个性化建模可以为与在线信息理解相关的下游应用提供有用信号，包括谣言检测 [22] 和假新闻检测 [23], [24]。

为了支持 PREP 的研究，我们构建了一个源自 Facebook 对 CNN 新闻帖子反应的基准数据集。每个样本表示为包含用户历史帖子、目标新闻文章和用户观察到的情绪反应的三元组。我们关注具有足够可观察历史内容的活跃用户，从而在保持用户历史与目标反应之间时间约束的同时，构建个性化上下文。由此产生的数据集包含 4138 个独特用户和 12,414 个个性化情绪样本。根据构建方式，每个保留的用户关联有五条历史帖子和三起目标新闻交互。历史帖子的平均长度为 45.95 个单词，目标新闻文章的平均长度为 781.26 个单词。标签空间由六种细粒度的非“喜欢”（Like）反应组成：爱（Love）、关心（Care）、哈哈（Haha）、哇（Wow）、悲伤（Sad）和愤怒（Angry）。如图 1 所示，这种三元组形式将读者的历史上下文与多个目标文章和观察到的反应配对，使得研究跨新闻事件的个性化反应模式成为可能。同时，我们强调该基准应被解释为对活跃平台用户的个性化反应预测，而不是作为群体级公众情绪的代表性估计。数据收集和构建过程的细节以及统计分析在第 3 节中呈现。

基于该数据集，我们引入了 PAREP（人格感知读者情绪预测）框架，作为 PREP 的一个可解释且具有竞争力的基线。在这种个性化设置下的一个关键挑战是，用户历史是稀疏的、嘈杂的且仅部分有信息的：少量历史帖子可能揭示某些兴趣、主题偏好或表达风格，但它们不足以直接恢复稳定的用户档案。因此，在本工作中，我们使用术语“人格”（persona）来表示基于大语言模型生成的、以历史为基础的用户立场假设，而不是对用户真实性格的验证描述。这些人格描述被用作合理的、目标条件化的用户立场伪推理依据，而非真实人格标注。基于这一观点，PAREP 采用了一种端到端的“先推理后预测”框架，通过“先蒸馏后微调”策略进行训练。由于没有显性的人格标注，一个教师大语言模型被离线用于从用户的历史帖子和目标新闻文章中综合生成多个目标条件化的人格描述。这些合成的描述作为中间伪推理依据，将稀疏的行为上下文转化为结构化的用户立场表示，以指导情绪预测。然后，我们使用增强数据通过 LoRA 微调一个较小的学生大语言模型。学生模型被训练为自回归地生成人格描述随后是情绪标签，从而在每个生成路径中学习人格到情绪的推理模式，且在不依赖教师模型的情况下进行测试。此外，由于稀疏的用户历史可能支持多种合理的解释，PAREP 在推理期间采样多条推理路径，并通过自一致性投票机制聚合它们的预测标签。这种设计减轻了生成随机性并提高了预测稳定性。经验上，PAREP 相较于强微调基线有所改进，并提供了有助于分析用户历史如何与个性化反应相关的中间推理路径。

本文的主要贡献总结如下：
1. 我们提出了个性化读者情绪预测（PREP），这是一项新任务，将社会情绪预测从群体级情绪分布转移到基于用户历史和目标新闻文章的条件化个体级观察情绪反应。为了支持这一任务，我们构建了一个基于真实 Facebook 反应的基准数据集，包含 4138 个用户和 12,414 个个性化情绪样本。
2. 我们提出了 PAREP，一种基于大语言模型的“先推理后预测”基线，在单一的自回归框架中统一了人格推断和情绪预测。PAREP 使用教师生成的人格伪像进行蒸馏和学生大语言模型微调，并在推理时对学生生成的推理路径应用自一致性投票。
3. 我们进行了广泛的实验和分析，表明 PAREP 提供了稳定且具有竞争力的性能，相较于强微调基线取得了适度但一致的改进。结果还强调了基于大语言模型生成的人格画像在个性化情绪预测中的有用性及局限性。

本文的其余部分组织如下。第 2 节回顾相关工作。第 3 节描述数据构建过程和统计分析。第 4 节详细阐述我们提出的框架。第 5 节展示实验设置和比较结果。第 6 节提供关于我们提出的基准和模型的深入分析和讨论。最后，第 7 节总结全文并概述未来研究方向。

章节片段

社会情绪预测数据集

基准语料库在社会情绪预测的发展中起着核心作用。现有数据集可以根据其数据源和标签构建策略大致分为三类：人工标注语料库、基于平台投票的语料库和社交媒体交互语料库。

数据源背景

我们数据集的构建基于 Facebook 的反应功能。与传统的二元“喜欢”机制不同，Facebook 反应提供了一组预定义的表情符号选项，用户可以通过这些选项公开回应帖子。自 2020 年以来，该平台提供了七种反应类型：喜欢（Like）、爱（Love）、关心（Care）、哈哈（Haha）、哇（Wow）、悲伤（Sad）和愤怒（Angry）。这些反应以聚合形式显示在每个帖子下方，而相应的用户级交互为构建提供了基础

任务形式化

形式上，我们将 PREP 定义为用户条件多类情绪反应预测问题。设 表示用户集合。对于每个用户 ，输入由两个组件组成：历史帖子上下文 ，其中 表示用户 的第 个最近历史帖子，以及包含 个目标新闻文章的目标新闻集 。我们的目标是预测用户针对每篇新闻文章 所观察到的情绪反应 。此处，我们将情绪反应空间定义为 ，其中每个元素

实验设置

所有大语言模型微调实验均使用 LLaMA-Factory 进行，3 这是一个用于大语言模型监督微调和参数高效适配的统一框架。遵循第 3 节的数据集配置，我们将历史上下文窗口 设置为，并将每个用户的目标新闻文章数 设置为。除非另有说明，推理期间采样的推理路径数设置为 ，而训练集使用 教师合成的人格

全新闻上下文的作用

PREP 数据集的一个自然设计问题是，抓取完整的 CNN 文章是否有必要，或者 Facebook 上可见的较短文本是否足以对个性化读者情绪进行建模。如图 2 所示，典型的 CNN Facebook 帖子仅提供简要的编辑摘要，而完整文章可通过嵌入链接访问。

因为用户在 Facebook 上观察到的情绪反应可能基于帖子预览、标题、先前的信念或更广泛的平台

结论与未来工作

在本文中，我们提出了个性化读者情绪预测（PREP），这是一项新任务，将社会情绪预测从聚合的群体级标签转变为基于用户历史和目标新闻文章的观察到的个体级情绪反应。这种表述通过将监督锚定在特定的用户 - 新闻交互中，减轻了聚合导致的标签混合问题，同时使得研究在线新闻消费中用户特定的反应模式成为可能。为了支持这项任务，我们

CRediT 作者贡献声明

Keyang Ding：写作 – 审阅与编辑，写作 – 初稿，可视化，软件，项目管理，方法论，概念化。Yucong Huang：写作 – 审阅与编辑，写作 – 初稿，可视化，验证，软件，方法论，形式分析，数据整理。Tianhao Wu：写作 – 审阅与编辑，验证，数据整理，概念化。Hengxin Gao：写作 – 审阅与编辑，可视化，数据整理。Qianlong Wang：写作 – 审阅与编辑，

写作过程中生成式人工智能和人工智能辅助技术声明

在本工作的准备过程中，作者使用了生成式人工智能工具（Gemini 和 ChatGPT）以检查稿件格式、提高语言质量并增强整体可读性。在使用这些工具/服务后，作者根据需要彻底审查和编辑了内容，并对发表文章的内容承担全部责任。

竞争利益声明

作者声明，他们没有已知的竞争财务利益或个人关系，这些因素可能影响本论文中报告的工作。

致谢

本工作得到了中国国家自然科学基金 62576120、深圳环路研究院重点项目 FPF10120260002 的支持。

Keyang Ding 于 2018 年获得山东大学机电与信息工程学院学士学位，并于 2021 年获得香港理工大学计算机系硕士学位。自 2021 年以来，他一直是在哈尔滨工业大学（深圳）计算机科学与技术学院攻读博士学位的学生。他的研究兴趣包括社会计算、社交媒体分析和情感分析。

Keyang Ding|Yucong Huang|Tianhao Wu|Hengxin Gao|Qianlong Wang|Ruifeng Xu 哈尔滨工业大学（深圳）计算机科学与技术学院，深圳，518000，中国