HAMAgent: 用于情感识别和数字健康的人类辅助多智能体系统——一项综述与初步研究

《Frontiers in Digital Health》:HAMAgent: human assisted multiagent system for emotion recognition and digital health—a survey and preliminary study

【字体: 大 中 小 】 时间:2026年07月09日 来源:Frontiers in Digital Health 5.2

编辑推荐:

  本研究对现有的多大型语言模型(LLM)智能体应用进行了综述,比较了在数字健康背景下主动融入人类参与的系统与完全自主运行的系统。基于此分析,研究人员利用FairytaleQA数据集的一个子集,对多LLM交互中人机协同反馈在情感和人类行为理解中的应用进行了初步探索

  
本研究对现有的多大型语言模型(LLM)智能体应用进行了综述,比较了在数字健康背景下主动融入人类参与的系统与完全自主运行的系统。基于此分析,研究人员利用FairytaleQA数据集的一个子集,对多LLM交互中人机协同反馈在情感和人类行为理解中的应用进行了初步探索。研究人员进一步提出了HAMAgent框架,以研究人类反馈如何影响多智能体推理和性能。初步实验证明了将人类引导融入多LLM工作流的潜在益处,并为设计数字健康中有效的人机协同系统提供了见解。研究人员最后讨论了研究结果的关键意义,并概述了融入人类输入的多智能体LLM系统的未来发展方向。
**论文解读文章**

**研究背景与研究问题**

数字健康领域正日益依赖大型语言模型(LLM)来辅助临床决策、情感识别和患者支持。尽管LLM展现出强大的通用能力,但在理解人类价值观、情感细微差别以及复杂医疗情境方面仍存在显著不足。这些不足源于两个方面:一是LLM缺乏对人类价值观和领域知识的深层嵌入,导致其输出可能偏离临床实际需求;二是单一LLM在面对多样化的临床任务(如诊断、监督、管理)时,优化困难、灾难性遗忘严重,且难以进行有效的认知分解。多智能体系统(Multi-Agent System, MAS)通过任务分解和智能体专门化,为克服单一LLM的局限提供了可行方案:不同LLM扮演求解器(Solver)、评判器(Judge)等角色,通过结构化交互协同解决复杂问题。然而,现有MAS在数字健康中的应用仍缺乏对人类价值观的系统整合,导致输出可信度和可解释性不足。因此,研究人员提出将人类反馈融入多LLM交互循环中,以提升系统的鲁棒性、适应性和临床可接受性。

本研究旨在通过综述现有应用并开展初步实验,探索人机协同(Human-in-the-Loop, HITL)机制在多智能体系统中的作用,特别是针对情感识别这一数字健康核心任务。论文发表于《Frontiers in Digital Health》。

**主要关键技术与方法**

本研究构建了HAMAgent(Human-Assisted Multi-Agent)框架,包含两个LLM智能体:求解器(DeepSeek-R1-distill-1.5B)和评判器(Qwen2.5-0.5B)。技术方法包括:(1)**教学阶段**:从运行日志中提取评判器生成的反馈,由人类注释员对求解器的答案进行标注,构建监督训练数据集,通过监督学习微调评判器,使其能模仿人类评估行为;(2)**人机协同阶段**:人类审查评判器的反馈,将其转化为文本提示,供求解器在下一轮迭代中直接引用,从而系统性地融入人类价值观和主观标准。实验使用FairytaleQA数据集的隐含问题子集(需深度推理故事中角色情感),无需真实患者数据。训练集用于模型训练,验证集随机抽取100例进行人工标注。

**研究结果**

**1. 多循环基线 vs. 单循环基线**
通过对比单次循环(Single loop)与三次迭代循环(Multi loop)的ROUGE得分,研究人员发现多循环显著提升Rouge-1(0.047→0.070)、Rouge-2(0.012→0.031)及Rouge-L(0.044→0.065),表明多智能体迭代自演化能有效改进求解器输出。

**2. 教学阶段(Multi loop ++ teach)效果**
加入教学阶段后,ROUGE得分(Rouge-1: 0.068, Rouge-2: 0.015, Rouge-L: 0.060)略低于未教学的多循环基线。研究人员指出,未经训练的评判器易发生“参考信息泄露”(将正确答案隐含在反馈中),导致得分虚高;而教学阶段训练评判器避免泄露,得分更为真实。因此两者不可直接比较,且教学阶段并非失效。

**3. HAMAgent总体表现**
HAMAgent在所有三项指标上均显著优于所有基线(Rouge-1: 0.132, Rouge-2: 0.041, Rouge-L: 0.073,配对t检验p<0.001)。案例研究显示,HAMAgent中的人类反馈更直观、更启发式(如“从人类价值角度思考饼子逃走时的感受”),而基线反馈可能直接泄漏正确答案。这表明人类干预在情感识别任务中的关键价值。

**4. 样本输出对比**
表格3展示了同一问题(饼子看到另一饼子被吃后的感受)下各方法的输出:单循环和多循环均产生错误推理;多循环+教学虽避免泄漏但输出仍不准确;HAMAgent最终给出“害怕(scared)”的正确情感判断,验证了框架有效性。

**总结讨论与结论**

研究结论部分指出:本研究探索了数字健康背景下将人机协同反馈融入多智能体系统以理解情感和人类行为。通过利用FairytaleQA数据集,提出了HAMAgent框架评估人类反馈对多智能体推理和系统性能的影响。初步结果表明将人类引导融入多LLM工作流可增强其有效性和适应性,为数字健康应用提供了有前景的途径。未来工作将聚焦于扩展更多与数字健康直接相关的数据集(当前工作的局限性之一),并探索更广泛的真实世界数字健康应用以全面评估人机协同系统改善医疗结局的潜力。

讨论部分强调:HAMAgent在情感识别中的成功得益于人类反馈对模型训练数据不足、缺乏人类价值观及任务主观性的弥补。人类引导还能提供多样化解读视角。该框架可泛化至症状分诊、个性化推荐、心理健康干预等任务。未来方向包括:(1)扩展到多模态设置(如结合EEG、fMRI等生理信号),并参考LaBraM、Neuro-GPT、MindGPT等工作;(2)扩大模型和数据集规模;(3)设计更高效的人类价值整合策略(如阶段式采样审查);(4)解决隐私与安全问题(多轮交互可能增加信息泄露风险);(5)探索更多样的模型架构和加权评估指标(关注诊断准确性、推理有效性等临床重要方面)。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号