基于Transformer方法的双语聊天机器人在大流行应对中的实现

《PLOS Digital Health》:A Bi-lingual chatbot implementation for pandemic response using the transformer-based approach

【字体: 大 中 小 】 时间:2026年04月02日 来源:PLOS Digital Health 7.7

编辑推荐:

  COVID-19大流行凸显了及时准确信息在有效管理大流行中的关键需求。公共媒体平台上错误信息的泛滥使大流行的管理复杂化,需要大量持续的人力资源来满足对可信信息的需求。为应对这一挑战,研究人员开发了一个智能双语聊天机器人,可全天候提供经过医学整理的最新且经批准的

  
COVID-19大流行凸显了及时准确信息在有效管理大流行中的关键需求。公共媒体平台上错误信息的泛滥使大流行的管理复杂化,需要大量持续的人力资源来满足对可信信息的需求。为应对这一挑战,研究人员开发了一个智能双语聊天机器人,可全天候提供经过医学整理的最新且经批准的大流行管理信息,使用英语和卢干达语。该方法利用深度学习,在不断增加的大流行特定信息、问题和答案的语料库上训练聊天机器人。研究结果表明,该聊天机器人利用了资源丰富的英语自然语言处理(NLP)框架来实现卢干达语的聊天。它们还表明,该聊天机器人是实时传播准确信息的有效且灵活的工具,同时也通过对话驱动开发提供了持续改进的机会。
研究背景:COVID-19大流行凸显了公共卫生危机中信息传播的关键作用,但公共媒体平台上错误信息的泛滥严重干扰了疫情防控,尤其在中低收入国家,民众对可信信息的需求激增,而医疗资源有限,难以提供持续的人力支持。同时,非洲低资源语言(如乌干达广泛使用的卢干达语)缺乏成熟的自然语言处理(NLP)工具,导致语言技术应用受限。为应对这一挑战,研究人员设计并实现了一个基于Transformer架构的双语聊天机器人,旨在提供经过医学审核的、实时更新的中英文(英语与卢干达语)大流行应对信息。该研究发表在《PLOS Digital Health》。

研究概述:研究人员开展了一项基于Transformer的深度学习模型开发工作,构建了一个能够识别用户意图并提取实体的双语聊天机器人。该机器人通过DIET(Dual Intent and Entity Transformer)分类器实现意图和实体的联合识别,并创新性地通过后缀映射(如greeting_Luganda)扩展了Rasa框架的双语支持能力。研究得出以下结论:该聊天机器人能够以96.77%的整体意图分类准确率处理英语和卢干达语的用户查询,实体提取F1分数在英语中达0.99(疾病)至0.82(名称),在卢干达语中达0.98(症状)至0.50(时间)。Beta测试表明,双语言功能有效扩大了目标人群的覆盖范围(64人选择英语,27人选择卢干达语),且对话驱动开发(CDD)方法论促进了意图库的持续优化。该研究的重大意义在于:首次在乌干达实现了低成本的双语大流行信息传播工具,证明了基于资源丰富语言的NLP框架可有效迁移至低资源语言,并为后续大流行背景下多语言沟通提供了可复制的技术蓝图。

关键技术方法:研究人员采用爬取与专家审定相结合的数据收集方式,从乌干达卫生部、美国疾病控制与预防中心(CDC)、世界卫生组织(WHO)及乌干达医师评审文献中提取数据,经医生和临床专家审核后形成505个初始意图(intent)及1,290个实体(entity,如疾病、地点、药物等)。通过手动生成每个意图至少5种问法变化(如拼写变体、同义词)并翻译为卢干达语,构建了33,728个数据点。核心技术架构基于Rasa开源框架,采用DIET分类器(Transformer-based多任务学习模型)同时处理意图分类与实体提取,配合WhitespaceTokenizer、RegexFeaturizer、CRFEntityExtractor、CountVectorsFeaturizer等组件组成NLP管道。模型训练参数:500个epoch,学习率0.0001,注意力丢弃率0.1。双语能力通过为每个英语意图名追加“_Luganda”后缀实现意图-响应映射的扩展。对话管理采用RulePolicy(规则路径)与TEDPolicy(Transformer Embedding Dialogue Policy,训练100个epoch,最大对话历史8轮)双策略。部署基于React前端、Flask后端及Kubernetes集群,支持实时弹性扩展。

研究结果:

1. Phase one results:通过第一阶段Beta测试(62名测试者,包括IDI健康从业人员、软件开发者、医学生及公众,持续2周),获得135个独特对话、721个独特句子。发现约30个新意图(如实际物流问题、疫苗安全性关切、情绪安抚需求),促使研究人员调整回答长度、增加意图覆盖并集成卢干达语模块。

2. Phase two results:第二阶段测试(91名测试者,包括医学生、计算机科学学生、IDI健康及行政人员,持续2周,同时支持英语和卢干达语)显示,双语言功能显著扩大受众范围(64人用英语,27人用卢干达语),并因响应时间优化和意图预测改进而提升了整体效用。

3. Intent identification, response accuracy and Bi-lingual capacity:在13,222个查询中,意图分类准确率达96.77%(正确12,795个,错误427个)。Binomail检验表明英语和卢干达语的准确性均具有统计学显著性。但Macro-F1(62.01%)低于加权-F1(98.87%),表明罕见意图(如“affirm”F1=1.00,“inform_location”F1=0.76)虽准确率尚可,但整体类别不均衡影响低频意图。同时,语义重叠意图(如“goodbye”与“thank_you”)易混淆。

4. Entity identification:实体提取评估显示,英语中疾病实体F1=0.99,地点0.92,症状0.98,名称0.82;卢干达语中对应值分别为0.88、0.81、0.98、0.65。时间实体的F1较低(英语0.74,卢干达语0.50)。

5. Key themes:Beta测试中最常出现的主题包括疫苗接种、COVID变种、治疗方法、症状、疫苗效力、预防策略及Omicron变种。

6. Chatbot prototype:后端集成训练模型至Rasa框架,基于微服务架构,并部署到Kubernetes平台以应对流量波动。前端使用React构建,支持英语和卢干达语输入/输出,且通过OAuth 2.0认证保障安全。

讨论与结论部分总结:讨论指出,该工作展示了在低资源环境中利用自然语言处理技术应对大流行错误信息的可行性。尽管大型语言模型(LLM)兴起,本研究的DIET分类器模型仍具优势:基于经审核的固定数据集,幻觉(hallucination,生成看似合理但事实错误的信息)风险低;无需大量GPU算力即可训练,适合低资源场景。双语能力的实现通过迁移英语逻辑功能至卢干达语意图映射,降低了开发成本。局限性包括缺乏文本转语音(TTS)和语音转文本(STT)功能,以及数据集不均衡对低频意图预测的影响。未来工作将探索多模态输入。研究结论翻译:总体而言,这项工作至少部分证明,通过适当的创新,低资源语言可以利用基于高资源语言现有资源的更廉价技术来支持。它也支持这样一种观点:尽管大型语言模型(LLMs)最近趋于成熟,但仍有空间由机器学习和基于规则的自然语言技术的混合体来填补。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号