基于推理增强的查询-服务匹配:一种结合自适应评分和多样性优化的大语言模型方法
向月,
卢静,
魏金倩,
胡尧文
《Mathematics》:Reasoning-Enhanced Query–Service Matching: A Large Language Model Approach with Adaptive Scoring and Diversity Optimization
Yue Xiang,
Jing Lu,
Jinqian Wei and
Yaowen Hu
【字体:
大
中
小
】
时间:2026年03月12日
来源:Mathematics 2.2
编辑推荐:
摘要
在客户服务系统中,查询与服务匹配面临着一个关键挑战:如何准确地将用户用口语表达的查询与正式定义的服务对齐,同时还要兼顾业务目标。传统的
摘要
在客户服务系统中,查询与服务匹配面临着一个关键挑战:如何准确地将用户用口语表达的查询与正式定义的服务对齐,同时还要兼顾业务目标。传统的基于关键词的方法和嵌入式方法无法捕捉复杂的语义细微差别,也无法提供可解释的结果。为了解决这个问题,我们提出了一个创新的、增强了推理能力的框架,该框架利用大型语言模型(LLMs)进行结构化的多标准评估。我们的核心创新之处在于首创了一种基于推理的评分机制:模型在给出数值评分之前先生成详细的解释,通过条件互信息将评分方差降低了18%。我们还引入了一种受控的随机扰动机制,并通过理论推导出了最优参数,以平衡多样性和相关性;同时结合知识蒸馏技术,使得模型尺寸减少了960倍(从480B参数压缩到0.5B参数),但性能仍保持94%不变。严格的理论分析为多标准评估提供了帕累托最优性保证,以及信息论熵减少的下限;对于知识蒸馏过程,还提供了PAC学习保证。在真实电信数据上的实验验证表明,该方法达到了89%的精确度@1(相比基线提高了15.3%),多样性增强了23%,延迟减少了96倍,且部署成本比直接使用LLM推理降低了1200倍。这项工作通过原则性的数学基础和实用的系统设计,成功弥合了大型语言模型能力与实际部署需求之间的差距。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号