基于主动采样与SHAP引导的证据浓缩的暖通空调系统样本高效大语言模型故障诊断方法

《Applied Energy》：Sample-efficient LLM fault diagnosis for HVAC systems via active sampling and SHAP-guided evidence condensation

　　王正阳|陈胜鹏|赵天牛|徐波|陈振谦中国南京东南大学能源与环境学院摘要在标签有限且训练测试数据分布发生偏移的情况下，对供暖、通风与空调系统进行故障诊断仍然是一项挑战。而在基于应用程序接口的环境中直接使用大型语言模型时，又会受到提示词数量限制的约束。本研究并非依赖领域微调，而是提出了一种无需微调的证据压缩框架，该框架在推理前沿着样本和特征维度对诊断证据进行压缩，利用与分类器解耦的高斯混合模型选择具有代表性的少样本案例，并借助SHapley加性解释方法来保留和标注对诊断至关重要的运行变量。在三个符合ASHRAE RP-1312标准的基准数据集上，每个类别有50个训练样本且存在训练测试数据分布偏移的情况下，通过GMM采样，投票基线的平均准确率提升到了68.4%；而经过SHAP过滤后的提示词则让Gemini-3-Flash在无需微调的情况下实现了77.8%的平均准确率，这一成绩比最佳的深度学习基线高出5.6个百分点，同时提示词使用量减少了6.5%至24.7%。该框架还能生成包含故障推理和故障排除指导的结构化诊断报告，为建筑能源管理提供可解释且高效利用样本的 HVAC故障诊断方案。引言建筑运营过程中的能源消耗在全球最终能源消耗中占很大比例，其中供暖、通风与空调系统通常要占据建筑总能源消耗的40%到60%。诸如阀门泄漏、风阀卡住之类的运行故障会导致控制系统失效，出现同时供暖和制冷的情况，进而造成持续的能源效率损失以及更高的维护成本。因此，可靠的故障检测与诊断是实现建筑节能、减少碳排放以及优化运维工作的基础，相关综述已系统总结了HVAC故障检测与诊断方面的研究进展及面临的关键挑战[1]、[2]。近年来，基于数据驱动的HVAC故障诊断技术在监督学习、半监督学习和自监督学习框架下取得了快速发展，涉及的算法包括自动编码器、支持向量机、集成学习、图卷积网络以及Transformer模型[3]、[4]、[5]、[6]、[7]、[8]。然而，实际工程应用仍受到三个问题的制约：标签样本不足会降低小样本场景下的性能，系统差异和运行条件变化会导致训练测试数据分布偏移，而且黑盒式预测往往无法为运行决策提供可审核的证据。为提高数据利用效率，先前的研究探索了主动采样、半监督学习以及数据增强等方法，用于在标签数据有限的情况下进行故障诊断[9]、[10]、[11]、[12]、[13]、[14]、[15]、[16]。不过，这些研究通常将筛选或增强的样本视为用于更新诊断分类器的额外标注或训练资源，而少样本大型语言模型诊断则需要选用特定的历史案例作为简洁的提示词侧诊断示例。因此，在训练测试数据分布偏移且存在提示词数量限制的情况下，采样方式如何有助于构建面向大型语言模型的诊断证据，目前还缺乏一个统一且可重复使用的框架来进行深入研究。除了数据效率之外，可解释性对于实际的HVAC故障检测与诊断而言同样重要。现有研究采用了SHapley加性解释方法、局部可解释模型无关解释方法、分层相关性传播方法以及Score-CAM等事后解释方法，用以揭示关键变量与故障模式之间的关联[17]、[18]、[19]、[20]、[21]。这些方法提升了模型的透明度，但大多仍处于事后解释阶段，可解释性相关知识很少被纳入样本筛选、特征过滤或后续诊断的明确推理指导之中。大型语言模型为故障诊断提供了新的途径，因为传感器记录、故障描述、维护知识以及诊断决策都可以被整理成适合文本处理的格式。它们所具备的自然语言界面还能帮助生成包含关键观察结果、故障机制说明以及故障排除指导的结构化诊断报告。针对结构化数据，已有研究表明，表格形式的记录可以被序列化为适合提示词使用的文本或模板，从而实现零样本或少样本预测[22]、[23]。这些研究证明了利用语言模型接口处理结构化数据的可行性，但主要侧重于一般结构化数据的表示方式，而非针对HVAC系统特有的诊断证据构建方法。在工程故障诊断领域，还有其他一些研究思路被探索出来。有些研究通过监督微调、编码器风格适配、数据与文本对齐、信号特征文本化、LoRA/QLoRA微调或多模态重编程等方法，调整模型参数或学习到的表征形式，以应用于HVAC系统、各类设备、轴承或工业领域的故障诊断任务[24]、[25]、[26]、[27]、[28]。另有研究则将领域知识、诊断规则、工具、智能体或知识图谱融入推理过程，或者利用大型语言模型来辅助工业时间序列分析、人机协同工作流程、工艺故障解释以及诊断报告的生成[29]、[30]、[31]、[32]、[33]。针对建筑能源和HVAC领域的研究也探讨了相关应用前景、部署面临的挑战以及领域知识的应用方法[34]、[35]。总体来看，现有的与大型语言模型相关的诊断方法主要着眼于如何更好地序列化结构化数据、如何调整模型参数或学习到的表征形式、如何整合外部知识与推理工具，以及如何为诊断工作流程、解释结果和报告生成提供支持。这些研究证明了语言模型辅助诊断的可行性，但并未完全解决那种以实际部署为导向的场景——在这种场景中，不断进步的大型语言模型被用作固定的、可通过API访问的推理服务，而非本地运行的或针对特定任务进行微调的模型。这种架构对于HVAC系统的运营和维护而言颇具吸引力，因为它可以减少对本地高性能计算硬件、模型服务基础设施以及针对特定任务定制的微调流程的需求。不过，这也使得技术瓶颈从模型适配转向了推理前的证据构建：由于无法直接获取模型参数和内部表征，因此必须通过在推理前对所提供的证据进行筛选、标注等方式来实现诊断功能的适配。再加上基于API的推理还受到上下文窗口长度有限、基于token的成本限制以及大量冗余的运行信息等因素的制约，因此亟需解决的问题是如何将庞大的HVAC运行数据集压缩为简洁、具有实际意义且诊断可靠性高的提示词证据。这需要完成两项相互关联的操作：一是从大量已确认标签的历史HVAC案例中挑选出少量具有代表性的诊断示例；二是在标签有限、训练测试数据分布偏移以及提示词数量受限的情况下，保留那些对诊断具有重要意义的HVAC变量，并为其添加具有实际意义的标注。为解决这一证据构建问题，本研究提出了一种无需微调的双维度证据压缩框架，用于HVAC系统的故障诊断。该框架将大型语言模型视为固定的、可通过API访问的推理终端，然后对推理前所提供的诊断证据进行适配。在样本层面，通过基于高斯混合模型组件意识的采样方法，将每个故障类别中所有已确认标签的历史HVAC案例整理为不同的运行状态组件，进而选出具有代表性的案例，形成简洁的少样本诊断记忆库。在特征层面，则通过SHAP引导的筛选和标注方法，识别出对诊断具有重要意义的HVAC变量，并将其实际含义整合到提示词证据中。这样构建好的提示词能够为大型语言模型提供关于典型故障案例、保留的传感器数据、HVAC系统的相关先验信息以及结构化输出要求的指导，从而使模型能够输出故障类型、相应的证据、故障机制的推理过程以及故障排除建议。这一框架的创新之处在于，它将适配操作引入到了诊断流程之中：并非去调整大型语言模型本身，也不是去学习新的与任务匹配的表征形式，或是添加额外的推理智能体，而是对输入到固定推理终端的诊断证据进行适配。表1总结了这一框架的定位特点。对比分析表明，本研究的主要创新点不在于使用了大型语言模型，而在于通过在推理前，对输入到固定API可访问的大型语言模型中的诊断证据进行适配，从而解决了标签有限、训练测试数据分布偏移以及提示词数量受限等问题。这种定位尤其适用于那些需要共同筛选和整理具有代表性的历史案例以及关键运行变量的HVAC故障诊断场景。本研究的贡献可归纳为以下几点：首先，本研究将无需微调、基于API的大型语言模型HVAC故障诊断问题，定义为在标签有限、训练测试数据分布偏移以及提示词数量受限条件下，一种在推理前对证据进行优化的问题。这种定义将诊断适配的重点从修改大型语言模型本身，转移到了构建简洁且具有诊断可靠性的提示词证据上。其次，本研究针对这一场景开发了一种双维度证据压缩框架。在该框架的样本处理模块中，通过基于高斯混合模型组件意识的采样方法，从已确认标签的历史HVAC案例中构建出简洁的少样本诊断记忆库；而在特征处理模块中，则通过SHAP引导的筛选和标注方法，保留对诊断具有重要意义的变量，并将其整理为结构化的提示词证据。第三，本研究在三个符合ASHRAE RP-1312标准的HVAC基准数据集上进行了控制性的证据层面评估，将样本质量指标、采样策略的性能表现、基于SHAP的特征保留效果、提示词使用量的减少程度以及诊断准确率等因素联系起来，为采样策略的选择提供依据，而不仅仅关注模型层面的准确率指标。本文的其余部分安排如下：第2节回顾了与代表性样本选择、混合模型建模、特征属性分析以及基于提示词的结构化数据推理相关的理论基础。第3节详细介绍了所提出的双维度证据压缩框架的具体方法，包括样本质量评估方法、基于运行状态意识的代表性案例筛选方法、基于属性分析的证据压缩方法以及基于SHAP的大型语言模型诊断工作流程。第4节展示了实验结果并进行了分析讨论。第5节对全文进行总结，并提出了未来的研究方向。理论基础本节介绍了支撑所提出的证据压缩工作流程的四种方法论思路，即代表性样本选择、混合模型建模、特征属性分析以及基于提示词的推理方法。方法论本节详细描述了所提出的双维度证据压缩框架的具体实现方法。3.1节概述了整个框架的整体结构以及逐步实施的过程。3.2节介绍了所使用的基准数据集、数据划分策略以及样本质量评估指标。3.3节说明了用于对照测试的基准分类器。3.4节则介绍了证据压缩的工作流程，包括……对基准分类器性能及样本质量特征的初步分析本节对基准分类器的运行表现以及样本的质量特征进行了初步分析。这些分析为后文4.2节中“主动采样的有效性”以及4.4节“训练测试数据分布偏移情况下大型语言模型诊断性能的测试”所采用的标准设置提供了依据，即每个类别使用50个训练样本，测试集占20%，同时也为4.3节中代表性分类器的选择以及特征属性分析提供了实证支持。通过对照测试不同模型得到的结果，进一步验证了……结论本研究提出了一种无需微调、且能考虑提示词数量限制的HVAC故障诊断证据压缩框架。该框架并非通过领域微调来调整大型语言模型的参数，而是对输入到固定API可访问的大型语言模型中的诊断证据进行适配。通过基于高斯混合模型组件意识的采样方法，可以将大量的候选案例压缩为具有代表性的少样本案例；而通过SHAP引导的筛选方法，则可以保留那些对诊断具有重要意义的运行变量，并且……CRediT作者贡献说明王正阳：撰写原始稿件、可视化处理、软件工具使用、方法设计、实验研究、正式分析、数据整理、概念构思。陈胜鹏：验证工作、资源协调、项目管理、资金筹集。赵天牛：撰写原始稿件、方法设计、正式分析。徐波：监督工作、资金筹集、概念构思。陈振谦：监督工作、资金筹集、概念构思。关于写作过程中生成式人工智能及人工智能辅助技术的声明在撰写本文的过程中，作者们使用了ChatGPT来提升语言表达的清晰度、优化语句表述并提高整体可读性。在使用该工具之后，作者们对内容进行了彻底的审查和必要的修改，对最终文章的准确性和完整性负全责。关于利益冲突的声明作者们声明自己不存在任何可能影响本文研究结果的已知财务利益关系或个人关系。致谢本研究得到了中国国家重点研发计划（项目编号：2024YFB4007400，项目名称为“质子交换膜燃料电池与热泵耦合供电的热电联产关键技术”）的支持。作者们对所在机构的支持表示衷心的感谢。