工业过程中空调系统制冷剂加注的可解释与领域自适应预测模型

《Scientific Reports》：Explainable and domain-adaptive prediction models for refrigerant charging in air conditioning systems within industrial processes

　　

摘要准确预测消费类空调（AC）系统中的制冷剂不足对于优化能效和运行稳定性至关重要。然而，现有的数据驱动模型通常由于不同空调类型之间的领域偏移以及缺乏解释透明度而遭受显著的性能下降。为了解决这些挑战，我们提出了 AC-RPX（空调制冷剂预测可解释人工智能），这是一个统一框架，集成了增强领域特定标记的领域编码器和通过低秩适应（LoRA）适配的大语言模型（LLM）。领域编码器对齐六种消费类空调类型的传感器分布，以实现领域鲁棒的制冷剂水平预测。同时，经过 LoRA 微调的 LLM 在 280,000 个专家对齐的传感器 - 推理对上训练，生成特定案例的思维链（CoT）解释，明确将异常传感器模式与预测的制冷剂充注状态联系起来。在六个空调传感器数据集上的验证表明，AC-RPX 达到了最先进的准确率和 F1 分数，显著优于传统的深度学习和领域适应基准。此外，通过提供直观的自然语言解释，AC-RPX 在保持比传统基于规则的启发式方法更好的预测性能的同时，在真实世界消费者数据上提供了更清晰的诊断解释。这些结果确立了 AC-RPX 作为真实世界维护服务中自动制冷剂监测和决策支持的实用解决方案。

引言在空调（AC）系统中，制冷剂通过换热器内的相变将热量从低温热源转移到高温热源，在冷却循环中发挥着关键作用。保持最佳的制冷剂充注量对于确保能效和运行稳定性至关重要。制冷剂不足不仅会降低冷却性能，而且在系统持续处于赤字条件下运行时，还会导致包括压缩机损坏和油碳化在内的严重故障。传统上，制冷剂诊断依赖于基于热力学的启发式方法，通常需要经验丰富的服务工程师。这种人工检查过程劳动密集且经济效率低下，产生了大量的时间和服务成本。此外，准确的制冷剂充注量估计本身就具有挑战性：传感器测量强烈受环境温度、用户行为和控制逻辑的影响，而故障状态的发生频率远低于正常运行，导致即使在大规模部署中监督也是稀疏且不平衡的。

人工智能（AI）的最新进展在计算机视觉12、自然语言处理3?和医疗诊断??等领域取得了显著成功，促使它们应用于空调系统的制冷剂充注量预测。尽管这些方法在受控条件下表现出有前景的性能，但广泛采用面临两个重大挑战。第一个挑战是领域偏移，这严重限制了泛化能力。现有模型仅在测试数据分布与训练数据对齐时表现良好。如图 1a 所示，数据驱动模型在熟悉的领域内实现了高准确率。然而，如图 1b 所示，将在一种空调类型上训练的模型应用于未见过的空调单元通常会导致性能显著下降。虽然理论上可以为每种空调模型收集新数据来解决这个问题，但在频繁发布新模型的现实消费者市场中，这在操作上是不切实际的。这一限制使得领域适应（DA）方法成为必要，这些方法减轻分布差异并将从源领域学习到的知识适应到未见过的目标领域，从而能够在多种空调类型之间实现鲁棒预测。

图 1 全尺寸图像该图说明了传统制冷剂充注量水平预测中的三个挑战：(a) 基于 AI 的模型以专家水平预测制冷剂数量的能力，(b) 当输入不同空调类型的传感器数据时，领域偏移问题使预测复杂化，以及 (c) 现有 AI 模型的“黑箱”性质，缺乏可解释性，并未为其预测提供专家水平的理由。

图 2 全尺寸图像 AC-RPX 模型的推理结果：对于空调类型 A，模型以传感器数据作为输入（浅绿色），预测制冷剂水平（灰色），并提供重要特征和预测的解释（黄色）。

第二个挑战在于深度学习模型固有的缺乏可解释性。尽管实现了高准确率，但许多现有模型作为“黑箱”运行，无法为其预测提供清晰的解释，如图 1c 所示。在工业环境中，现场工程师往往不愿信任不透明的预测——尤其是在涉及安全或维护成本时——除非有可验证的证据，例如可识别的传感器异常。为了弥合这一差距，可解释人工智能（XAI）已成为一个关键的研究方向。XAI 技术大致可分为内在可解释性方法（模型在设计上是透明的）和事后解释性（在推理执行后解释训练好的模型）。虽然以前的研究主要依赖事后方法，但越来越需要模型能够提供直观的自然语言推理以充分支持人类决策。特别是，实际的空调维护需要解释清楚地说明哪些传感器变量和运行条件支持每个预测，而不是仅提供数值重要性分数或显著图。

为了克服这些挑战，我们提出了一个名为 AC-Refrigerant Prediction eXplainable AI (AC-RPX) 的统一框架。这种新颖的架构集成了增强领域特定标记的领域编码器和通过低秩适应（LoRA）优化的大语言模型（LLM）。领域编码器对齐不同空调单元之间的传感器分布以实现鲁棒预测，而经过 LoRA 微调的 LLM 提供思维链（CoT）解释，清晰地将异常传感器模式与预测状态联系起来。在实践中，AC-RPX 首先将多变量传感器序列和空调类型标识符编码为领域感知表示。然后，该表示被投影到 LLM 的标记嵌入空间中，允许模型从共享的潜在特征中联合产生离散制冷剂水平预测和自由格式的文本解释。如图 2 所示，AC-RPX 不仅能准确预测制冷剂水平，还能用自然语言阐述关键影响因素，从而提高用户信任和可解释性。为确保实用性，AC-RPX 在从真实世界消费者空调系统收集的 280,000 个专家对齐的传感器 - 解释对上进行了训练，从而将其输出建立在经验性的现场工程知识基础上。我们在六个消费者空调数据集和一项涉及 90 个真实世界单元的研究中验证了 AC-RPX。实验结果表明，AC-RPX 在 DA 基准上达到了最先进的准确率和 F1 分数，并在真实消费者数据上在预测性能和解释清晰度方面均超越了基于规则的启发式方法。这些发现表明，AC-RPX 可以为消费者空调维护服务中的自动制冷剂监测和决策支持提供实用基础。我们的主要贡献总结如下：

* 我们提出了 AC-RPX，一种用于消费者空调系统制冷剂充注量预测的新型统一框架，同时解决了领域偏移和模型可解释性问题，从而能够在不同空调类型之间可靠使用。
* 我们开发了一种基于增强领域特定标记的领域编码器的领域感知编码策略，以减轻领域偏移。通过对齐不同空调单元之间的传感器分布，该设计能够在六种具有不同硬件配置的空调模型之间实现鲁棒预测。
* 我们引入了一种与专用传感器到文本投影层集成的 LoRA 微调 LLM，该层将编码的传感器特征映射到 LLM 嵌入空间中。这种方法通过将传感器模式与预测的制冷剂充注水平联系起来，实现专家对齐的诊断解释生成。
* 我们构建了一个包含 280,000 个专家对齐的传感器 - 解释对的大规模数据集，用于训练解释生成模块。
* 在对比实验中，AC-RPX 在六种消费者空调类型上实现了最先进的准确率和 F1 分数，显著优于传统的基于卷积神经网络（CNN）的基准和代表性的 DA 方法，同时保持了参数效率。
* 在 90 个真实世界消费者空调单元上的广泛现场测试验证了 AC-RPX 的实用适用性。该框架在预测性能和解释清晰度方面均超越了基于规则的启发式方法，证明了其作为云或边缘端的自动诊断服务的潜力，而无需现场人类专家。

相关工作基于规则的启发式方法

表 1 基于规则的启发式方法制冷剂不足诊断总结。全尺寸表格

传统上，系统工程师使用基于规则的启发式方法?诊断空调（AC）系统中的制冷剂充注水平，如表 1 所述。这种方法涉及对“预条件故障”和“故障”条件的顺序审查。如果识别出“预条件故障”因素，诊断过程将在后续步骤中评估“故障”条件。随后，持续 10 分钟的“故障”状态被用作制冷剂不足的确定指标。如表 1 详述，“预条件故障”在四个变量落在预定义的操作范围内时触发。其中，“操作模式”要求设置为“冷却”以应用诊断规则。类似地，“故障”状态是基于另一组四个变量是否满足特定标准来定义的。尽管这种启发式方法被广泛使用，但它本质上效率低下且容易受到准确性限制，因为它难以考虑现实环境中多个操作变量之间复杂的同时交互作用。

领域适应（DA）当测试数据的特征空间与训练数据的特征空间对齐时，深度学习模型通常实现高预测性能。然而，当模型在训练分布之外的数据上进行评估时，会发生一种称为领域偏移的现象。由于源数据和目标数据分布之间的差异，这导致推理性能下降。为了缓解这一挑战，领域适应（DA）方法已被开发，以将知识从源领域转移到目标领域，从而最小化分布差异。

该领域之前的 DA 研究探索了几种方法。例如，多源领域适应（MSDA）? 集成来自多个源领域（例如，来自各种机器的数据）的知识，以诊断新目标领域中的缺陷。另一种方法，对比对抗领域适应（CADA）?，将对比学习与对抗性 DA 相结合，通过在潜在空间中将相似的跨域样本拉近同时将不相似的样本推开，以最小化域间差异。为了解决数据稀缺问题，层次对齐1? 使用合成数据来补偿缺乏标注的真实环境数据。此外，引入了无监督学习框架11 以在没有目标标签的情况下提取特征，采用最大均值差异（MMD）来最小化特征级距离，同时使用压缩模型消除冗余卷积通道以减少计算开销。最近，提出了基于知识挖掘的语义感知网络（KMSA-Net）12 以捕获跨领域的判别性特征，保持跨领域一致性，并在知识转移过程中施加语义约束。虽然这些方法有效地解决了分布对齐问题，但它们往往缺乏工业诊断所需的可解释性——我们提出的 AC-RPX 框架旨在通过集成领域感知编码与自然语言解释来填补这一空白。

可解释人工智能（XAI）最近的人工智能（AI）系统提供准确的预测，但其内部决策过程往往仍然不透明，导致它们被视为“黑箱”。这种缺乏透明度可能阻碍用户信任并 complicates 错误或输出的识别或纠正，这一挑战正式被称为“缺乏可解释性”。为了解决这个问题，可解释人工智能（XAI）研究旨在使模型操作透明，从而培养用户信心并实现更可靠的人机协作。XAI 方法通常分为内在可解释性和事后解释性。

在内在方法中，模糊逻辑13 是建模复杂系统不确定性的有效方法。它已被用于基于传感器数据开发机器人点焊缺陷诊断框架1?，利用其管理决策不确定性的能力进行精确故障识别。类似地，随机森林1? 作为决策树的集合，已被应用于船舶电力推进系统1? 的事件日志分析和预测性维护。这种方法能够评估变量重要性并识别监控系统状态的关键信息。对于更复杂的架构，事后方法更为普遍。Grad-CAM1? 通过突出输入数据内的显著区域来可视化卷积神经网络（CNN）的决策过程。它已被广泛用来验证电力质量扰动分类器1? 的可靠性和可解释性，诊断直线运动导轨缺陷1?，以及识别传感器数据图像中与故障相关的模式2?。此外，沙普利加性解释（SHAP）21 提供了每个输入特征对特定预测的数值贡献。这种方法已应用于工业过程22 中的缺陷诊断和实时息肉诊断23 以解释复杂的决策过程。然而，虽然这些方法提供视觉显著图或数值重要性分数，但它们往往无法满足现场工程师所需的直观自然语言推理。我们提出的 AC-RPX 框架通过生成 CoT 解释来将抽象的传感器模式转化为人类可读的理由，从而解决了这一局限性。

大语言模型和大多模态模型最近，大语言模型（LLMs）和大多模态模型（LMMs）的进步通过集成多种数据模态，包括文本2?、图像2? 和音频2?，带来了显著的性能提升。LLMs 在自动化基于文本的任务和模拟类似人类的认知过程中已成为重要工具。

复杂的提示技巧，如思维链（CoT）27 和 Plan-and-Solve28，进一步增强了复杂问题解决和推理能力。因此，LLM 越来越多地被部署在需要专家级知识的专门领域，如法律 29、金融 30 和医疗 31。在工业环境中，像 GPT-4 这样的 LLM 已被用于优化供暖、通风和空调（HVAC）系统 32。这些模型已证明有能力使用比传统强化学习方法少得多的样本开发高性能控制器 33。在这些进展的基础上，出现了专门的 LMM 来处理工业环境中固有的复杂多模态数据。例如，AnomalyGPT34 利用大型视觉 - 语言模型通过交互式对话检测并定位工业异常。此外，FaultGPT35 将振动信号与 LLM 集成以自动化生成综合故障诊断报告，而 Time-LLM36 将多变量时间序列传感器数据与 LLM 的语言空间对齐，以实现稳健的预测性维护。LLM 和 LMM 架构的这些进展通过桥接数值传感器序列与自然语言推理，实现了多模态数据的集成分析，从而为复杂问题解决提供了变革性的解决方案。

材料与方法 数据收集与注释

在本研究中，我们整合了各种室内机和室外机的传感器数据，构建了用于预测空调（AC）系统中制冷剂充注量的综合数据集。为了确保对多样化运行条件的稳健表示，我们获取了一个大规模数据集，每种 AC 类型（标记为 A 到 F）包含 500,000 个样本，总计三百万原始传感器样本。如图 3 所示，每个室内机都与相应的室外机唯一配对，以保持运行连贯性。

图 3 全尺寸图像 从各种室内机和室外机集成传感器数据，构建用于制冷剂充注量预测的综合数据集。

数据收集期因单元类型而异。A、B 和 C 类型的数据是在 2021 年 9 月 17 日至 2022 年 7 月 1 日的 11 个月期间收集的。对于 D、E 和 F 类型，收集时间跨度为 2023 年 3 月 17 日至 5 月 17 日的 3 个月，从而产生了六个不同的数据集，涵盖了各种季节和环境条件。实验方案受到严格控制，以初始制冷剂充注量设定为 60% 容量开始，随后每周增加 10%，直到达到 100%。该周期每五周重置回 60% 基线。AC 单元的运行模式设定为在三小时间隔内每 10 分钟循环开关。数据根据制冷剂充注量进行仔细注释，为每种 AC 类型划定在 60%、70%、80%、90% 和 100%。尽管这些单元代表多样化的商业硬件配置，但具体的型号名称和商标根据保密协议被匿名化为任意标识符（A 到 F）。

表 2 通过 SHAP 分析确定为影响特征的 17 个关键传感器变量列表。全尺寸表格

图 4 全尺寸图像 类别 0（60% 制冷剂水平）的代表性放大 SHAP 可视化，旨在提高变量名称及其对应重要性分数的可读性。其余制冷剂水平的完整 SHAP 可视化在线提供于补充图 S1-S4 中。

我们分析了初始的 126 个变量数据集，并执行了变量选择过程，以识别与 AC 系统中制冷剂充注量预测相关的特征。我们首先排除了 59 个常量变量（例如，0、1、255、NaN）和 12 个被认为与预测无关的属性变量（例如，LED 亮度、序列号、人体检测模式和运行小时数）。为了从剩余的 55 个变量中提炼出最有影响力的特征，我们采用了 SHapley Additive exPlanations (SHAP) 方法。图 4 展示了类别 0（60% 制冷剂水平）的代表性放大 SHAP 可视化，清晰地显示了变量名称及其对应的重要性分数。其余制冷剂水平的完整 SHAP 可视化在线提供于图 S1-S4 中。在所有 AC 类型中经过一致分析后，选择了 17 个共同变量，如表 2 所示。

图 5 全尺寸图像 Mixtral-8x7B 和 Llama2-70B 之间数据生成性能的比较。与 Llama2-70B 相比，Mixtral-8x7B 表现出更高的逻辑一致性和更少的错误。

原始传感器数据最初收集为跨越五周周期（制冷剂水平从 60% 到 100%）的连续时间序列。顺序结构未直接用于模型训练和评估。相反，我们的团队使用基于状态的采样策略重构了数据集。数据按离散制冷剂水平分组，包括 60%、70%、80%、90% 和 100%，并在整个时间范围内从每组中随机抽取相等数量的样本。此过程有意打破了时间连续性，并降低了时间上相邻或高度相关的样本同时包含在训练集和测试集中的可能性。每个样本对应于足够系统运行时间后的稳定运行状态，这使得观测值可以被视为近似独立的。通过这种设计降低了时间数据泄漏的风险。重构后的数据集随后按 80%、10% 和 10% 的比例分为训练集、验证集和测试集，同时在所有分割中保持相同的类分布。

制冷剂充注量本质上是一个连续的物理量。在本研究中，它被视为一个离散分类问题。在实际维护场景中，服务工程师通常使用离散水平（例如，高、中和低）来评估系统状况，而不是估计确切值。本研究中使用的间隔（60% 到 100%）旨在反映这些现实世界的诊断标准。此外，由于数据是在稳态条件下以固定的 10% 增量收集的，因此它们自然地组织成定义明确的离散水平。此外，传感器测量受环境条件和操作噪声的影响，在这种情况下，分类方法比回归提供更稳定和稳健的预测。

基于确定的 17 个传感器变量，我们构建了一个解释性数据集，以支持与专家对齐的诊断解释生成。我们从大规模池（总计 300,000）中为每种 AC 类型采样了 50,000 个实例，以生成关于制冷剂充注量的诊断理由。鉴于手动起草如此大量数据的解释是不切实际的，我们利用了开源大语言模型（LLM），特别是 Mixtral-8x7B37 和 Llama2-70B38，来自动化理由生成过程。对比实验表明，Mixtral-8x7B 模型提供了更优越的逻辑一致性和更准确的解释，错误率约为 10%，而 Llama2-70B 观察到的错误率为 20%。

因此，选择了 Mixtral-8x7B 进行最终数据生成。图 5 展示了两个模型之间解释性数据生成结果的比较。然后，我们开发了一个优化的数据生成模板，该模板与传感器数据结合构建输入，并在本地执行零样本生成。如图 6a 所示，专家判断标准被用作提示，使 LLM 能够阐明预测制冷剂水平背后的推理。在自动生成之后，我们进行了如图 6b 所示的评估过程。人类专家手动审查输出以纠正传感器值错误并消除逻辑上有缺陷的推理。这一严格的流程产生了 280,000 个与专家意见一致的高质量解释对最终数据集。

图 6 全尺寸图像 数据集构建过程概述：（a）来自 300,000 个 HVAC 传感器的输入数据与专家知识结合形成输入数据集，并使用 Mixtral-8x7B 通过零样本提示生成解释性数据。（b）生成的数据由专家验证，专家手动纠正公式错误等简单问题，并丢弃具有逻辑错误等严重错误的数据。

为了确保生成的解释性数据的可靠性，Mixtral-8x7B 的输出未被直接用作最终标签。相反，它们被视为初步草稿，并通过领域专家进行的人类验证过程进行后续完善。在此阶段，审查生成的理由是否与传感器测量一致，并移除物理上不可能或逻辑不一致的解释。这种人机协作的策展过程允许最终数据集反映领域知识，而不是仅仅依赖模型生成的输出。虽然此过程不能完全消除所有潜在偏差，但它减轻了模型诱导伪影的影响，并提高了用于 LoRA 微调 LLM 的训练数据的整体可靠性。

方法

我们介绍了 AC-RPX，这是一个统一框架，将领域感知特征提取与大规模语言理解相结合，以解决领域偏移并提供可解释性。如图 8 所示，AC-RPX 由三个协同组件组成。首先，如图 7 所示的领域编码器，注入领域特定令牌（D 令牌），从原始传感器数据中提取领域不变特征，使模型能够泛化到各种 AC 类型。其次，传感器到文本投影层充当跨模态桥梁，将数值特征转换为与 LLM 兼容的语义令牌嵌入。最后，我们的方法采用 Mistral-8x7B39，使用 LoRA40 微调，以利用其在解释传感器模式方面的广泛先验知识。这种集成设计启用了一个结构化且逻辑有根据的推理过程（SQ \(\rightarrow\) A），从传感器数据（S）和相关问题（Q）生成诊断输出和专家对齐的自然语言解释（A）。

领域编码器

图 7 全尺寸图像 领域编码器架构：每种空调类型被分配一个 D 令牌，当引入新的 AC 类型时可以引入额外的 D 令牌。传感器值被嵌入并与 D 令牌一起输入模型，MLP 头被训练以预测剩余的制冷剂充注量。

为了减轻各种 AC 类型之间的领域偏移问题，我们采用了 D 令牌。这些令牌作为可学习嵌入，旨在准确捕获每个领域的特征并促进在不同 AC 类型之间的有效泛化。来自空调的传感器数据 S 转换为 D 维向量如下：

$$\begin{aligned} X = \textit{TE}({\varvec{{S}}}) + \textit{PE} \in \mathbb {R}^{N_S \times D}\, , \end{aligned}$$
(1)
其中 PE 表示位置编码。通过令牌嵌入（TE）将数值转换为向量表示，允许模型以统一的方式处理文本和数字。\(X\) 与 \(T\)（D 令牌）的连接用作编码器的输入：

$$\begin{aligned} \begin{aligned} X_C = \text {Concat}(X,T)\in \mathbb {R}^{{(N_S + N_T)} \times D}\\ where \ T = [T_{i1}, T_{i2}, \ldots , T_{iN}] \in \mathbb {R}^{N_T \times D}\, , \end{aligned} \end{aligned}$$
(2)
这里，\(i\) 表示 AC 类型，\(N\) 表示令牌长度。如公式（2）所定义，这种模块化设计通过在引入额外的 AC 模型时附加新的 D 令牌来实现可扩展性，从而对齐它们相应的传感器分布（图 7）。编码器以 \(X_C\) 作为输入并提取特征表示 \(X_F\)：

$$\begin{aligned} X_F = \text {Encoder}(X_C)\, . \end{aligned}$$
(3)
编码器由多头注意力层、残差连接、归一化层和前馈层组成。多头自注意力在编码器中起着至关重要的作用，分析输入数据不同部分之间的复杂关系。该结构并行采用几个自注意力层（头），同时捕获数据的各个方面。每个头对输入数据执行以下操作：

$$\begin{aligned} H = \text {Self-Attention}(Q, K, V) = \text {Softmax}(\frac{QK^T}{\sqrt{d_k}})V\, , \end{aligned}$$
(4)
其中 \(Q\)、\(K\) 和 \(V\) 分别是查询、键和值向量，\(\sqrt{d_k}\) 是缩放因子。然后组合所有头的输出以生成最终输出如下：

$$\begin{aligned} \begin{aligned} \text {MultiHead}(Q, K, V) = \text {Concat}(H_1, H_2, ..., H_h)\\ where \ H_l = \text {Self-Attention}(Q_l, K_l, V_l)\, , \end{aligned} \end{aligned}$$
(5)
其中 \(l\) 表示头的索引。通过公式（5），模型能够有效地学习和理解每个空调领域传感器数据中的各种模式。提取的特征 \(X_F` 通过多层感知机（MLP）头转换为最终类标签如下：

$$\begin{aligned} Y = \text {MLP Head}(X_F)\, . \end{aligned}$$
(6)
通过此过程，模型能够预测与各种空调传感器数据相对应的制冷剂充注量。

Mistral 和 LoRA

Mistral 是一个大语言模型（LLM），采用滑动窗口注意力（SWA）41 和分组查询注意力（GQA）42 方法，在处理长序列时减少内存使用并提高推理速度。SWA 通过在指定窗口大小内的令牌进行计算来限制每层处理的令牌范围。

在 SWA 的公式 (7) 中，与公式 (4) 不同，使用掩码矩阵 (M:=\(-\infty\)) 来排除超过固定窗口大小的令牌。
$$\begin{aligned} \text {SW-Attention}(Q, K, V) = \text {Softmax}(\frac{QK^T}{\sqrt{d_k}}+M)V\, . \end{aligned}$$ (7)
GQA 是一种将大型注意力矩阵划分为较小组进行处理的方法，通过部分计算代替对整个序列的计算。在 GQA 的公式 (8) 中，序列被划分为 \(i\) 组，并在每个 \(i\) 组内执行注意力计算。这些计算完成后，所有组的结果拼接在一起。
$$\begin{aligned} \text {GQ-Attention}(Q, K, V) = \text {Softmax}(\frac{Q_iK_i^T}{\sqrt{d_{k,i}}}+M_i)V_i\, . \end{aligned}$$ (8)
LoRA（低秩适应）是一种微调大型语言模型 (LLM) 的方法，无需直接修改模型参数即可使用额外的模块。该方法将低秩 \(r\) 的 \(A\) \(\in\) \(\mathbb {R}^{d \times r}\) 和 \(B\) \(\in\) \(\mathbb {R}^{r \times d}\) 应用于每个线性层，将现有参数 \(W\) 转换如下：
$$\begin{aligned} W' = W + AB, \quad r \ll d\ \, . \end{aligned}$$ (9)
这种结构增加了模型的表示能力，同时显著减少了可训练参数的数量。
AC-RPX 和可解释性
我们通过将经过 LoRA 微调的 Mistral 与领域编码器集成，开发了专门用于 AC 领域的模型 AC-RPX。为了将传感器数据 S 连接到 LLM，我们在领域编码器中增加了一个可训练的传感器到文本投影层，使其与 Mistral 的嵌入大小对齐。通过此过程，S 被投影如下：
$$\begin{aligned} {\varvec{{s}}} = [s_1,s_2, \dots , s_{L}] = \text {Linear}(X_F) \in \mathbb {R}^{L \times D}\, , \end{aligned}$$ (10)
其中，D 代表 Mistral 的嵌入维度，L 表示传感器的数量。同样，我们将问题 q 和答案 a 嵌入如下：
$$\begin{aligned} {\textbf {q}} = [q_1, \dots , q_{N_q}] \in \mathbb {R}^{N_q \times D}, {\textbf {a}} = [a_1, \dots , a_{N_a}] \in \mathbb {R}^{N_a \times D}\, , \end{aligned}$$ (11)
其中 \(N_q\) 和 \(N_a\) 分别代表问题和答案序列的长度。当嵌入的令牌序列 s、q 和 a 按顺序拼接并输入到 Mistral 时，输出如下：
$$\begin{aligned} [h^s, h^q, h^a] = \text {Mistral}([{\varvec{{s}}}, {\varvec{{q}}}, {\varvec{{a}}}], {\varvec{{p}}})\, , \end{aligned}$$ (12)
其中 p 代表可训练参数，\(h^s\) 是输出特征序列，即 \(h^s\) = [\(h^s_1\),..., \(h^s_{N_s}\)]，\(h^q\)、\(h^a\) 的定义类似。
图 8 全尺寸图像
AC-RPX 框架示意图：冻结的领域编码器与经过 LoRA 微调的 LLM 的集成。训练阶段仅优化 D 令牌和 LoRA 适配器。传感器到文本投影层将传感器特征 (S) 与 LLM 的嵌入空间对齐，以便与问题 (Q) 和答案 (A) 进行联合处理。
如图 8 所示，在此阶段，领域编码器保持冻结，仅训练 D 令牌和 LoRA 参数。这防止了已学习传感器模式的丢失，同时使 LLM 能够理解 AC 领域。
可解释性机制：训练过程遵循两阶段策略。在第一阶段，使用交叉熵分类损失训练领域编码器和 MLP 头，以预测制冷剂水平。在第二阶段，编码器被冻结，并使用语言建模损失 \(L_{\text {sqa}}\) 单独训练 LLM。这种解耦的训练设计减少了分类和生成目标之间潜在的干扰，并稳定了学习过程。AC-RPX 的可解释性是内在的。通过训练 280,000 个专家对齐的传感器 - 解释对，模型学会了生成思维链 (CoT) 解释，明确地将异常的传感器模式与预测状态联系起来。主要任务是在给定传感器 - 问题对 SQ \(\rightarrow\) A 的情况下预测答案，使用目标函数：
$$\begin{aligned} L_{\text {sqa}} = -\log P({\varvec{{a}}}|{\varvec{{s}}},{\varvec{{q}}}) = -\sum _{t=0}^{N_a-1} \log P(a_{t+1}|{\varvec{{s}}},{\varvec{{q}}},a_{\le t})\, , \end{aligned}$$ (13)
其中 s 和 q 作为前缀生成答案 a。注意 \(P(a_1|{\varvec{{s}}}, {\varvec{{q}}}, a_\le 0) := P(a_1|{\varvec{{s}}}, {\varvec{{q}}})\)。然后，(13) 中的概率计算如下：
$$\begin{aligned} P(a_{t+1}|{\varvec{{s}}}, {\varvec{{q}}}, a_{\le t}) = \text {Softmax}(\text {Linear}(h^a_t))\, . \end{aligned}$$ (14)
在推理时，模型预测诊断理由：
$$\begin{aligned} \hat{{\varvec{{a}}}} = \arg \max P({\varvec{{a}}}|{\varvec{{s}}}, {\varvec{{q}}})\, . \end{aligned}$$ (15)
通过这种方法，我们为每种 AC 类型高效生成特定领域的响应，并通过更新可训练参数 p 来优化模型。我们仅训练了 Mistral 总参数的大约 \(0.6\%\)（约 6000 万）。
实验
在描述我们的实验之前，我们整理了一个源自三百万条空调 (AC) 传感器记录的大规模数据集。最近，利用大型语言模型 (LLM) 进行数据合成已获得了极大的关注。例如，Alpaca43 利用 GPT-3 处理“Self-Instruct”管道，生成了 52,000 个指令示例来训练 LLaMA-70B38 模型。同样，Vicuna44 使用了从用户与 ChatGPT 交互中获得的多轮对话数据集。
在本研究中，我们利用 LLM 生成了制冷剂充注水平的解释数据集。由于企业传感器数据的专有性质，使用 ChatGPT 或 Gemini 等闭源模型不适合保持数据安全。因此，我们选择了开源的 Mixtral-8x7B37 来生成解释理由。这种方法使我们能够构建一个包含 280,000 个高质量传感器 - 推理对的精选数据集，基于专家判断标准并通过错误反馈进行优化。数据生成管道的更多技术细节记录在材料部分。
领域适应性能分析
为了评估我们框架的有效性，我们针对各种基准模型进行了全面的对比分析。所有基准模型均按照其原始公式实现，包括各自的损失函数和优化策略，如表 3 所示。
表 3 所有模型的详细训练配置和目标函数。所有基准方法均按照其原始公式实现，包括特定模型损失函数和优化策略。
全尺寸表格
为了确保公平比较，我们统一了所有模型的数据划分、输入特征和评估协议，同时保留了特定模型的训练方案。
表 4 跨域性能验证中各 AC 领域准确率得分对比（粗体表示每列中的最佳性能）。
全尺寸表格
所选方法提供了三个互补视角的平衡评估。具体来说，该框架比较了没有领域适应的标准深度学习模型、代表多样化对齐策略的广泛采用的领域适应方法，以及针对特定任务对比的领域感知变体 (DA-TE)。如表 4、5 和表 6 所示，缺乏领域适应 (DA) 能力的基准模型（如 ResNet-5045 和标准 Transformer 编码器 (TE)46）在评估未见过的 AC 类型时表现出持续较低的准确率。虽然 TE 略微优于 ResNet-50，但这两个模型对传感器数据中的领域偏移都非常敏感，导致在不同环境下的泛化性能下降。
表 5 跨域性能验证中各 AC 领域 F1 分数对比。
全尺寸表格
表 6 跨域性能验证中各 AC 领域召回率得分对比。
全尺寸表格
为了解决这个问题，我们评估了几个 DA 基准，包括 DAN47、DANN48、CDAN49、DCAN50、CADA51、SDAT52 和 DAT7，它们通过对齐源域和目标域特征分布提高了准确率。然而，这些方法最初是为基于图像的领域开发的，主要专注于实现全局分布对齐。因此，它们在捕捉制冷剂循环固有的复杂物理关系和特定传感器逻辑方面效果较差。相比之下，我们提出的 DA-TE 利用 TE 作为特征提取器，并通过引入 D 令牌实现了更高的准确率。这些令牌并非将所有数据强制为单一的全局分布，而是作为特定机器的标识符，允许模型根据每种 AC 类型的独特特性动态调整特征重要性。这种设计使编码器能够学习既具有物理意义又跨领域鲁棒的表示。
AC-RPX 实现的进一步性能提升归因于 LLM 的集成。虽然传统数值模型仅依赖统计相关性，但 LLM 结合了从专家对齐解释中学习的诊断模式，包括具有物理意义的关系，如排气温度与制冷剂质量之间的关联。
这种知识对齐的解释生成对于纯数据驱动模型通常难以做出一致决定的边界情况特别有效。此外，AC-RPX 表现出增强的预测稳定性。与 DA-TE 相比，AC-RPX 观察到的较低标准差表明，LLM 有助于在多样化的领域配置下实现更可靠和稳定的性能。总的来说，这些结果表明，领域感知特征提取与专家对齐诊断解释生成的协同集成，使 AC-RPX 能够稳健地弥合多样化 AC 系统中的分布差距。
解释质量评估
对生成解释的评估涉及标准的自然语言生成指标。BLEU-4 通过 n-gram 精度评估词汇重叠。ROUGE-L 基于最长公共子序列测量结构相似度。BERTScore 使用上下文嵌入计算语义对齐。将 AC-RPX 在测试集上产生的解释与经领域专家优化的专家对齐参考解释进行了比较。如表 7 所示，AC-RPX 取得了 0.487 的 BLEU-4 分数和 0.891 的 BERTScore，表明与专家诊断推理具有强大的结构和语义对齐。
表 7 生成的自然语言解释与专家对齐真值的定量评估。
全尺寸表格
人类评估
对 AC-RPX 生成理由质量的客观验证涉及由 57 名领域专家（包括认证的 HVAC 服务工程师）进行的人类评估。这些专家使用 5 点李克特量表，在包括正确性、可解释性、可靠性、一致性和简洁性在内的五个定性维度上比较了基于规则的系统和 AC-RPX 的诊断解释。如表 8 所示，AC-RPX 在正确性 (4.38)、可解释性 (4.51) 和可靠性 (4.42) 方面显著优于基于规则的方法。虽然基于规则的方法由于其确定性和刚性特性在一致性和简洁性方面得分较高，但专家认为 AC-RPX 提供了更有信息量和洞察力的解释，有助于理解制冷剂不足的潜在物理原因。这些结果表明，我们的模型生成的可信且人类可读的诊断理由与真实世界工业环境中的专家评估标准高度一致。
表 8 由 57 名领域专家使用 5 点李克特量表进行的人类评估结果。
全尺寸表格
模型优化的消融实验
我们进行了全面的消融实验以优化 AC-RPX 的超参数，侧重于低秩适应 (LoRA) 配置、训练时长和最佳 D 令牌数量。首先，表 9 总结了 LoRA 秩 (r) 和 alpha (\(\alpha\)) 设置对模型性能的影响。所有结果均使用 5 折交叉验证获得，其中每一折保留数据集的类分布。报告的性能对应于五折的均值和标准差。结果表明，模型在 \(r=16\) 和 \(\alpha =32\) 时达到最佳性能。此配置仅利用了总可训练参数的 0.60%，同时实现了 \(0.773 \pm 0.003\) 的准确率、\(0.759 \pm 0.003\) 的 F1 分数和 \(0.760 \pm 0.010\) 的召回率。它在精确率和特异度方面也表现出强大的性能。较低的秩（例如 \(r=4\)）由于适应能力不足导致欠拟合，而较高的秩（例如 \(r=64\)）显示收益递减。这表明，尽管 LoRA 具有模块化特性，适应层中过多的参数可能导致过拟合。
表 9 LoRA 超参数（秩 r 和 Alpha \(\alpha\)）对模型性能影响的消融实验。
全尺寸表格
其次，表 10 中训练动态的分析强调了早停对于保持高泛化性能的重要性。AC-RPX 迅速收敛，在第 3 轮次达到最佳状态，拥有最高的准确率、F1 分数、召回率和最低的验证损失 (1.098)。将训练延长至 10 轮次导致验证损失大幅增加至 1.890，相应的准确率下降至 \(0.734 \pm 0.012\)，F1 分数下降至 \(0.718 \pm 0.014\)。训练损失 (0.420) 与验证损失之间的这种急剧分歧清楚地表明，超过第 3 轮次后显著过拟合的开始。
表 10 不同训练轮次下模型性能评估。指标代表三次运行计算的均值和标准差。
全尺寸表格
表 11 D 令牌数量 (N) 对跨域泛化和预测性能的影响。
全尺寸表格
最后，我们评估了 D 令牌 (N) 数量对减轻领域偏移的影响，如表 11 所示。没有这些令牌 (\(N=0\)) 导致预测准确率大幅减少至 \(0.659 \pm 0.007\)，F1 分数减少至 \(0.650 \pm 0.008\)，证实了它们是捕捉领域不变特征不可或缺的。在 \(N=20\) 时实现了最佳性能，提供了足够的容量来编码独特的领域特性。

将令牌数进一步增加到 \(N=30\) 会引入不必要的噪声，从而略微降低模型在预测制冷剂充注量水平方面的有效性，准确率降至 \(0.768 \pm 0.004\)，F1 分数降至 \(0.752 \pm 0.005\)。这些结果表明，中间的令牌数量是平衡表示能力和抗噪性的理想选择。与现有 XAI 方法的比较 图 9 完整尺寸图像 随机森林和 SHAP 解释结果（粗体表示与 70% 制冷剂水平下识别出的关键特征重叠的变量）。图 10 完整尺寸图像 反事实解释和 AC-RPX 解释结果。为了评估 AC-RPX 提供的解释的可靠性和人类可读性，我们与其他 XAI 模型进行了对比实验。具体来说，我们将随机森林、SHapley 加性 exPlanations (SHAP) 和反事实解释应用于领域编码器作为基准。基于特征的方法，如随机森林和 SHAP，通过为各个输入变量分配重要性分数来解释模型的决策。虽然随机森林基于节点不纯度分配重要性分数，这是一种主要单独评估变量且经常忽视复杂变量间依赖性的指标，但 SHAP 考虑了变量间的交互，在全局和局部层面提供了更一致和可靠的解释。如图 9 所示，随机森林和 SHAP 都基于输入传感器数据中变量的重要性来预测制冷剂充注量水平。然而，这些方法本质上仅限于识别“哪些”变量在统计上显著，无法提供因果“为什么”或用户可直观遵循的逻辑理由。反事实解释 53 通过生成类似于给定输入但具有不同预测结果的假设输入来描述模型预测。这种方法帮助用户理解哪些输入调整会将模型输出推向期望状态。如图 10 所示，当生成的传感器数据与期望结果紧密一致时，可以预测制冷剂充注量水平。然而，由于这些输出仅限于原始数值，它们并未阐明 AC 系统潜在的物理行为或提供维护动作所需的技术依据。为了克服这些局限性，AC-RPX 被专门设计用于提供逻辑连贯且易于理解的解释，这些解释结合了各种操作变量的因果影响。与常规方法不同，AC-RPX 将复杂的模型推理转化为结构化且直观的自然语言解释。如图 10 所示，AC-RPX 将原始传感器数据与结构化推理过程相结合，提供可解释的诊断输出，显著增强了模型透明度。通过提供基于证据的推理，它确保了其发现既可靠又可直接应用于现实世界的工业维护任务。与基于规则的字域诊断的比较 表 12 提出的 AC-RPX 与基于规则的启发式方法在场评估中的性能比较。粗体表示 AC-RPX 误分类的案例。（粗体表示 AC-RPX 误分类的案例）。完整尺寸表格 为了评估提出的 AC-RPX 模型在现实环境中的有效性，我们在 90 台实际消费者操作的真实 AC 单元上进行了现场测试。该实验将 AC-RPX 的诊断性能与常规基于规则的启发式方法（记为"RULE"）进行了比较，后者是专家服务工程师目前采用的标准。图 11 完整尺寸图像 AC-RPX 解释和 RULE 解释结果。如表 12 所示，"RULE"代表基于规则的启发式预测结果，而"AC-RPX"表示我们提出的模型的预测。“结果”列指示真值，其中“高”表示由于制冷剂充注量水平不足导致故障的关键风险，具体定义为最优充注量的 \(60\%\)。例如，在 9 号单元的情况下，"RULE"错误预测为“低”风险，而 AC-RPX 准确识别出“高”风险状态，与真值中验证的 60% 制冷剂水平一致。此案例突出了静态启发式规则在捕捉复杂现实操作条件方面的局限性。定量来看，基于规则的方法准确诊断了 90 台单元中的 73 台。相比之下，AC-RPX 表现出明显更高的准确率，成功纠正了大多数"RULE"错误。具体来说，在启发式方法失败的 17 台单元中，AC-RPX 为除三种情况（39、56 和 83 号单元）外的所有情况提供了正确的预测。我们进一步分析了这些失败案例。39 和 56 号单元对应于相邻 HIGH 和 MID 类别之间的误分类。由于制冷剂充注量是连续物理量但被建模为离散水平，靠近类别边界的样本表现出重叠的传感器模式，使其本质上难以区分。这些单元位于此类过渡区域，操作条件的微小变化可能导致不同的类别分配。83 号单元显示出较大的差异。检查后发现，传感器测量值与标准 LOW 级行为相比表现出非典型模式，表明现实世界的因素如测量变异性或不稳定操作条件可能会影响某些情况下的预测可靠性。总体而言，这些观察表明，尽管 AC-RPX 整体性能强劲，但边界样本和非典型传感器条件仍然是挑战。尽管如此，这些结果表明，AC-RPX 与传统基于规则的启发式方法相比，提供了改进的预测鲁棒性。此外，如图 11 所示，AC-RPX 生成的文本解释比"RULE"提供的更具可理解性和可靠性。这种可解释性使服务工程师能够更有效地利用 AI 驱动的见解进行主动维护。讨论 准确预测 AC 系统中的制冷剂充注量水平对于防止效率下降和组件故障至关重要。然而，该领域深度学习模型的应用受到了两个主要挑战的阻碍：由多样 AC 类型引起的领域偏移问题以及神经网络的“黑盒”性质，限制了可解释性。在本研究中，我们提出 AC-RPX 以通过结合 DA-TE 和 LLM 来同时解决这些局限性。我们的实验结果表明，领域偏移问题（即由于训练和测试数据分布差异导致性能下降）可以通过使用 D 令牌得到有效缓解。如表 4 所示，当在未见过领域评估时，ResNet-50 和标准 TE 等传统方法的准确率显著较低（平均分别为 0.467 和 0.522）。相比之下，我们提出的 DA-TE 取得了实质性改进，平均准确率为 0.764，而 AC-RPX 进一步优化至 0.773，确立了新的最先进性能。这表明，D 令牌的集成使模型能够捕捉不同 AC 单元之间的判别性特征，无需在新数据集上进行大量重新训练即可保持跨领域一致性。此外，Mixtral-8x7B 与 LoRA 微调的集成使得能够生成逻辑连贯的解释，解决了现有模型缺乏可解释性的问题。虽然传统的 XAI 方法（如 SHAP 或反事实分析）提供数值特征重要性或假设场景，但它们通常无法提供实际现场应用所需的直观诊断解释。如图 6 所示，AC-RPX 超越了这些方法，基于 280,000 个专家对齐的传感器 - 推理对数据集生成自然语言理由，从而产生与专家完善的诊断参考解释相一致的见解。如表 12 所示，在 90 台真实消费者 AC 单元上进行的现场测试进一步验证了这一能力，其中 AC-RPX 成功识别出了启发式规则方法未能检测到的“高”风险案例（例如，ID 9, 19, 23）。这表明，与传统的基于规则的启发式方法相比，我们的数据驱动方法提供了改进的诊断准确性和清晰度。尽管取得了这些令人鼓舞的结果，但仍有一些局限性需要考虑。当前模型利用通过 SHAP 分析从最初的 126 个变量池中选出的特定 17 个传感器变量子集。虽然这些特征被证明对考察的 AC 类型有效，但未来应用于更广泛的系统可能需要重新评估特征重要性。此外，虽然 LoRA 显著减少了可训练参数的数量至仅 0.60%（约 6000 万个参数），但运行 LLM 的计算成本仍然高于轻量级数值模型。对于未来的工作，提出的方法可以从基于 SHAP 的静态特征选择扩展为领域编码器内的动态特征重校准过程。我们计划引入基于注意力的门控机制 54,55，根据实时操作上下文自动优先处理相关传感器输入。这些方法允许在实例层面更精确地评估特征依赖性，并实现针对变化负载条件的自适应诊断过程。鉴于工业 HVAC 系统的多样性，如变频制冷剂流量（VRF）单元和冷水机组，我们旨在结合元学习 56,57，以便用最少数据样本快速适应未见过的领域。此外，为了能够在资源受限的嵌入式硬件上部署，我们将通过模型压缩技术如量化感知训练（QAT）58,59 和知识蒸馏来优化 LLM。这些方法预计将显著减少计算延迟和内存使用，确立 AC-RPX 作为多种工业环境中实时维护预测的可行且高效的工具。结论 本文介绍了 AC-RPX，一种将领域适应与 XAI 相结合的新方法，用于准确预测和解释 AC 系统中的制冷剂充注量水平。通过将 D 令牌纳入 DA-TE 并利用 LoRA 微调的 LLM 生成专家对齐的诊断解释，AC-RPX 有效缓解了领域偏移问题，同时提供了透明、人类可读的结果。我们广泛的实验证实，提出的模型在领域适应方面达到了最先进性能，并生成了比现有 XAI 方法清晰度更高的解释。AC-RPX 的实用价值通过现实世界实验得到了验证，其中它优于作为现场诊断基准的常规基于规则的启发式方法。通过利用 280,000 个专家对齐的传感器 - 推理对数据集，AC-RPX 生成的自然语言理由在清晰度和逻辑连贯性方面优于基于特征重要性或反事实值的传统 XAI 输出。这些发现表明，AC-RPX 可以作为商业应用的可靠工具，通过减少对即时现场人工干预的依赖来实现高效维护并降低服务成本。通过提供一种在不同 AC 配置下既准确又对最终用户可解释的解决方案，本研究为智能 HVAC 管理系统的进步做出了贡献。未来，我们计划通过模型压缩技术将此框架扩展到更广泛的工业冷却系统谱系，并为其边缘设备部署进行优化，确保实时效率和更广泛的工业适用性。