CLARI:针对运行条件变化下的小样本软感知,基于约束反射的LLM推理方法

《Control Engineering Practice》:CLARI: Constrained reflective LLM inference for few-shot soft sensing under operating-condition drift

【字体: 大 中 小 】 时间:2026年08月16日 来源:Control Engineering Practice 5.3

编辑推荐:

  摘要工业软感知旨在从日常收集的过程数据中推断出那些难以直接测量的质量变量。在实际工厂中,稀疏的监督数据以及不断变化的操作条件会导致强烈的非平稳性,从而降低传统数据驱动模型的可靠性。尽管大型语言模型能够实现高效的数据推理,但由于语言预训练、连续数值预测与物理过程约束之间的不匹配,将

  

摘要

工业软感知旨在从日常收集的过程数据中推断出那些难以直接测量的质量变量。在实际工厂中,稀疏的监督数据以及不断变化的操作条件会导致强烈的非平稳性,从而降低传统数据驱动模型的可靠性。尽管大型语言模型能够实现高效的数据推理,但由于语言预训练、连续数值预测与物理过程约束之间的不匹配,将其直接应用于软感知领域仍面临挑战。为解决这些问题,本文提出了CLARI,这是一种基于大型语言模型的、用于少样本工业软感知的受限推理框架。CLARI将预测问题重新定义为结构化的推理过程,并在统一框架内整合了上下文对齐、结构化推理以及受物理约束的推理机制。通过逐步在上下文、结构及物理层面施加约束,CLARI能够在非平稳操作条件下实现数值稳定且符合物理规律的预测。在两个真实的化学过程数据集上的实验表明,CLARI在预测精度和跨条件鲁棒性方面均优于其他竞争性方法,尤其是在少样本监督和操作条件变化的情况下,显示出其在工业环境中的可靠应用潜力。

引言

软感知旨在从日常收集的多变量过程数据中推断出难以直接测量的质量变量,它是现代流程工业监控与控制中的关键组成部分(Sun, Ge, 2021;Yu, Xiong, Cao, Yang, 2022)。在氨合成和石化生产等大规模工业系统中,由于传感成本、部署限制或恶劣的操作环境,许多质量变量无法实现连续测量。因此,必须通过相关的过程变量间接估算产品质量,这使得软感知对于确保工业生产的稳定性至关重要(Yang, Mao, Ye, Ma, Song, Chen, 2025b;Zhang, Tian, 2025)。
在实际应用中,质量变量通常是通过离线分析或低频率采样获得的,这导致在不断变化的操作条件下只能依靠少样本数据进行监督(Wang, Wang, Lu, Zhou, Qin, Yang, 2025c;Yao, Shen, Cui, Zheng, Ge, 2022)。然而,基于深度学习的传统软感知模型在这种场景下存在根本性局限:它们依赖于固定的输入输出映射关系,且需要大量数据才能进行训练,这使得它们在标签稀少或数据分布发生变化时难以实现良好的泛化能力(Chai, Zhao, Huang, Chen, 2021;Yang, Gao, Chen, Yu, He, Ye, 2026)。正是这种内在局限性促使人们寻求新的学习范式,以便在数据匮乏和非平稳环境中实现可靠的软感知性能。
近年来,大型语言模型在工业时间序列分析以及有限监督条件下的软感知应用方面引起了越来越多的关注(Raza等人,2025)。得益于其强大的上下文泛化能力和高效的数据推理功能,大型语言模型在少样本预测任务中表现出了良好性能,尤其是在金融等结构化领域,那里的预测通常表现为对已观测数值序列的外推(Lawrence, Damarla, Kim, Tulsyan, Amjad, Wang, Chachuat, Lee, Huang, Gopaluni, 2024;Zhang, Chen, He, Song, Kano, 2025d)。通过将数值信号映射到语言模型的上下文空间,现有方法使得大型语言模型能够借助基于提示的条件设定,利用可重复的时间模式和统计规律,从而在少样本甚至零样本场景下取得令人满意的预测结果(Tan, Merrill, Gupta, Althoff, Hartvigsen, 2024;Zhao, Yue, Zhao, Chen, 2025)。在工业应用中,大型语言模型主要用于故障诊断、异常检测以及操作条件分析等决策支持任务(Huang, Zhang, Zhao, 2025;Zhang, Ma, Qu, Wang, Zhou, Wang, 2025a),在这些任务中,推理是在包括日志、警报和离散事件在内的语义抽象化输入上进行的。
然而,这些方法并不适用于工业软感知,尤其是在少样本监督条件下。工业软感知实际上是一个受物理定律和过程机制约束的连续预测问题(Wang, Xiong, Yao, Jiang, Cui, Yu, Young, 2026;Yang, Ge, 2022),其中质量变量是由潜在的动力学机制以及强烈的多变量耦合关系间接产生的(Wang, Wang, Yang, 2025a;Zhu, Rehman, Wang, Shahzad, 2020)。在这种条件下,那些在语言语料库上预训练的大型语言模型往往依赖语义关联,而非结构化的数值演变和因果关系。此外,大多数现有的适配策略都基于静态提示或启发式对齐方法,且隐含地假设操作条件相对稳定。当操作条件随时间发生变化而变量耦合关系依然较强时,这种无约束的推理方式往往会放大虚假的相关性,从而导致数值不稳定的预测结果以及不符合物理规律的输出(Grimstad, L?vland, Imsland, Gunnerud, 2025;Jiang, Cheng, Yang, Song, Yang, Yao, 2026a)。在少样本场景下,这一问题更为突出,因为稀疏的监督数据进一步限制了模型捕捉真实过程动态的能力。
为解决这些挑战,本研究提出了CLARI,这是一种基于大型语言模型的受限框架,用于少样本工业软感知,它将化学过程中的质量预测问题视为一个逐步受限的推理过程。CLARI通过三种专为实际化学过程软感知设计的互补机制来约束推理过程。首先,分布约束识别机制会筛选出与当前操作条件相匹配的历史样本,从而使推理基于与当前条件相关的过程案例,而非不匹配的样本。其次,结构约束推理机制将预测过程分解为过程状态演化分析和质量响应推理两部分,从而在强多变量耦合条件下减少虚假相关性的出现。第三,物理约束推理机制则通过明确的物理和工程一致性约束来检查和修正中间预测结果,使得输出结果更符合实际工艺操作的要求。通过在上下文、结构及物理层面施加约束,CLARI能够在少样本监督、操作条件变化以及强变量耦合的情况下,实现更加稳定且符合工程要求的软感知结果。
在从化工厂收集的两个真实工业软感知数据集上对CLARI进行了测试,结果表明它在少样本监督和操作条件变化的情况下,具有更高的预测精度和更好的鲁棒性。本研究的主要贡献如下:
  • 1.
    本研究将少样本工业软感知问题定义为在数据稀少、操作条件多变以及变量耦合强烈的情况下,基于受限大型语言模型进行的推理问题。
  • 2.
    本研究提出了分布约束识别机制,用于使推理上下文与当前操作条件保持一致,从而减少使用不匹配的历史样本。
  • 3.
    本研究引入了结构约束推理和物理约束推理机制,用以指导质量预测并纳入工程约束条件,进而提升预测的稳定性和过程的一致性。
本文的其余结构如下:第2节概述相关研究工作;第3节介绍本研究的整体框架及核心方法;第4节详细阐述实验设计及结果分析;第5节对全文进行总结,并探讨未来的研究方向。

章节摘录

基于提示的学习与工业知识整合

随着大型语言模型在跨模态表示学习及复杂模式抽象方面的快速发展,将其应用于软感知等工业时间序列任务也日益受到重视。然而,工业过程的特点是数据稀疏、标注成本高昂且具有很强的非平稳性,这些因素都限制了传统基于微调的适配方法的效用(Zhang等人,2025c)。在这种背景下,基于提示的学习为...

方法论

本节介绍了所提出的CLARI框架的方法论。该框架由三个核心组件构成:分布约束识别机制用于获取与当前操作条件相匹配的参考样本,从而让推理上下文与之保持一致;结构约束推理机制则在强变量耦合条件下,通过结构化推理来规范预测过程;物理约束推理机制则通过强制满足物理一致性要求,确保输出结果具备工程可行性。

案例研究

本节在两个涉及高放热反应及复杂燃烧条件的真实化学过程数据集上对CLARI进行了测试,并与一些代表性的基准方法进行了定量和定性对比。所有实验均在统一的平台上开展,使用Python 3.10和PyTorch 2.2编程语言,运行环境为配备Intel Core i9-13900K处理器和NVIDIA RTX 5090显卡的计算机,以此确保实验结果的公平性和可重复性。

结论

本文提出了CLARI,这是一种受限的反射型大型语言模型推理框架,它将少样本工业软感知问题视为在大型语言模型框架下的受限推理问题。CLARI在统一框架内整合了上下文对齐、结构化推理以及物理一致性约束机制,通过逐步在分布、结构及物理层面施加约束,从而在非平稳操作条件下实现数值稳定且符合工程要求的预测结果。

CRediT作者贡献说明

杨泽宇:撰写——初稿、指导、方法论设计、资金获取、概念构思。陈佳辉:撰写——初稿、验证、软件开发、实验研究、数据整理。毕振:撰写——审阅与编辑、指导、方法论设计。蒋晓宇:形式化分析、数据整理。姚乐:形式化分析、数据整理。娄俊刚:撰写——审阅与编辑、指导、项目管理。宋志焕:验证、指导、资源协调。

利益冲突声明

作者声明,他们不存在任何可能影响本文研究结果的已知财务利益冲突或个人关系。
Zeyu Yang|Jiahui Chen|Zhen Bi|Xiaoyu Jiang|Le Yao|Jungang Lou|Zhihuan Song
中国浙江省湖州市湖州师范学院工程学院,邮编313000
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号