RP-LLM：一种面向剩余使用寿命预测的语义条件驱动跨模态大语言模型框架

《Advanced Engineering Informatics》：RP-LLM: A semantically conditioned cross-modal large language model framework for remaining useful life prediction

　　

摘要
剩余使用寿命（RUL）预测支持工业系统的维护决策制定和风险控制，但其性能往往受到少样本和跨域场景的限制。大语言模型（LLM）的近期进展为指令生成和上下文建模提供了灵活的接口。然而，当前基于LLM的RUL预测研究要么将大型模型用作强大的回归器，要么依赖文本化的信号描述，而对于数值生成之前退化状态的中间组织仍然缺乏充分探索。为解决这一问题，本文提出了RP-LLM，一个带有健康状态语义条件的跨模态大语言模型框架，用于多变量时间序列的RUL预测。RP-LLM首先通过时间序列窗口与结构化文本描述之间的对比预训练来学习退化表示。然后将这些表示映射到由文本编码的有序健康原型空间，由此产生的成员分布作为时间模式与数值生成之间的语义桥梁。最后，提示学习者（Prompt Learner）将原型分布转化为软提示，适配了LoRA的LLM在数值感知训练目标的约束下生成结构化的RUL响应。该框架在公开电池和航空发动机数据集上的少样本和跨域迁移协议下进行了评估，同时在私有在轨制冷机轨迹上进行了严格的零样本案例研究。在所有评估协议中，其预测误差降低最多达27.1%，并支持自然语言RUL查询以及超越传统标量回归的结构化文本预测。

引言
复杂设备的预测性维护和全生命周期管理正成为工业智能从感知型自动化向认知型决策转变的核心。在此过程中， prognostics and health management（PHM，故障预测与健康管理）持续监测运行状态，识别退化模式，并产生产生的定量预测信息，从而支持维护计划制定、备件调度和系统风险控制[1], [2]。剩余使用寿命（RUL）是PHM中的核心目标之一，因为它直接反映了设备的剩余服务能力，并与维护时机、备件分配和风险控制等高价值决策密切相关。因此，准确的RUL预测在电池系统[3]、旋转机械[4]、航空发动机[5]和在轨航天设备中具有重要意义。从本质上讲，RUL预测是从传感器数据中估计失效前的剩余运行周期，可表述为一个时间序列回归问题，将多变量监测窗口映射为连续的剩余寿命估计值[6]。其核心挑战是在不同运行条件下，从复杂、多源、非平稳的监测数据中提取稳定、可迁移且与退化相关的表示。

现有的RUL预测研究主要遵循三条技术路线，即基于机理的建模、数据驱动的建模和物理信息混合建模。基于机理的方法通过材料演化、热力学定律或退化方程提供明确的物理解释，但通常严重依赖对象特定的先验知识和专家经验，且为新设备或新运行条件重建此类模型通常代价高昂[7], [8]。数据驱动方法通过卷积网络[9], [10]、循环网络[11], [12]和Transformer[13], [14]改进了特征提取和非线性拟合，已成为RUL预测的主流范式。混合方法进一步引入物理规则、模拟数据或机理约束来提高可靠性和泛化能力。例如，Zhang等人[15]将动态模型生成的退化数据与跨域Transformer相结合，以缓解真实失效样本不足的问题，而Zhang等人[16]利用物理规则优化在线多状态联合估计，以提高预测一致性和工程可用性。类似的先验知识嵌入也在可解释故障监测中得到了探索，He等人将信号处理先验和物理相关正则化引入模型设计[17]。总体而言，这些方法持续提升预测精度，但其主要建模过程仍然依赖于数值时间序列表示和标量回归映射。

常见实验设置与工业部署条件之间存在差距[18]。许多数据驱动模型在充足的标注轨迹、预定义的训练-测试划分和相对稳定的运行条件下进行评估。然而，在实际部署中，目标设备可能仅提供少量标注样本，且可能缺乏完整的运行至失效轨迹。设备类型、传感器配置、运行条件、环境和退化路径的差异也可能导致源域和目标域之间的分布偏移。对于缓慢退化和高成本的系统（如电池、发动机和低温制冷系统），收集完整的失效数据耗时且有时不可行。这些限制使得难以依赖大量目标域标签的重训练。

因此，少样本学习、迁移学习和域适应已成为应对标签稀缺和域偏移问题的重要工具。少样本学习旨在提取任务级别的先验知识，从而快速适应新任务，减少了对大规模目标域标签的依赖。Ding等人[19]将元学习引入旋转机械健康预测，通过结合协方差矩阵和最大均值差异提取域不变退化指标，并构建元CNN和元GRU模型进行少样本健康预测。Yang和Wang[20]提出了MetaDFKN，集成了深度流核特征学习、条件归一化流和上下文推理，以改进少样本跨域RUL预测中的共享知识建模。这些方法改进了数据受限条件下的快速适应能力，但其性能仍然取决于训练任务与测试任务之间的相关性，并对任务组织和元训练分布保持敏感[1]。迁移学习和域适应更强调跨域知识迁移和分布对齐[21]。Fan等人[22]使用两阶段子域划分机制，以避免跨退化阶段的强制对齐造成的负迁移。Shang等人[23]设计了面向多源运行条件的对抗蒸馏域适应策略，并通过加权源聚合改进目标域回归。Yan等人[24]从子域适应、特征解耦和多任务学习的角度进一步缓解了跨域RUL预测中的细粒度分布偏移。尽管取得了这些进展，但整体范式仍然局限于数值时间序列表示和回归头映射的框架内，对设备属性、运行条件语义和退化阶段描述等高层信息的显式利用不足。

与之前的RUL预测方法相比，LLM提供了几个与上述局限性相关的独特优势。首先，LLM的预训练序列建模能力可提供可迁移的表示先验，这在目标域运行至失效轨迹稀缺时有用。其次，LLM的语言接口允许将设备属性、运行条件描述和退化阶段语义表示为显式的上下文信息，而传统数值模型通常需要将这些因素手动编码为附加变量。第三，LLM的指令遵循和生成能力使得能够产生既包含RUL值又包含解释性描述的结构化响应，而不仅仅是从回归头输出一个数值。这些优势使LLM成为少样本和跨域RUL预测的有力候选者，但也需要与时间表示和数值误差约束进行仔细耦合。

现有的LLM相关研究首先形成了一条将模型用作序列建模骨干的路线。Tao等人[25]使用预训练LLM和两阶段微调策略进行轴承RUL迁移预测。Chen和Liu[26]使用可迁移的LLM骨干和样本选择，以改进有限标签条件下的工业RUL预测。这些研究表明，预训练序列模型可以为表示学习和迁移适应做出贡献。然而，在这一路线中，模型主要作为高容量序列编码器或非线性的近似器发挥作用，文本语义并不直接参与预测路径。因此，其与LLM的语义和指令遵循能力之间的联系仍然有限。

另一条路线遵循信号到文本的范式，将工业信号、统计特征或退化段重写为结构化文本提示，然后利用LLM的生成接口、指令遵循能力和语言推理能力执行RUL相关任务。Lai等人[27]将振动信号转换为结构化提示，并联合建模故障诊断和RUL预测。在电池状态估计中，Zhang等人[28]使用大参数语言模型在随机充电行为下进行多状态联合估计。这条路线将PHM输入暴露于LLM的文本接口，并可以支持将数值预测与诊断描述相结合的结构化响应。然而，原始时间信号与语言表示之间的联系主要通过文本重写建立。因此，局部时间结构、幅度关系和连续退化动态可能仅在提示中被部分保留。

随着多模态LLM的发展，近期研究开始将工业时间序列和文本置于统一的语义空间中，以改进工程场景中的数据理解和推理。这一方向的重点是在共享表示空间中实现信号表示和文本语义之间的显式对齐、互补和协作。Lin等人[29]提出了FD-LLM，通过结合模态对齐、模糊语义嵌入和可学习提示注入来实现设备故障诊断。Peng等人[30]提出了BearLLM，整合振动信号和文本提示以执行轴承健康管理任务。Jose等人[31]表明，维护日志和技术文档可以为多模态诊断提供有用的语义上下文。这些研究表明，跨模态对齐可以为工业信号建模引入运行条件描述、故障知识和维护语义。然而，大多数面向PHM的多模态LLM研究侧重于故障诊断和异常识别等离散任务，其向RUL等连续预测任务的扩展仍然探索不足，在连续预测任务中，数值分辨率、序数一致性和输出稳定性是更直接涉及的要素。

现有的基于LLM的PHM研究已展示了预训练序列建模、信号到文本生成和跨模态对齐的可行性。然而，面向连续RUL预测的专门化表述仍然不够完善，有三个建模问题尤为关键。首先，设备、运行条件和传感器数据分布的变化可能改变退化信号的数值模式，而其解释通常依赖于运行条件和健康状态等上下文信息。现有的表述方式并不总是显式地将这些上下文描述与时间退化表示联系起来，从而限制了它们在少样本跨域设置中作为退化建模的语义线索的使用。其次，RUL预测基于一个跨健康状态连续演化的退化过程。当退化特征被直接映射为标量或生成的RUL值时，退化等级之间的有序关系只能从标签中隐式地学习，这在少样本监督下变得更具挑战性。因此，有序的分布式健康状态表示可以在最终RUL生成之前提供显式的结构引导，同时保持预测目标的连续性。第三，LLM文本生成中使用的词元级交叉熵将数值词元视为离散类别，约束的是词元正确性而非数值距离。这种不匹配对于RUL预测具有重要意义，因为文本输出作为连续值进行评估。

为了解决这些问题，本文提出了RP-LLM，一个面向少样本多变量时间序列RUL预测的语义条件跨模态LLM框架。该框架遵循一条从退化表示到健康状态组织和连续数值生成的渐进式路径。传感器窗口首先与结构化退化描述进行对齐，使得学习到的时间表示能够受益于与运行条件和健康状态相关的上下文线索。然后将这些表示与沿退化过程排列的一系列参考状态相关联，产生一个反映每个样本与不同退化状态分级关联的结构化健康状态分布。该分布通过与原始时间表示互补提供结构化的健康状态信息，同时时间表示保留了样本特定的退化动态。健康状态信息进一步作为学习到的提示被引入，并与时间表示、文本证据和任务指令结合，以条件化LLM进行结构化RUL生成。最后，引入了一种数值感知的训练目标，以在数值空间中约束生成的值。

本文的主要贡献总结如下。
1. 开发了一个语义条件的跨模态LLM框架，称为RP-LLM，用于少样本多变量时间序列RUL预测。它建立了一条渐进式的建模路径，在有限目标域监督下将退化感知的时间表示、分布式健康状态组织和基于LLM的结构化数值生成连接起来。
2. 构建了一种时间序列-文本对比预训练机制，用于学习与退化相关的时间表示。配对的传感器窗口和结构化退化描述在共享嵌入空间中对齐，使得时间特征能够在下游适应之前融入与运行条件和健康状态相关的上下文信息。
3. 开发了一种基于原型的模糊健康状态桥接机制，并结合了数值感知的训练目标。有序的文本编码健康状态原型组织了连续的退化空间，而它们与时间表示的软匹配产生了用于生成式条件化的结构化健康状态分布。

基于sMAPE的数值一致性损失进一步与交叉熵结合，以约束生成的剩余使用寿命（RUL）值在数值空间中的合理性。4. 该框架在电池状态健康度（SOH）估计、C-MAPSS航空发动机RUL预测以及太空制冷机的零样本RUL迁移任务上进行了评估。实验包括少量样本和跨域协议下的对比评估、受控消融实验、标签预算分析、原型池敏感性分析以及轨迹级预测分析。

本文其余部分组织如下：第2节回顾相关理论与背景；第3节阐述问题定义；第4节描述所提出的RP-LLM框架；第5节报告实验验证结果，最后为结论与未来工作。

### 时间序列的跨模态表示学习

在时间序列分析中，外部模态如文本、图像和结构化日志被越来越多地用于提供无法直接从数值序列中获取的上下文信息。这一研究方向通常被概括为Time+X范式，其中原始时间序列仍为主要输入，引入辅助模态X来提供互补的语义、视觉或结构信息[32], [33]。与将时间序列作为X的Time-as-X方法不同，本文方法保留了时间序列作为主模态。

### 问题定义

本工作研究在目标域监督有限的情况下，基于多元时间序列窗口的少样本RUL预测问题。令 $X \in \mathbb{R}^{L \times C}$ 表示长度为 $L$、包含 $C$ 个传感器通道的数据窗口，其中第 $\ell$ 行包含时间步 $\ell$ 的多传感器观测值。令 $y \in \mathbb{R}$ 表示与该窗口端点相关联的RUL标签。在电池 prognostics（预测与健康管理）场景中，$y$ 被实例化为基于SOH的退化标签，由于电池SOH通常被用作RUL相关的验证目标。

### 框架概述

RP-LLM的整体工作流程如图1所示。该框架遵循从时间退化信号到结构化数值响应的三次顺序耦合变换。首先，跨模态语义预训练将多元时间序列窗口与结构化退化描述进行对齐，产生退化感知的时序表示 $h$。其次，基于原型的健康状态桥接将 $h$ 映射到有序原型池 $Y_p$ 上，产生软隶属关系。

### 实验与结果

本节在三个具有代表性的PHM（预测与健康管理）场景中评估所提出的框架。前两个案例使用公开基准数据集进行少样本电池SOH估计和少样本C-MAPSS航空发动机RUL预测。第三个案例考虑从实验室斯特林制冷机到在轨服役制冷机的零样本迁移。对于涉及重复目标域选择或独立随机初始化的协议，报告的指标以均值±标准差的形式总结。

### 结论

本文开发了RP-LLM，一个面向RUL预测建模的语义条件化跨模态大语言模型框架。RP-LLM学习退化感知的时序嵌入，利用有序健康状态语义对其进行组织，并通过数值感知训练目标约束生成值。在电池SOH估计和C-MAPSS航空发动机RUL预测上的实验评估了该框架在少样本和跨域迁移协议下的性能。零样本制冷机实验进一步验证了……

**CRediT作者贡献声明**

Zimeng Fan：写作——审阅与编辑，写作——初稿，可视化，软件，方法学，调查研究。
Lei Song：验证，项目管理，调查研究，资金获取。
Naipeng Li：资源，数据整理。
Yaguo Lei：形式分析，数据整理。
Hongfei Wang：资源，项目管理。
Xuzhi Li：监督，资源。

**利益冲突声明**

作者声明不存在已知的财务利益或个人关系可能影响本文所报告的工作。

**致谢**

本工作得到以下项目支持：大型巡天望远镜任务地面运行与测控管理系统（项目编号T5140611SN）；知识增强混合智能体空间-地面协同载荷健康管理技术与应用研究（项目编号T5031511SY）；国家自然科学基金（项目编号52522504）。

**作者信息**

Zimeng Fan | Lei Song | Naipeng Li | Yaguo Lei | Hongfei Wang | Xuzhi Li