《Mathematics》：Time-Invariant Learning and History-Based Inference for Survival Models in Predictive Maintenance
编辑推荐：
本研究针对持续监测设备的故障预测，采用时间不变（time-invariant, TI）生存模型（以单一状态描述每个对象）或时间变化（time-varying, TV）模型（使用观测状态序列）。监测数据形成时间变化观测链（time-varying observa
本研究针对持续监测设备的故障预测，采用时间不变（time-invariant, TI）生存模型（以单一状态描述每个对象）或时间变化（time-varying, TV）模型（使用观测状态序列）。监测数据形成时间变化观测链（time-varying observation chains, TV chains），但许多经典与机器学习TV模型仅在训练阶段使用这些链，而在推断阶段依赖最新观测，丢弃累积退化历史。本文提出两种方法以弥补该空白。第一种从TV链中采样个体观测，并为每个观测增补至结局的剩余时间，使经典模型可在TV数据上训练。第二种利用几何（geometric）、序数（ordinal）和时间距离（time-distance）加权方案，将不同时间点所作预测聚合为单一生存曲线。在Backblaze硬盘数据集上，研究人员在两种训练场景（单一观测与采样TV链）和两种推断场景（最新观测与聚合历史）下比较统计与机器学习生存模型，并以排序质量、生存函数近似和时间依赖判别能力评价。基于采样观测的TV训练与机器学习集成模型在报告指标上的性能改善相关。经典Cox比例风险（Cox proportional hazards）模型未从采样TV训练中获益，其生存函数近似和排序质量略有下降，而时间变化Cox模型主要在时间依赖判别能力上改善。在评估方法中，梯度提升生存分析（gradient boosting survival analysis, GBSA）和随机生存森林（random survival forest, RSF）在报告指标上提供最强总体经验性能。聚合总体与较低积分Brier评分（Integrated Brier Score, IBS）和较高积分时间依赖ROC曲线下面积（Integrated time-dependent Area Under the ROC Curve, IAUC）相关，但效应并非在所有模型和聚合深度上单调。增益集中于统计模型，对机器学习集成模型边际，但TV训练下的RSF除外。在这项以测试指标选择聚合配置的探索性比较中，几何加权在IBS和IAUC上表现最佳，而时间距离加权更好地保持排序质量。
研究背景：现代IT与工业系统通过连续监测形成高维多元时间序列，为故障预测提供机会，但高维、非平稳和强时间依赖限制经典分析方法。生存分析可建模事件风险，但经典生存模型通常假设协变量仅在研究开始时采集一次，即时间不变（TI）特征；温度、电压、内存利用率和累计负载等运行参数会随时间变化，形成时间变化（TV）协变量，需要专门建模。研究人员指出，现有TV生存模型虽可在训练阶段利用TV观测链，但推断时多依赖单一最新观测，未利用对象累积退化历史；深度学习动态模型可处理完整历史，但不属于本文范围。研究目标是发展可处理不完整、不规则设备测量序列的故障预测模型，并回答两个应用问题：如何构建含TV协变量的预测模型，以及如何将有观测历史的新对象用于推断。
研究人员开展的研究与意义：研究人员提出观测采样与预测聚合的统一方法，以扩展常规TI生存模型，并在Backblaze硬盘数据上比较CoxTV、CoxPH、RSF和GBSA。意义在于使经典统计与机器学习生存模型能够在TV监测数据上训练，并在推断阶段纳入历史预测，同时形式化聚合在改善生存函数近似与保持风险排序之间的权衡。
关键技术方法：研究基于Backblaze硬盘数据集（2015—2017年），原始数据含90个SMART属性，剔除缺失率超过90%的属性并保留原始值，得到114,691块硬盘、40个特征；排除不完整运行历史后纳入21,725块硬盘，按对象分层划分训练集17,380块和测试集4,345块。将每块硬盘日记录构成TV链，从链中采样最多20个观测并计算剩余时间标签，用于训练CoxPH、RSF和GBSA，并以start–stop表示比较CoxTV；推断时以第10个快照为预测时点，采用几何、序数和时间距离加权聚合最近1、2、4、8个预测；以一致性指数（Concordance Index, CI）、IBS和IAUC评价，并进行测试集bootstrap重采样。
5.4 时间不变与时间变化训练结果：通过在第10个快照上进行单观测推断，并比较TI训练与TV训练，研究人员得出：TV训练显著改善机器学习集成模型，GBSA的IBS由0.146降至0.116、CI由0.858升至0.910、IAUC由0.725升至0.764，RSF的CI由0.896升至0.907、IAUC由0.753升至0.760且IBS近乎不变；CoxTV的IAUC由0.585升至0.649、IBS由0.160降至0.153，但CI由0.830降至0.818；CoxPH未获益，IBS由0.150升至0.182，CI和IAUC略降。GBSA与RSF在TV训练下取得最高CI，GBSA在TV训练下取得最低IBS。
5.5 预测聚合结果：通过将最近1、2、4、8个预测按三种方案聚合，并以测试指标选择最佳配置，研究人员得出：聚合未系统改善CI，机器学习集成模型非聚合与最佳聚合差异边际，CoxPH在TI训练下由0.838升至0.845，CoxTV在TV训练下由0.818升至0.837，而CoxTV在TI训练下聚合可能使CI由0.830降至0.793；IAUC和IBS总体随聚合增加改善但不严格单调，增益集中于统计模型，CoxTV在TV训练下IAUC由0.649升至0.667，CoxPH由0.652升至0.683，CoxPH的IBS由0.182降至0.175、CoxTV由0.153降至0.151；GBSA差异至多0.003，RSF仅在TV训练下可见聚合增益（IAUC由0.760升至0.771，IBS由0.124降至0.117）；8个预测深度下，IAUC和IBS的指标最优配置多数采用几何加权。
5.6 聚合与训练方案排序分析：通过按方法、训练场景和聚合深度计算平均排名，研究人员得出：CI平均排名中时间距离方案第一（1.39），几何（2.12）和序数（2.14）随后；IAUC中几何第一（1.56），序数第二（1.81），时间距离最后（2.64）；IBS中几何第一（1.28），序数（1.93）和时间距离（2.79）随后。比较八种训练—聚合组合时，IAUC和IBS最佳变体均为TV训练加几何方案，CI最佳变体为TV训练加时间距离方案；各指标最佳变体均使用TV训练。
讨论部分总结：讨论认为TV采样训练对RSF和GBSA的排序、判别与生存函数近似有益，CoxPH未获益，CoxTV主要改善时间依赖判别；单观测推断下TV训练使CoxTV和CoxPH排序略降，但原文未将其作为确定机制。聚合主要与较低IBS和较高IAUC相关，增益集中于统计模型，GBSA边际，RSF仅在TV训练下明显；几何加权在IBS和IAUC平均排名最好，时间距离更好保持排序质量；GBSA和RSF在多数报告指标和场景中匹配或超过经典基线。局限包括同一对象采样观测时间相关、对象监测历史长度导致贡献不均、训练数据为“硬盘—时间”快照而非硬盘随机样本、单一数据集与单一评价设计、所有观测对齐至共同残差时间尺度而非日历时间部署、缺少仅最旧、均匀聚合及landmark合并基线的直接比较。
研究结论翻译：时间变化生存模型可用于建模受监测设备的退化过程。然而，在多数经典统计与机器学习方法中，预测仅基于最新可用观测，而对象的累积历史被忽略；在轨迹信息重要的监测场景中，该限制会降低此类模型的实际效用。本研究提出一种用于时间变化生存数据学习与推断的统一方法。观测采样算法将TV链转换为标准生存实例，使经典与机器学习生存模型无需显式建模时间依赖即可在时间变化数据上训练。预测聚合方法通过将序贯预测在共同时间轴上对齐并组合，在推断阶段纳入历史数据。在Backblaze数据集上，实验支持三项经验观察。第一，基于采样观测的时间变化训练与机器学习集成模型的显著改善相关（对GBSA，IBS由0.146降至0.116、CI由0.858升至0.910，RSF的CI由0.896升至0.907），而经典CoxPH模型未从中获益，CoxTV主要在IAUC上改善。第二，在采用测试指标选择聚合配置的探索性比较中，聚合主要对统计模型与较低IBS和较高IAUC相关（例如TV训练下CoxPH的IAUC由0.652升至0.683），而集成模型增益边际，TV训练下RSF除外。第三，聚合对风险排序的影响取决于加权方案：在采用测试指标选择配置的探索性比较中，几何方案获得最佳IBS和IAUC排名，而时间距离方案更好地保持排序质量。在评估方法中，GBSA和RSF在报告指标上提供最强总体经验性能。由于报告评价将所有观测对齐至残差时间尺度上的共同原点，而前瞻性部署会在所有硬盘的共同日历时间发出预测，报告性能不应解释为前瞻性部署性能的直接证据。总体而言，所提方法为监测系统中历史感知生存预测的进一步研究提供了实用框架；在将结论推广至更广泛预测性维护应用前，仍需在额外设备数据上进一步验证。
