一种用于锂离子电池剩余使用寿命预测的负载均衡可变形专家网络

《Journal of Energy Storage》：A load-balanced deformable expert network for lithium-ion battery remaining useful life prediction

锂离子电池剩余寿命预测面临非线性退化与数据噪声挑战，传统深度学习模型存在时空依赖建模不足与专家模块激活不均问题。本文提出LB-DeformNet，通过多头可变形注意力机制动态聚焦退化关键区域，结合负载平衡约束混合专家模块实现均匀专家激活。实验表明，该模型在CALCE和NASA数据集上相比SOTA方法提升预测精度与泛化能力。

　　锂离子电池因其高能量密度和出色的循环性能，被广泛应用于各种关键领域。然而，由于复杂的电化学老化机制和高度非线性的退化行为，准确预测电池的剩余使用寿命（RUL）仍然是一个具有挑战性的问题。现有的基于深度学习的RUL预测模型常常难以从噪声数据中捕捉不规则且局部的退化模式，并且在专家利用上存在不平衡，这限制了模型的泛化能力和稳定性。针对这些不足，本研究提出了一种新的深度神经网络架构——LB-DeformNet，该架构结合了多头可变形注意力（MHDA）和带有负载平衡约束的专家混合（LBRMOE）框架。

MHDA模块能够根据退化显著性动态调整其感受野，使模型能够聚焦于反映电池健康演变的关键时间区域。同时，LBRMOE机制引入了负载平衡约束，以确保专家激活的均匀性，从而增强学习多样性并防止专家崩溃。在两个公开的基准数据集以及车辆锂离子电池数据集上的实验结果表明，LB-DeformNet在预测精度和泛化能力方面优于现有的先进方法，为智能电池健康预测提供了一个稳健的解决方案。

RUL预测是一项确保锂离子电池在实际应用中可靠性和安全性的基本任务。随着电池供电系统在电动汽车、电网储能和便携电子设备中的广泛应用，及时且准确地评估电池老化对于性能优化和故障预防至关重要。准确估计电池的RUL对于实现预测性维护和延长锂离子电池的服务寿命具有重要意义。过去十年，研究人员开发了两种主要的方法来应对这一任务：基于模型的方法和基于数据的方法。

基于模型的方法旨在通过偏微分方程、等效电路模型或热力学模拟来捕捉电池老化过程中的内部电化学机制。这些方法提供了可解释的见解，但通常依赖于大量的专业知识，并且在不同操作条件下难以推广。相比之下，基于数据的方法利用日益丰富的电池退化数据，通过统计或神经方法建模潜在的动力学。这些模型不需要事先了解电池内部机制，使其更加灵活，并且更容易适应不同的电池化学或使用场景。

在这些方法中，深度学习因其在从原始传感器数据中建模非线性关系方面的卓越能力，以及其在电池系统时间序列分析中的广泛应用而备受关注。特别是，基于循环神经网络（RNN）的模型，如长短期记忆网络（LSTM）和门控循环单元（GRU），由于其能够捕捉时间依赖性和容量退化趋势，被广泛用于锂离子电池的RUL预测。这些模型在模拟非线性老化行为和从历史容量曲线中估计RUL方面表现出色。然而，基于RNN的架构存在一些固有的限制，包括高计算成本、有限的并行性以及由于梯度消失而难以建模长距离依赖性。

为了克服基于RNN架构的限制，注意力机制被引入，使模型能够通过直接计算序列中成对依赖关系来捕捉全局上下文信息。这种机制允许网络强调与退化相关的特征，并从噪声电池测量中提取关键时间模式。其中，基于Transformer的模型在锂离子电池的RUL预测中受到越来越多的关注，因为它们能够在不依赖循环的情况下建模长距离依赖性。早期研究应用自注意力进行序列建模，并在捕捉退化动态方面取得了令人鼓舞的结果。然而，标准自注意力机制在序列长度上的二次计算复杂度阻碍了其在长电池时间序列中的可扩展性。为了解决这一问题，一些轻量级变种如LTM-Net通过将标准softmax注意力替换为线性化替代方案，显著降低了计算开销。然而，传统的Transformer框架通常忽视了局部退化线索，因为缺乏强调时间或空间接近性的结构先验。因此，它们可能无法捕捉对精确RUL估计至关重要的细粒度退化模式。为了解决这一限制，一些混合架构被提出，这些架构结合了卷积神经网络（CNN）的局部保持能力和Transformer的全局建模能力，从而实现更全面的时空表示。

尽管这些进展，准确的电池长期RUL预测仍面临一些关键挑战。电池容量退化是高度非线性的，并且受到多种操作条件的影响，如温度、充电速率和使用变化。传统的注意力机制由于固定感受野，无法适应性地聚焦于隐藏在噪声容量序列中的不规则但关键的退化段，这阻碍了精确的时间特征提取。在实际的电池数据集中，退化行为在电池和循环之间存在显著差异。现有的专家混合架构通常在大多数样本中仅激活少量专家，导致学习偏差和模型容量的未充分利用。这种不平衡降低了学习多样性，并限制了对未知退化模式的泛化能力。

为了应对这些挑战，本文提出LB-DeformNet，该架构结合了多头可变形注意力（MHDA）和负载平衡的专家混合（LBRMOE），以提高退化学习和专家专业化，从而实现更准确的电池RUL预测。具体而言，一个可变形滑动窗口注意力模块能够根据输入显著性动态调整其感受野，使网络能够更精确地聚焦于表现出退化趋势的区域，即使在存在噪声的情况下。为了缓解专家未充分利用和鼓励多样化的表示学习，我们在专家混合结构中设计了一个负载平衡约束，以促进专家激活的均匀性，并在不引入不必要的冗余的情况下最大化模型容量。我们对两个公开的电池数据集进行了广泛的实验，结果表明LB-DeformNet在预测精度和泛化能力方面优于多个基线方法。

本研究的主要贡献如下：首先，设计了用于电池RUL预测的MHDA机制，该机制能够根据退化相关性动态聚焦于显著的退化区域，从而提高时间特征提取的效果。其次，提出了一种LBRMOE机制，鼓励专家的均匀参与，以增强表示的多样性。最后，提出了LB-DeformNet，结合MHDA和LBRMOE进行电池RUL预测。在多个数据集上的验证表明，我们的方法在准确性和鲁棒性方面优于基线方法。

电池达到其使用寿命终点（EOL）时，其容量会降至额定值的70–80%左右。因此，RUL表示在容量低于该阈值之前剩余的循环次数，并可以通过使用寿命终点循环次数与当前循环寿命之间的差值来计算。为了准确预测锂离子电池的RUL，本文提出了LB-DeformNet，该架构主要整合了MHDA和LBRMOE模块。MHDA模块能够根据退化相关性动态调整注意力区域，从而有效捕捉电池容量序列中的时空依赖性。同时，LBRMOE机制的引入提高了表示的多样性，并增强了模型性能。

本文使用的数据集包括两个公开的锂离子电池数据集，CALCE和NASA。这些数据集被广泛认为是研究电池退化行为的标准基准。CALCE数据集由马里兰大学的先进生命周期工程中心提供，包含了锂离子电池的详细循环信息。NASA数据集由NASA阿姆斯研究中心发布，包括四个电池的记录。这些数据集为评估LB-DeformNet提供了丰富的实验材料。

为了全面评估LB-DeformNet的有效性，我们进行了一系列对比实验，并在表1中总结了所有竞争方法的结果，其中表现最佳的结果以粗体形式突出。需要注意的是，所有报告的指标，包括相对误差（RE）、平均绝对误差（MAE）和均方根误差（RMSE），都是基于预测的RUL值，而不是中间的容量估计。所有对比模型均使用相同的归一化和输入方式进行训练和评估。

本文提出的LB-DeformNet是一种新的深度学习框架，用于准确预测锂离子电池的RUL。该架构整合了MHDA模块和LBRMOE模块，共同捕捉退化敏感特征并增强模型性能。首先，MHDA模块能够根据退化相关性动态调整注意力区域，从而有效捕捉电池容量序列中的时空依赖性。其次，LBRMOE机制的引入提高了表示的多样性，并增强了模型的泛化能力。该方法在多个数据集上的验证表明，其在准确性和鲁棒性方面优于现有方法。

本文的作者贡献如下：Xin Dong负责方法论和概念设计；Mingsong Yao负责撰写原始草稿和验证；Sheng Xiang负责监督和形式分析。作者声明他们没有已知的财务利益或个人关系可能影响本研究工作的报告。本研究得到了中国国家自然科学基金（编号62303084）、重庆市教育委员会科技研究项目（编号KJQN202300630）、重庆市自然科学基金（编号CSTB2023NSCQ-MSX0201和CSTB2025NSCQ-GPX1301）以及四川省车辆测量、控制与安全重点实验室发展基金（编号QCCK2025-009）的支持。这些资助为研究提供了必要的资源和条件，确保了实验的顺利进行和研究的深入发展。