面向锂离子电池健康管理的多任务通用模型

《RELIABILITY ENGINEERING & SYSTEM SAFETY》：A multi-task general model for lithium-ion battery health management

　　

# 摘要

锂离子电池的安全运行对于确保锂离子电池未来大规模产业化至关重要。尽管锂离子电池管理系统中已涌现出众多用于精确任务计算的模型，但它们往往受限于电池类型和具体任务要求，导致模型间差异过大且存在冗余。此外，训练通常需要大量标注数据，从而大幅增加成本。因此，本研究开发了一种通用锂离子电池模型，称为预训练电池变换器（PreBT）。该模型不需要大量特征工程，仅使用未标注数据即可挖掘锂离子电池的潜在信息，然后通过少量与电池相关的任务标签进行微调，实现多任务计算。在本研究中，PreBT支持多种材料类型电池的同步训练，并在若干任务（如荷电状态、能量状态和健康状态）中表现出令人惊喜的良好性能。该方法的研究为未来垂直领域大模型的开发以及其他专业领域通用模型的设计提供了有益启发。

# 引言

随着新能源产业的快速发展，锂离子电池的安全使用日益重要。电池管理系统作为保障安全的关键技术，主要通过传感器监测电池的电压、电流和温度等关键数据。基于这些数据建立模型来分析和评估电池状态，完成电压默认恢复、荷电状态（SOC）估算和健康状态（SOH）估算等任务[1]-[5]。然而，由于各类锂离子电池（如磷酸铁锂、三元锂和钴酸锂）特性不同，传统的电池健康管理建模方法通常依赖定制化方案，忽视了不同电池类型和多任务场景下模型通用性的需求[6]-[9]。这一局限性严重制约了锂离子电池管理系统未来大规模生产和更广泛应用领域的潜力[10]-[12]。

据作者所知，许多传统数据驱动模型遵循全监督和特定任务的学习范式（图1A）。这些方法通常对来自同一类型或批次电池采集的数据进行预处理，主要依赖与目标任务对应的标注数据进行模型训练。随后选择适当的模型用于特定任务，如多层感知器（MLP）、长短期记忆网络（LSTM）、卷积神经网络（CNN）、支持向量机（SVM）以及CNN-LSTM和MLP-LSTM等混合架构[13]-[17]。这些全监督方法的训练通常严重依赖大量高质量的任务特定标注数据和专门的特征提取技术。进一步提高预测精度往往需要领域专家的参与，使得整个过程耗时、费力且成本高昂[18]-[21]。此外，特定任务的模型通常针对特定的电池化学体系、工况或数据分布设计，这限制了其在不同电池类型间的适用性。这些模型还往往对输入数据格式提出严格要求，例如采样间隔和序列长度通常需要一致。这使得它们难以适应不同应用场景下采集的电池数据，进一步限制了其在多样环境中的泛化能力和实用价值[22]。

近年来，半监督学习和自监督学习方法越来越多地应用于电池健康管理。这些方法能够有效利用未标注电池数据中包含的潜在信息，从而在一定程度上降低模型对大规模标注数据集的依赖。同时，迁移学习也被引入该领域，以促进不同锂离子电池材料体系之间的知识迁移。现有研究表明，当标注数据有限时，有效利用未标注数据和领域先验知识可以显著提高模型的学习和预测性能。然而，大多数现有方法是为特定电池系统或单一预测任务设计的，缺乏高效灵活的模型集成机制，难以满足多任务处理需求。这不仅导致模型开发工作重复、成本增加，而且在一定程度上阻碍了电池健康管理模型在多样场景中的部署和广泛应用[23]-[25]。我们认为，传统模型能够在某些任务上超越最先进（SOTA）模型，主要是因为这些任务底层的数据集规模相对较小。这一现象使得各种架构和特征工程技术能在这些较小数据集上表现突出。因此，为了满足未来需求，本质上需要更具灵活性和广泛适用性的健康管理模型，以适应锂离子电池产业不断增长规模及其多样化应用[26], [27]。

近期研究已开始将基于GPT和预训练的模型引入电池健康分析。一条研究路线采用通用大语言模型作为特征工程代理。例如，Luo等人使用提示驱动的GPT从容量-电压老化曲线中提取显式时域和频域描述符，随后使用任务特定的TS-KELM-AE模型进行快充条件下的SOH估算[28]。尽管这种方法减少了对人工设计特征的依赖，但GPT主要作为自动特征工程工具，整体框架仍聚焦于预定义的SOH估算任务。另一条研究路线聚焦于生成式退化预测。Hu等人开发了BatteryGPT，其中因果GPT模型自回归地外推全生命周期充电轨迹，随后由监督式SOH估计器推导出SOH轨迹、拐点寿命和寿命终点[29]。该方法推进了早期退化预测，但主要设计用于长程轨迹预测，而非跨异构电池管理任务的迁移表示学习。

为应对这些挑战，我们创建了一种通用模型架构，称为预训练电池变换器（PreBT），用于从锂离子电池数据中学习（图1B）[30]-[32]。该方法可利用大量未标注数据学习电压、电流、温度等数据的通用特征表示，实现电压数据恢复等任务（图2A和2B）。此外，基于该架构，本研究还开发了SOC估算和SOH估算等多种下游任务的方法（图2C）。随后，对PreBT的通用性、下游任务多样性和可扩展性进行了严格测试（图2D）。具体而言，使用近10万样本（4500万时间采样点）的公共数据集，对单材料类型电池进行了专用预训练，对多材料类型电池进行了通用预训练。研究发现，在电压数据恢复任务中，该架构的估计精度优于基线模型，表明该架构满足传统单类型专用模型的设计要求，并支持多材料类型电池通用模型的训练。同时，通过少量不同下游任务的样本标签进行迁移，在多个任务上均取得了令人满意的精度，展示了模型轻松灵活地在多任务间切换的能力。此外，可扩展性是模型从预训练模型演进为大模型的基本属性。通过使用不同模型架构和数据集大小训练PreBT，实验结果表明PreBT具有出色的可扩展性。这一成果为未来开发更大模型奠定了坚实基础，并为其设计开发提供了宝贵见解。

本研究的贡献总结如下：

1. 为锂离子电池健康管理开发了一种通用预训练框架，称为PreBT。PreBT从多种来源和化学体系的未标注电池运行数据中学习共享表示，并通过轻量级任务特定适应支持多个下游任务，包括电压恢复、SOC、SOE和SOH估算，从而减少了对任务特定模型和大量标注数据的依赖。

2. 为多变量时间序列数据引入了一种面向电池的自监督学习和特征增强策略。设计了约束掩码策略（CMS）来构建保留电池信号特征间关系的重建任务，同时融合电压变化和电流响应的偏差注意力机制，结合基于SENet的特征增强，改进了复杂运行行为和多功能态特征的表示能力。

3. 在多个机构、电池化学体系和下游任务上系统评估了PreBT的泛化能力和可迁移性。使用大规模异构电池数据集进行跨来源和跨化学体系预训练与评估，并进一步探究了低标注下游迁移、多任务适应和模型可扩展性，以评估所提框架的广泛适用性。

# PreBT框架与方法

采用自监督训练方法从异构锂离子电池数据中提取通用特征表示。如图2底部流程图所示，PreBT的整体工作流程包括五个主要阶段：数据预处理和输入构建、约束掩码策略应用、自监督预训练、任务特定适应与微调，以及下游任务评估。预训练后，保留预训练的PreBT骨干网络，并用于下游任务。

# 约束掩码策略的验证

为验证所提出的约束掩码策略（CMS）的优越性，本文补充了与单特征掩码、伯努利随机掩码和几何特征掩码的比较实验。详细的实验设计和结果见补充材料（注释S2和表S1）。比较结果表明，所提出的CMS在保留特征间相关性的同时实现了精细的掩码控制。其在电压任务中的MAE和RMSE均优于其他策略。

# 偏差注意力机制的物理可解释性

此外，为考察不同模型所学到的表示特征，我们使用UMAP可视化了General PreBT、LSTM和TCN的高维潜在特征（图4）。与LSTM和TCN相比，PreBT生成的表示在异构数据集和不同电池化学体系上呈现出相对更有结构的组织方式。相似化学体系的样本显示出部分一致的聚类倾向，而某些与老化相关的样本显示出连续的变化趋势。

# 结论

传统电池建模方法对同类型电池通常需要大量标注数据或广泛的特征提取，且通常局限于单任务应用，导致时间和经济成本增加。PreBT模型旨在从大量未标注锂离子电池数据中学习通用表示，并使用有限标注样本迁移到下游电池健康管理任务中。结果表明，PreBT在多个下游任务上表现优异，展现了良好的通用性和可扩展性。

# CRediT作者贡献声明

Fei Feng：验证、监督、经费获取、概念构思。Yixing Zhang：验证、方法论。Haoyang Li：初稿撰写、验证。Jiale Xie：审阅与编辑。Tiane Fan：审阅与编辑。Bin Chen：监督。Min Chen：审阅与编辑。Libo Dong：监督。

# 利益冲突声明

作者声明不存在已知的可能影响本论文所报道工作的竞争性经济利益或个人关系。

# 致谢

本工作得到国家自然科学基金（52577227）、重庆市自然科学基金（CSTB2023NSCQ-MSX0359）、中央高校基本科研业务费（2024CDJGF-056）以及小米青年人才计划/小米基金会的支持。

Fei Feng | Yixing Zhang | Haoyang Li | Jiale Xie | Tiane Fan | Bin Chen | Min Chen | Libo Dong