《Next Energy》：Novel encoder-only transformer-convolutional neural network hybrid model to estimate battery state-of-charge in dynamic load and temperature variation
编辑推荐：
精确的荷电状态（SoC）估计对于优化储能系统中锂离子电池的性能至关重要。本研究提出了一种创新的轻量级Transformer模型——仅使用编码器与一维卷积神经网络（LTEC），在保持低计算复杂度的同时显著提高估计精度。该模型在Transformer编码器内部以一
精确的荷电状态（SoC）估计对于优化储能系统中锂离子电池的性能至关重要。本研究提出了一种创新的轻量级Transformer模型——仅使用编码器与一维卷积神经网络（LTEC），在保持低计算复杂度的同时显著提高估计精度。该模型在Transformer编码器内部以一维卷积神经网络（1D CNN）层替代标准前馈网络（FFN）。通过在局部时间窗口上应用权重共享卷积核，一维卷积神经网络能够捕捉短期动态特征并抑制传感器输入中的高频波动。与存在高延迟和梯度衰减问题的顺序循环神经网络（RNNs）不同，该架构支持快速并行处理。此外，该模型通过提供平移不变性和高参数效率，克服了全连接神经网络（FNNs）在时间建模上的局限以及标准Transformer参数量庞大的缺陷。LTEC模型还引入了正则化与微调机制，以提升其在四种标准驾驶工况下的SoC估计精度，包括城市测功机驾驶循环（UDDS）、高速公路燃油经济性测试（HWFET）、加利福尼亚统一循环（LA92）以及US06补充联邦测试程序。实验结果表明，所提出的模型在?10至40°C的宽温度范围内取得了优异性能，均方根误差（RMSE）为1.14%，平均绝对误差（MAE）为0.52%，相较于现有架构有显著改进。此外，将迁移学习应用于不同化学体系的锂离子电池，在温度漂移条件下也取得了显著效果。该结果进一步证实LTEC可作为推进电池管理系统发展的潜在解决方案，能够有效应对不同电池在动态负载和温度波动条件下的多样化运行场景。
随着全球能源转型和交通运输系统电气化的加速推进，锂离子电池凭借其高能量密度、快速充放电能力和持续下降的成本，已成为储能系统和电动汽车（EV）的核心动力来源。在电池管理系统（BMS）中，荷电状态（SoC）的精确估计对于保障车辆运行可靠性、延长电池寿命以及确保安全性至关重要，其精度要求通常在±3%以内。然而，由于锂离子电池电化学行为的强非线性、测量条件的限制以及老化效应的累积，SoC准确估计一直是工程应用中的关键难题。
现有SoC估计方法主要分为三类：基于模型的方法、数据驱动方法和混合估计策略。基于卡尔曼滤波（KF）及其变体（如扩展卡尔曼滤波EKF、无迹卡尔曼滤波UKF）的模型方法依赖于精确的电池等效电路或电化学模型参数化，但容易受到模型参数漂移、噪声协方差矩阵失配及温度变化的影响，在复杂实际工况中精度显著下降。数据驱动方法中，全连接神经网络（FNN）虽然结构简单，但无法捕捉时间序列中的动态依赖关系；循环神经网络（RNN）尽管引入了记忆单元，却存在梯度消失和顺序处理的固有限制；长短期记忆网络（LSTM）和门控循环单元（GRU）通过门控机制部分缓解了梯度问题，但其固有的序列化计算路径导致延迟高且难以充分捕捉长期依赖。此外，现有混合方法往往针对特定温度或测试条件进行优化，跨温度泛化能力有限。
为解决上述问题，本研究提出了一种创新的轻量级混合模型——基于编码器-Transformer和一维卷积神经网络（LTEC）。该模型保留了Transformer编码器的自注意力机制，同时用一维CNN替代标准前馈网络（FFN）层，通过局部感受野和权重共享卷积核高效提取时间序列中的局部电化学特征并抑制高频噪声。该架构不仅支持时间步的全并行计算，还显著减少了可训练参数量，具备平移不变性，增强了对关键时间模式（无论其出现在序列中的何种位置）的识别能力。
研究人员采用McMaster大学提供的LG 18650HG2锂离子电池（NMC化学体系，3Ah）数据集，涵盖?20至40°C的宽温度范围，以及UDDS、HWFET、LA92和US06四种标准驾驶工况。数据经过预处理（包括线性插值均匀采样至1Hz、Min-Max归一化）构建训练和测试集。LTEC模型采用两个编码器层、模型维度128、单一注意力头和卷积核大小为3的一维CNN结构。研究中将该模型与多种现有架构对比，包括Stack-Attention-LSTM/GRU、CNN-Bi-LSTM-AM、FNN、传统Transformer及Transformer编码器。
实验结果表明，在单体温度条件下，LTEC在所有温度区间均表现优异：在?10°C时RMSE仅为0.98%，在25°C时达到最佳RMSE 0.64%，其性能远优于循环网络架构。在变温综合训练条件下，LTEC在?10°C至40°C全温度范围内实现RMSE 1.356%，相较其他模型显现出更强的热鲁棒性和泛化能力。值得注意的是，Stack-Attention-LSTM在10°C时出现完全失效（RMSE达66.66%），而FNN在40°C时也出现严重退化（RMSE达67.6%），表明传统架构在极端温度下的脆弱性。此外，通过正则化和微调策略（最优参数为dropout率0.3、学习率0.00007），并结合精选的训练数据组合，模型在全温度范围实现了RMSE 1.144%、MAE 0.528%的最终性能，决定系数R2达到0.9986–0.9997，皮尔逊相关系数在0.9993–0.9999之间，展现了极高的预测精度和拟合优度。在温度相关性分析中，低温区（?10°C–10°C）的RMSE较常温区上升约15%，其中?10°C时RMSE为1.6383，较25°C（0.7373）增加123%，这与锂离子电池低温下离子迁移率降低的电化学特性一致。尽管如此，模型在所有温度条件下的MAE保持在0.72%以下，满足实际应用精度需求。
为进一步验证模型的可迁移性，研究人员将基于LG电池训练的LTEC模型通过迁移学习应用于化学体系不同的Panasonic 18650PF电池（LiNiCoAlO?，2.9Ah），在10°C至28.5°C的漂移温度条件下仅需10个epoch（约120秒训练时间）即达到RMSE 1.29%、MAE 0.77%和R2 0.99的优异表现，证明该模型具有良好的跨化学体系泛化能力。
研究的意义主要体现在：第一，LTEC模型在保持低计算复杂度的同时显著提高了SoC估计精度，相较于纯Transformer模型减少了约62%的可训练参数，同时测试时间与训练时间均有所缩短；第二，该模型在宽温度范围（?10–40°C）表现稳定，解决了现有方法在极端温度条件下性能急剧退化的问题；第三，成功实现了不同化学体系电池间的知识迁移，为BMS在多样化电池类型中的应用提供了灵活高效的解决方案。
展望方面，尽管LTEC模型性能优越，但Transformer结构的计算复杂度仍然高于传统简化模型，可能限制其在低成本资源受限嵌入式BMS中的部署。此外，模型要求固定长度的输入序列，降低了在线可变长度应用的灵活性。未来研究可进一步优化超参数调节和数据集构造以减少低温残余误差，并探索将内阻或环境湿度等参数纳入模型输入以提升低温性能，同时基于真实动态工况的测试将进一步验证模型的工程实用性。总体而言，LTEC模型为电池管理系统的SoC精确估计提供了一种兼具精度、鲁棒性与计算效率的潜在解决方案。
