通过协作 Kolmogorov–Arnold 网络（KAN）与交叉注意力机制提升电池正极材料结构特征识别的效率与准确性

《Digital Discovery》：Enhancing efficiency and accuracy of structural feature recognition in battery cathode materials by collaborating Kolmogorov–Arnold Networks (KANs) with a cross-attention mechanismOpen Access

　　

过去几十年，机器学习算法尤其是深度学习应用快速增长，在自动驾驶、人脸识别等工程领域已有成熟大规模应用，人工智能也在化学与材料科学研究中受到关注。由于电池材料具有复杂性，如何合理选择特征并使用合适机器学习方法预测其化学性质（如体积容量、平均放电电压等）成为学者持续讨论的问题。该研究从晶体学视角出发，构建基于 Kolmogorov–Arnold Networks（KANs）与交叉注意力机制（cross-attention mechanism）的混合模型，用于预测电池材料中的体积容量（volumetric capacity）与平均电压（average voltage）。模型使用真实实验数据验证可行性，表明机器学习方法可高效预测材料化学性质，助力新型电池材料开发与应用。

《Digital Discovery》刊发的该论文针对电池材料性质预测中的特征利用不足问题，开展了将晶体学信息引入机器学习框架的系统研究。

研究背景方面，传统摇椅式锂离子电池（LIBs）性能逐渐逼近极限，镁离子、锌离子、铝离子等多价金属离子电池因资源丰度高和容量潜力受到关注。但多价离子电荷密度高、离子半径大，在传统过渡金属氧化物等正极材料中扩散困难，实验试错发现正极材料耗时耗力。传统机器学习多使用块体物理化学属性，忽视化学式、原子坐标等细节；化学式和晶体结构分别反映元素比例、空间排列与离子扩散路径，但公式、坐标、物化属性混合后形成变长嵌套数据，传统多层感知机（MLP）和卷积神经网络（CNN）需补零或截断，造成信息丢失与数据稀疏。同时普通 MLP 参数量过大、可解释性差，而 KAN 用可学习样条函数替代节点激活，具备一定可解释性优势。

研究人员开展的研究是：从 Materials Project 的 Battery Explorer 与 Materials Explorer 获取无机电池材料数据，构建材料组成编码器，将元素编码器与坐标编码器输出的嵌套列表送入基于 transformer 的模型，并在其中集成 KAN 模块，形成 Base-KAT 与 KAT-Net 两种结构，预测体积容量（volumetric capacity，mAh/cc）与平均电压（average voltage，V）。结论上，完整输入原子坐标的 KAT-Net 在测试集整体预测误差低于 5%，较常规非优化机器学习方法提升约 10%；仅用元素类型不用坐标时误差增至 10 至 17 倍，完全不用元素信息则增至 20 至 25 倍。该工作说明显式原子坐标信息能显著提升材料发现效率，对构造高精度电池性能预测模型具有指导意义。

关键技术方法上，样本来自 Materials Project 数据库，经稳定晶体结构、完整原子坐标与有效标签筛选后按固定随机种子 42 划分训练集 80% 与测试集 20%。方法包括：用元素属性（价态、电负性、离子半径 VI 等）与 Wyckoff 坐标（X_k、Y_k、Z_k）构成变长嵌套输入；用交叉注意力以坐标作 query 与 key 聚合元素属性；用正弦插值（sine interpolation）将元素数标准化为 4；用 KAN 块做降维与可解释符号回归式输出；以 k=6、grid=5 的 KAN 编译器在普通家用计算机训练，优化器为 AdamW，权重衰减 5×10^?4，初始学习率 1×10^?3。

研究结果如下。

Results：晶体数据含元素数据（氧化态、电负性、原子半径）与结构数据（晶格内原子位置）。模型由材料组成编码器与 transformer-KAN 元素特征提取骨干组成；Materials Properties 用 n_sites、n_ele、vol、den、at_den 作特征，vol_c 与 a_vol 作标签。通过对比完整输入、仅类型输入、基础输入，研究人员得出原子坐标对降低 MAPE 至关重要。

在模型结构比较中，Base-KAT 并行处理训练快，KAT-Net 损失更低且可解释性更好；去掉 transformer 的 KAT-Lin 收敛慢且损失高。参数调优选 k=6、grid=5，使模型可在常见家用计算机训练。

不同数据预处理方法比较显示，零填充、零填充加截断、线性插值等基础模型虽训练快，但精度与泛化远逊 transformer 类模型；KAT-Net 与 MT Net（MLP-Transformer Network）均优于基础模型。

在测试集验证中，KAT-Net 用完整输入预测体积容量表现最佳；MT Net 保留注意力但用 MLP 替代 KAN，精度接近但可解释性弱；无晶体学信息的基础 MLP 与 KAN 模型误差大幅上升。计算成本上，KAT-Net 参数 33.05k、训练 4.13 iteration/s、推理延迟 1.39 ms；MT Net 参数 8.376k、训练 10.37 iteration/s、推理延迟 3.15 ms，说明追求效率可用 MT Net，追求机理可解释用 KAT-Net。

可解释性分析中，KAN 可视化显示 volume 与 density 连接线最多，CaCo(GeO₃)₂ 案例中体积与密度节点激活函数近似二次函数 ?(x)≈x²，系数大于其他特征，符合块体结构参数影响容量的物理直觉。

Discussion：研究人员指出，正弦插值比零填充更契合晶体周期性，避免人工边界高频噪声；元素数标准化为 4 源于数据集中 4 至 5 元化合物占多数，且模型对 6 元测试样本仍保持高精度。该框架虽在无机电池材料热力学性质上表现稳健，但静态结构描述符难以刻画离子扩散势垒与离子电导率等动力学性质，且仅训练于 Materials Project 无机材料，对钙钛矿、MOF 等需域适应或微调。

结论部分翻译：总之，本文提出一种特定数据预处理方法与模型来预测电池材料化学性质，并证明了准确加入原子坐标对晶体材料预测的关键作用。该研究引入集成 Kolmogorov–Arnold 网络与交叉注意力机制（cross-attention mechanism）的混合框架，通过显式加入原子坐标与元素特征，捕获成分与结构信息，从而更准确高效地预测晶体材料性质。研究人员确认，传统 MLP 层补零不足以处理此类复杂输入，而所提架构用注意力处理坐标数据、用 KAN 结构做最终性质预测。可调参数（如 k 与 grid size）在计算效率与模型复杂度间取得平衡，在普通硬件上取得强性能。该方法为实验前性质预测加速电池材料开发提供新路径，可辅助候选材料发现并减少实验投入，对下一代电池技术及器件设计具有工具性价值。