基于快速归一化注意力机制和辅助多标签识别的知识蒸馏方法，用于持续的光伏缺陷分割

《Renewable Energy》：Knowledge distillation based on fast normalization attention and auxiliary multi-label recognition for continual photovoltaic defect segmentation

针对现有光伏电池EL缺陷检测方法无法适应动态环境变化及持续学习需求的问题，提出SegAdapt框架，结合知识蒸馏、快速归一化注意力机制和辅助多标签识别，有效处理缺陷尺度变化和噪声干扰，提升持续学习下的检测性能。

　　太阳能电池板作为光伏发电系统的核心组件，其可靠性和效率直接影响整个系统的运行表现。随着全球范围内光伏产业的快速发展，特别是在2023年新增光伏装机容量达到446 GW，比2022年的236 GW增长了约89%的背景下，确保太阳能电池板在生命周期内的稳定性和高效性变得尤为重要。然而，在实际运行过程中，由于环境因素和物理应力的影响，太阳能电池板会不可避免地出现各种缺陷，如裂纹、腐蚀和互连问题等。这些缺陷不仅会影响太阳能电池板的使用寿命，还可能降低其发电效率，从而对整个光伏系统造成负面影响。因此，开发一种能够准确、持续检测这些缺陷的方法，对于提升光伏系统的长期可靠性与性能监测具有重要意义。

现有的缺陷检测方法主要依赖于电致发光（Electroluminescence, EL）成像技术，这是一种非破坏性的检测手段，能够提供高分辨率的图像，从而帮助识别太阳能电池板内部的微小缺陷。然而，这些方法在实际应用中存在一定的局限性。首先，它们通常是在固定的条件下进行训练，使用预定义的缺陷类别数据集。这意味着当新的缺陷类型出现时，这些方法难以适应，无法有效识别。其次，随着光伏系统的部署环境不断变化，包括温度、湿度等动态因素的影响，缺陷的演变过程变得更为复杂，而传统方法并未充分考虑这些变量。此外，由于数据量庞大且缺陷分布随时间和地点不断变化，存储和管理全部历史数据变得不切实际，同时重新训练模型也需要大量的时间和计算资源。

为了解决这些问题，本文提出了一种全新的知识蒸馏框架——SegAdapt，专门用于在动态条件下进行光伏缺陷的分割。该框架通过知识蒸馏的方式，将之前模型所学到的缺陷知识有效地传递给新模型，从而在保留已有知识的同时，适应新的缺陷类型。SegAdapt的核心在于其独特的注意力机制，该机制基于快速归一化特征融合，能够突出显示那些容易被忽略的细长型缺陷。通过这种注意力机制，模型在蒸馏过程中能够更有效地关注到这些关键区域，从而提高检测的准确性。

为了进一步确保模型在学习新缺陷类型时不会遗忘已有的缺陷类别，本文在模型编码器的所有层级中引入了辅助多标签识别策略。这一策略包括两个方面：一是使用伪标签进行辅助多标签分类，以传递缺陷类型的先验知识；二是基于旧模型的辅助多标签logit蒸馏，以传递软目标知识。通过这些辅助手段，SegAdapt能够在不断学习新缺陷的同时，保持对旧缺陷的良好识别能力，从而减少灾难性遗忘（catastrophic forgetting）的问题。

在实验部分，本文对SegAdapt与其他通用的持续学习方法进行了对比测试。结果显示，SegAdapt在新旧缺陷分割任务中均表现出优越的性能，特别是在处理动态环境下的光伏缺陷时，能够实现更鲁棒和准确的分割效果。这些结果表明，SegAdapt不仅在理论上具有创新性，而且在实际应用中也展现出显著的优势。

本文的主要贡献体现在以下几个方面：首先，我们首次将持续学习的概念引入到光伏缺陷分割的研究中，为该领域提供了新的思路和方法。其次，我们提出了一种基于快速归一化特征融合的注意力机制，有效解决了细长型缺陷在分割过程中容易被忽略的问题。第三，通过在模型编码器的各个层级中实施辅助多标签识别策略，我们确保了模型在不断学习新缺陷的同时，能够保持对旧缺陷的良好识别能力，从而避免灾难性遗忘。最后，实验结果验证了SegAdapt在实际应用中的有效性，证明其在动态环境下的优势。

为了验证SegAdapt的有效性，本文使用了公开的太阳能电池数据集——UCF EL。该数据集包含单晶硅和多晶硅太阳能电池的图像，共计11,851张。数据集中有四种主要类型的缺陷，这些缺陷的分布和特征为模型的训练和测试提供了充分的依据。在实验过程中，我们对这两种较为罕见的缺陷类别进行了数据增强，包括随机旋转（±25°）等操作，以确保模型在训练时能够接触到更多的样例，提高其泛化能力。

在方法论部分，本文详细介绍了SegAdapt的工作原理和实现过程。首先，SegAdapt通过知识蒸馏的方式，将已有模型的知识有效地传递给新模型。这一过程不仅保留了模型对旧缺陷的识别能力，还使其能够适应新的缺陷类型。其次，为了突出显示细长型缺陷，本文引入了基于快速归一化特征融合的注意力机制。该机制能够在特征提取过程中，将模型的注意力引导至那些容易被忽略的区域，从而提高检测的准确性。最后，通过在模型编码器的所有层级中实施辅助多标签识别策略，SegAdapt能够在不断学习新缺陷的同时，保持对旧缺陷的良好识别能力，从而避免灾难性遗忘。

在结论部分，本文总结了SegAdapt在光伏缺陷分割中的应用效果。通过引入持续学习的概念，SegAdapt不仅能够适应新的缺陷类型，还能够有效保留已有知识，从而在动态条件下实现更准确和鲁棒的缺陷检测。此外，本文提出的快速归一化注意力机制和辅助多标签识别策略，为解决细长型缺陷检测和模型遗忘问题提供了新的方法。这些贡献为光伏系统的长期监测和维护提供了有力的技术支持。

本文的研究团队由六位作者组成，包括Xinyue Lei、Jinxia Zhang、Ying He、Shixiong Fang、Kanjian Zhang和Haikun Wei。他们各自在研究的不同阶段发挥了重要作用，从概念设计到实验验证，再到论文撰写和审阅，均贡献了宝贵的意见和建议。同时，本文也得到了多项基金的支持，包括国家自然科学基金、东南大学先进海洋研究院研究基金以及中央高校基本科研业务费。这些支持为研究的顺利进行提供了必要的资源和条件。

最后，本文声明了作者之间不存在任何可能影响研究结果的财务利益或个人关系。这种透明度确保了研究的客观性和可信度。此外，本文还感谢东南大学大数据计算中心在数值计算方面的设施支持，为实验的顺利进行提供了重要的技术保障。

综上所述，本文提出的SegAdapt框架在光伏缺陷分割领域具有重要的应用价值。通过引入持续学习的概念，结合注意力机制和辅助多标签识别策略，SegAdapt能够有效应对动态环境下的缺陷检测挑战，提高检测的准确性和鲁棒性。这些研究成果不仅为光伏系统的维护和优化提供了新的技术手段，也为其他类似领域的持续学习研究提供了有益的参考。