一种基于Transformer的无人机执行器异常检测多元时空特征融合方法

《Sensors》：A Novel Transformer-Based Multivariate Spatio-Temporal Feature Fusion Method for UAV Actuator Anomaly Detection

　　

执行器在控制无人机（UAV）飞行姿态中起着至关重要的作用，因此及时的异常检测对于运行可靠性和飞行安全至关重要。然而，现有方法通常难以联合建模多元执行器信号的复杂时间动态和变量间空间依赖性，同时其计算复杂度可能限制实时部署。此外，大多数现有方法依赖于单变量或弱耦合表示，导致其在检测多个执行器同时故障方面效果较差。为解决这些挑战，本文提出了一种用于固定翼无人机执行器异常检测的多元时空特征融合Transformer（STF_Tran）框架。与采用共享注意力机制建模异质依赖关系的传统基于Transformer的多元异常检测方法不同，STF_Tran采用双分支架构，分别从多元执行器信号中编码时间动态和空间相关性。自学习机制使得每个分支能够在无需显式故障标签的情况下直接从正常操作数据学习判别性表示，而特征融合模块整合互补的时空表示以进行异常重构和评分。通过将所得异常分数与预定义阈值进行比较来识别故障，从而能够检测多样且同时发生的执行器异常。实验结果表明了STF_Tran的有效性，在偏差和卡死异常方面分别取得了0.9944和0.9949的F1分数，并持续优于多种最先进方法。

一种基于Transformer的无人机执行器异常检测多元时空特征融合方法研究解读

近年来，无人机在侦察、农业和军事等领域得到广泛应用，其中固定翼无人机因其高载荷和长航程优势备受青睐。执行器作为控制飞行姿态、执行控制指令的核心部件，其可靠性直接决定任务成败。然而，执行器故障不仅影响任务执行，还可能在复杂条件下威胁公共安全。因此，及时检测执行器异常对提升无人机运行安全至关重要。

现有无人机异常检测方法主要分为三类：基于知识的方法依赖专家规则，难以适应新场景；基于模型的方法依赖精确物理模型，复杂情况下适用性有限；数据驱动方法利用历史数据训练机器学习或深度学习模型，已成为主流。然而，数据驱动方法仍面临多重挑战：异常数据采集成本高且标注困难，限制了监督学习；无人机传感器数据具有丰富的时空特性，但许多方法仅关注时间或空间单一维度；LSTM等时序模型计算开销较大，难以满足实时性要求；多数方法仅检测单变量异常，难以捕获系统级关联故障；此外，现有多元异常检测方法多采用共享表示，未将时间动态与跨变量空间依赖显式解耦。针对上述问题，研究人员提出了一种基于Transformer的多元时空特征融合异常检测框架（STF_Tran），用于固定翼无人机执行器异常检测。该研究发表在《Sensors》期刊。

研究人员采用的主要关键技术方法包括：使用最小-最大归一化和滑动窗口对多变量时间序列进行预处理；构建双分支编码架构，空间分支采用多头注意力机制与一维卷积神经网络（1DCNN）提取参数间空间依赖，时间分支采用多头注意力机制与线性层捕捉同一参数在不同时刻的时间动态；通过Hadamard乘积融合时空特征；利用解码器重构多元输出，结合自学习机制增强对时间趋势的建模；异常检测通过比较重构数据与输入数据的残差与阈值实现，阈值基于验证集上正常数据的均值与标准差（3σ原则）确定。实验数据来源于明尼苏达大学飞行实验室公开的VIREO无人机第8次飞行数据集，选取升降舵、副翼、左升降副翼和右升降副翼四个相关执行器参数，并注入偏差异常和卡死异常进行验证。

研究结果部分首先比较了数据重构性能。实验通过计算平均绝对误差（MAE）和均方误差（MSE）评估各方法对异常片段的重构能力，结果表明STF_Tran在整体重构效果上优于对比方法，而DAGMM、MSCRED等方法在某些参数上表现不稳定，证明了STF_Tran对多参数行为的综合建模能力。

在异常检测性能比较中，研究人员将STF_Tran与CAE-M、DAGMM、GDN、LSTM_AD、MSCRED、USAD、AE-LSTM以及不同融合方式（STF_add、STF_nn）进行对比。实验结果显示，STF_Tran在偏差和卡死异常上均取得了最高的F1分数，例如在升降副翼参数上F1分别达到0.9952和0.9977，同时保持较低的假阳性率（FPR），训练时间也最短。ROC曲线和AUC值进一步验证了STF_Tran的优越性，其AUC值均超过0.99。

在消融实验中，研究人员分别移除时间特征、空间特征、Transformer模块和自学习机制，观察各组件对性能的影响。结果表明，移除Transformer模块会显著增加FPR，说明该模块对异常敏感性至关重要；移除时间或空间特征主要影响F1分数；自学习机制对性能影响相对较小但仍有贡献。整体上STF_Tran保持稳定性能，证实了各组件设计的有效性。

讨论部分分析了滑动窗口大小和训练数据量的敏感性。对于窗口大小，实验表明窗口为32时模型性能最优，F1和AUC分别达到0.9944和0.9986，FPR降至0.0125；过小或过大的窗口均导致性能下降，且训练时间随窗口增大而增加。对于训练数据量，模型性能随数据量增加而提升，但数据量达到80%后提升幅度边际递减；较小数据量会导致模型对时间趋势学习不充分，且各参数学习不均衡。

研究结论部分总结如下：本文提出了一种基于多元时空特征融合的无人机执行器异常检测框架。首先，两个子网络分别独立提取数据的时间和空间特征；然后，将时空特征融合并进行解码输出。该框架利用Transformer结构的位置编码和GPU并行运算，有效捕捉数据中的时间趋势和空间关系，同时缩短训练时间并实现多维输出。通过在真实无人机执行器数据中注入卡死和偏差异常，综合实验表明：（1）所提模型显著优于现有多元异常检测方法；（2）该方法有效降低了时间复杂度；（3）深入分析了上下文信息和训练数据量对模型性能的影响。研究也存在局限性，即评估基于单一VIREO无人机的第8次飞行数据，STF_Tran在不同无人机平台、飞行条件和气象条件下的泛化性尚需验证。未来工作将在多样化的无人机类型和运行条件下评估该框架，并进一步开发轻量级模型和优化方法以支持机载实时部署。