《MECHANICAL SYSTEMS AND SIGNAL PROCESSING》：Multi-task mixture-of-experts vision transformer for cross-bridge anomaly detection
编辑推荐：
摘要部署在大型桥梁上的结构健康监测（SHM）系统会积累大量异常数据，从而损害结构状态评估和损伤识别的可靠性。随着监测目标从单座桥梁逐步扩展到桥梁群，模型训练和管理的相关成本持续增加，对统一模型部署和集中系统管理提出了更高要求。同时，尽管不同桥梁的异常模式包含潜在的可共享信息，
摘要
部署在大型桥梁上的结构健康监测（SHM）系统会积累大量异常数据，从而损害结构状态评估和损伤识别的可靠性。随着监测目标从单座桥梁逐步扩展到桥梁群，模型训练和管理的相关成本持续增加，对统一模型部署和集中系统管理提出了更高要求。同时，尽管不同桥梁的异常模式包含潜在的可共享信息，但这种共性无法通过简单的数据聚合来充分利用。本研究提出了一种用于数据异常诊断的多任务混合专家视觉Transformer（MT-MoE ViT）框架，该框架在多桥梁任务联合优化过程中施加并行约束，以减少对结构特有或局部工况特征的依赖，转而学习在多种桥梁场景中仍具有判别性的异常特征。为进一步表征桥梁之间的任务级差异，将任务嵌入引入门控网络，以引导自适应专家选择并平衡共享表征学习与任务特定建模。为缓解多任务学习中的路由崩溃和优化冲突，采用稀疏路由策略实现特征级专家选择，并通过自适应多任务优化机制动态调整梯度权重和专家负载均衡。在九座不同结构类型的大跨径桥梁的实际结构健康监控数据上进行的实验验证表明，所提方法能够在统一模型框架内实现稳定的跨桥梁异常表征和协同诊断。
引言
结构健康监测（SHM）系统对于评估结构健康状况、预测服役寿命和确保基础设施安全至关重要[1]、[2]、[3]。然而，在户外环境中运行的SHM系统不可避免地会受到环境因素干扰、传感器退化和传输噪声的影响，在监测序列中产生多种类型的异常数据[4]、[5]、[6]。此类异常数据会干扰模态识别、损伤识别、状态评估和实时预警功能[3]、[6]、[7]。因此，数据异常检测已成为SHM领域的活跃研究课题[5]、[8]、[9]、[10]。
监测数据的统计特性和动态响应模式会随桥梁结构体系、服役环境、传感器类型和部署配置而变化，这往往导致在单座桥梁上训练的异常检测模型在应用于其他桥梁时表现不稳定。特别是在桥梁群监测场景中，不同桥梁既表现出由结构配置和运行工况引起的响应变异，又共享源于相似服役环境、荷载条件和监测目标的潜在共性特征。这种共享共性与任务特定变异的共存使得跨结构异常诊断从根本上不同于简单的模型复用或数据聚合。随着传感器网络不断扩大和受监测桥梁数量增加，如何有效利用多桥梁监测数据，同时防止模型过度依赖结构特有或局部受限的运行工况，从而实现稳定且可扩展的跨结构异常诊断，已成为智能结构健康监测系统面临的关键挑战。
传统数据异常检测方法涵盖概率统计方法、预测模型、基于距离的方法和基于领域知识驱动的方法[9]、[10]、[11]。从统计模式识别的角度来看，Kullaa[12]明确将SHM中的异常解释框架定义为区分传感器故障、结构损伤和环境效应，而Entezami等人[13]提出了一种面向SHM大数据分析的统计模式识别工作流。在时间序列和振动响应建模方面，Lam和Yin[14]开发了一种基于动态响应测量的薄板多裂纹统计检测方法，Yan等人[15]提出了一种基于单元模态应变能灵敏度闭式解的统计结构损伤检测方法；为应对变化环境下响应变异问题，Erazo等人[16]研究了基于卡尔曼滤波的振动SHM方法。在基于距离和离群点的方法方面，Dervilis等人[17]研究了适用于SHM的鲁棒离群点检测和回归方法，Qi等人[18]提出了一种电厂机组多测点参数离群点检测方法。在信号处理和时频分析方法方面，Huang和Yuen[19]提出了一种用于在线分布式结构识别的层次化离群点检测方法，Kankanamge等人[20]综述了小波变换在SHM中的应用。最近，Mehrabadi等人[21]开发了一种基于加权k近邻分类器的数据高效桥梁异常检测方法。
尽管传统方法在特征明确的应用场景中效果良好，但它们往往依赖于人工设计特征、简化假设、精心调优的阈值以及来自单座桥梁的数据分布，当监测数据具有高维性、异质性且受环境和运行变异性强烈影响时，这些方法的鲁棒性会受到限制。将深度学习引入SHM数据分析已成为一个重要研究方向[3]、[22]、[23]。深度异常检测涵盖多种学习范式，包括基于重建和预测的表征学习、单类目标以及监督或自监督分类[9]。基于重建的方法，特别是自编码器及其变体，通过学习正常数据模式的表征并通过增大的重建误差来识别异常[4]、[24]、[25]、[26]。生成对抗网络（GAN）也已与自编码器结合，用于学习正常数据分布以进行SHM数据异常检测[27]、[28]。基于分类的方法直接区分预定义的异常类别[6]、[29]、[30]，而单类方法从正常数据或弱标注数据中学习决策边界[31]、[32]。在架构层面，卷积神经网络（CNN）已应用于基于视觉的结构检查和SHM监测数据的基于图像的表征[8]、[33]、[34]、[35]、[36]。循环神经网络（RNN）和长短期记忆网络（LSTM）用于建模序列监测数据中的时间依赖关系，并已用于异常检测和缺失数据恢复[37]、[38]。卷积网络通过堆叠卷积操作构建图像表征，而循环网络通过递归状态更新处理序列输入[39]、[40]。自注意力机制消除了递归并直接关联序列内的位置[41]。在此基础上，ViT直接将Transformer应用于图像块序列并取得了优异的图像分类性能[42]。
虽然这些异常检测模型在单个结构内取得了令人满意的性能，但将在一座桥梁上训练的模型直接应用于另一座桥梁时，往往会因结构类型、传感器配置和服役环境引起的分布偏移而导致性能大幅下降。因此，迁移学习越来越多地应用于SHM中，在标注数据稀缺时复用来自相关结构或领域的知识[5]、[7]。更广泛地说，SHM中的迁移学习通常通过参数迁移实现，例如使用预训练骨干网络作为固定特征提取器并在目标结构上微调部分或全部预训练网络，以及通过域适应策略减少源数据与目标数据之间的分布不匹配[43]。现有的桥梁SHM实施方案通常执行从选定源桥梁到目标桥梁的单向适应[7]。在桥梁群中重复这种源到目标的过程会增加训练流程和所维护模型的数量，而较大的源-目标差距可能导致负迁移和不稳定的跨桥梁性能[43]。从工程角度来看，桥梁群监测越来越倾向于将多座桥梁整合到统一模型中以降低训练和维护成本，同时提高部署一致性。受此需求驱动，本研究将多桥梁监测建模为多任务学习问题，将每座桥梁视为一个任务，学习共享表征与任务特定组件，实现跨桥梁的多对多知识共享而非一对一的适应。然而，传统的硬参数共享缺乏对任务特定表征的灵活性，并可能在任务间产生优化冲突[44]、[45]。
为克服这些局限性，本研究提出了一种多任务混合专家视觉Transformer框架，通过有针对性的方法论贡献实现稳健的跨结构异常诊断。首先，将桥梁群异常诊断建模为多任务学习问题，减少了独立桥梁特定建模和成对迁移适应带来的训练和维护负担。其次，在ViT注意力模块中引入了任务感知混合专家路由，使不同桥梁能够在共享骨干网络中保留结构差异和异常分布差异。第三，联合引入稀疏路由、负载均衡、Z-Loss和GradNorm，以缓解多桥梁联合训练过程中的专家崩溃、任务冲突和负迁移问题。所提方法在九座不同结构类型的大跨径桥梁的实际监测数据上进行了验证，与CNN迁移学习基线相比表现出优越的性能。
本文其余部分组织如下：第2节介绍多任务学习框架、MT-MoE ViT架构和多任务优化策略；第3节展示在九座桥梁上的实验验证，包括详细的性能分析和讨论；第4节总结主要发现和贡献。
章节摘要
方法
在实际的区域或城市级桥梁群管理中，监测中心通常需要同时监管多座桥梁。随着联网桥梁数量的增加，为每座桥梁独立构建和维护单独模型会导致冗余训练、重复部署和不断增加的版本管理成本。同时，桥梁之间在结构类型、运行环境、传感器部署、样本量、异常类别分布等方面存在差异，
数据集描述
为验证所提方法在多桥梁结构健康监控场景下识别异常数据的能力，使用了九座桥梁在一个匿名化监测平台上采集的实际监测数据。如表1和表2所示，该数据集涵盖九座具有不同结构类型、运营条件和异常类别的典型桥梁，表现出显著的结构异质性和任务不平衡特征，适合作为
结论
本研究提出了一种用于结构健康监控系统中异常数据诊断的多任务混合专家视觉Transformer方法。针对多桥梁监测场景中结构异质性、数据分布差异和优化冲突等挑战，该方法集成了任务感知门控机制、稀疏专家路由和自适应多任务优化策略，实现了共享知识提取与任务特定适应的双重目标。
CRediT作者贡献声明
潘秋悦：撰写–初稿，验证，形式化分析，数据整理。鲍跃全：撰写–审稿与编辑，监督，经费获取，概念化。龙飞远：撰写–初稿，可视化，软件，形式化分析。
利益冲突声明
作者声明，他们没有已知的竞争性经济利益或个人关系可能影响本文所报告的工作。
致谢
本研究得到国家重点研发计划（项目编号：2023YFC3805700）和国家自然科学基金（项目编号：52425804、U23A20660、52192664）资助。
潘秋悦 | 鲍跃全 | 龙飞远
