《RELIABILITY ENGINEERING & SYSTEM SAFETY》:Dynamic aircraft maintenance scheduling with Graph Neural Network integrated deep reinforcement learning
编辑推荐:
工业飞机维修策略仍依赖刚性、静态的槽位结构,限制了运营效率。现有研究主要处理在预定义数量和持续时间的槽位内的任务(重新)分配,而直接的槽位规划(联合确定槽位持续时间和分配)由于其组合复杂性仍然困难。研究人员提出一种基于图的强化学习框架,在固定规划视野内顺序构建
工业飞机维修策略仍依赖刚性、静态的槽位结构,限制了运营效率。现有研究主要处理在预定义数量和持续时间的槽位内的任务(重新)分配,而直接的槽位规划(联合确定槽位持续时间和分配)由于其组合复杂性仍然困难。研究人员提出一种基于图的强化学习框架,在固定规划视野内顺序构建维修任务包。图神经网络(GNN)编码任务间关系,为深度强化学习(DRL)策略提供信息,该策略学习将任务高效分组为槽位。该框架在来自一家主要欧洲航空公司的运营数据上进行训练和评估,并与固定时间混合整数线性规划(MILP)基准及当前行业实践进行比较。结果表明,该模型能够快速生成可行调度,并量化了与这些基准相比在间隔溢出、面板复用和Drop-Out任务之间的权衡。该模型能够一致地减少任务溢出并提高面板复用率。最后,由于奖励权重可根据航空公司的运营偏好进行调节,该框架为动态飞机维修任务打包提供了一种灵活的决策支持工具。
航空维修、修理和大修(MRO)活动是航空安全、合规与财务绩效的核心;MRO成本约占航空公司总运营成本的10%,其降低10%可能使利润翻倍。当前许多航空公司采用刚性、静态的基于分块(block)的维修策略,这种策略虽然提供了稳定性和可预测性,却无法动态适应飞机实际状态,也不利用任务间的相互依赖,造成所谓的“间隔浪费”:例如,一个允许间隔为1500飞行小时的任务被放入每1000小时重复的block中,会导致过度执行。现有研究大多聚焦于在预定义槽位内进行任务(重新)分配,很少从源头优化维修策略本身,也缺乏机队级优化。Haonan Li、álvaro Lanza Rausell、Alireza Amiri-Simkooei和Marta Ribeiro在《RELIABILITY ENGINEERING》发表本文,提出将维修策略设计表述为动态任务分组问题,并采用深度强化学习(DRL)与图神经网络(GNN)进行求解,以填补这一研究空白。
研究人员开展了什么研究?他们提出一个基于图的强化学习框架,在固定规划期内顺序构建维修任务包。该框架将单机维修槽位构建问题建模为部分可观测马尔可夫决策过程(POMDP)或马尔可夫决策过程(MDP),设计包含间隔溢出、面板复用、任务分组、工作量方差、Drop-Out惩罚与完成率的多目标奖励;比较了A3C、SAC、PPO三种强化学习算法,并在GNN集成与无GNN两种架构下训练。GNN采用残差边图注意力网络(Residual E-GAT),以任务初始到期日邻近关系构造有向图并编码任务关系;策略采用带掩码的注意力解码器顺序构建槽位。训练与验证数据来自欧洲某大型航空公司30余架同型号飞机的A检任务清单,规划期为365天。另建立固定槽位数量的多目标混合整数线性规划(MILP)基准和行业当前基于block的策略作为比较。训练后通过确定性的机队级冲突求解后处理,合并相邻槽位并前移冲突槽位,从而生成机队级可行调度。
研究结果分为多个部分。8.1 调度结果:在6种模型(A3C、SAC、PPO及各自的GNN集成)中,仅A3C