《Systems》:Metamodel-Driven Modeling of UAF-Based Cooperative Drone Combat Systems with AutoCL-MAPPO
编辑推荐:
传统基于模型的系统工程(MBSE)因静态架构与可执行算法之间存在语义鸿沟,难以验证自主系统的动态性能。为解决该局限,研究人员提出一种连接统一架构框架(UAF)与多智能体强化学习的体系(SoS)建模方法。研究人员采用驱动-挑战-机遇-目标(DCOG)框架将战略意
传统基于模型的系统工程(MBSE)因静态架构与可执行算法之间存在语义鸿沟,难以验证自主系统的动态性能。为解决该局限,研究人员提出一种连接统一架构框架(UAF)与多智能体强化学习的体系(SoS)建模方法。研究人员采用驱动-挑战-机遇-目标(DCOG)框架将战略意图映射至作战能力并在UAF中形式化;依托UAF域元模型(DMM)语义规则,将行为与资源规范自动转换为马尔可夫决策过程(MDP);进而采用自动课程学习多智能体近端策略优化(AutoCL-MAPPO)算法求解MDP。在通信衰减约束下,自主无人机集群于4对4对抗场景取得约73%任务成功率,优于标准MAPPO(65%)、HAPPO(50.8%)与QMIX(40.2%)基线。研究人员以系统建模语言(SysML)为载体校验所学决策序列符合UAF结构逻辑,通过指标约束偏差分析提供经验反馈以迭代精炼早期设计,从而建立可验证的数字主线(digital thread),闭合自主体系架构建模与学习行为间的回路。
研究背景方面,无人机技术扩散推动现代战争由平台中心向高度网络化协同体系(SoS)范式转变,但体系架构设计面临双重挑战:其一,高层战略意图经架构框架翻译为定量可执行模型仍是开放问题;其二,空战对抗的动态性与对抗性要求自主智能体习得静态架构无法刻画的复杂协同行为。现有MBSE与UAF侧重静态结构描述,缺乏任务级动态涌现行为验证机制,形成定性架构规范与定量算法执行间的语义鸿沟;而多智能体强化学习(MARL)虽能由奖励信号派生协同策略,却常脱离形式化系统架构,导致策略不可追溯、难复用,且在稀疏奖励高维对抗中样本效率低下。为桥接两支流,研究人员构建DCOG至UAF映射、DMM驱动MDP变换与AutoCL-MAPPO闭环验证的三层集成框架,论文发表于《Systems》。
关键技术方法上,研究人员首先建立五阶段UAF建模流程与DCOG战略映射机制,将Driver、Challenge、Opportunity、Goal分别绑定UAF的Concern、Issue、Derived元素与Objective;继而依据UAF域元模型(DMM)中Mission-Capability-Process-Performer的trace/refine/satisfy关系,开发UAF-to-MDP管线(解析XMI导出元数据,经Jinja2模板生成Python环境),由ResourcePerformer属性派生状态空间(全局80维、局部观测21维),由Function经isCapableToPerform链聚合多离散动作空间(6×4×9=216维),由ActualMeasurement与DesiredEffect参数化奖励函数;求解器采用带多离散分支Actor与集中式Critic的AutoCL-MAPPO,按交战距离6km、8-10km、15km三阶段自动课程调度,以胜率、奖励增益率<0.01及胜率标准差<0.02为晋级门限;实验场景为蓝方4单元(侦察、电战、攻击异构)对红方4战斗机、红方启启发式规则,通信可靠度按C(t)=max(C_min, C0·γt)指数衰减(C0=1.0, γ=0.995)。
研究结果部分,第3节材料与方法表明:五阶段UAF流程闭合“侦察-决策-效果-目标”作战环,DCOG消除“增强生存性”类目标的语义歧义;DMM驱动变换确保状态/动作/奖励客观派生而非经验定义;AutoCL-MAPPO多分支策略将216组合拆为独立[6,4,9]头,降低探索复杂度。第4节结果与第4.1节仿真设置显示,15×103回合训练后AutoCL-MAPPO渐近全局回报388.5,胜率73.4%,MAPPO基线325.2与65.0%,HAPPO迟收敛至50.8%且方差大,QMIX因单调值分解瓶颈陷于40.2%;第4.2节智能体策略演化证实课程机制使蓝方在Phase I掌握定位与电战、Phase III在通信衰减下稳定协同;第4.3节架构逻辑验证中,MAPPO决策序列经解释器聚为SysML活动图,语义分配与可追溯性约束100%通过,指标约束(Me-Pm-M)通过率88.2%,11.8%违例集中于15km高强度通信衰减下侦察单元越级直传坐标,反哺架构精炼。第5节讨论指出该方法可映射至AFSIM/VBS引擎形成闭环MBSE,AutoCL仅增4.6%计算开销(11.4 GPU小时),但受限于4对4规模、奖励权重耦合及UAF仅用战略/作战域;未来需引入分层MARL、神经符号硬约束及扩展Service/Security/Project视图。第6节结论翻译:本研究旨在解决传统静态MBSE知识碎片化、视图语义松耦与缺乏定量行为验证的挑战,提出融合UAF与MARL的SoS建模方法;DCOG在战略域分解顶层目的为作战能力,DMM驱动管线将静态规范编译为MDP;4对4对抗中AutoCL-MAPPO在通信衰减下获约73%成功率,所学序列经SysML仿真确认符合UAF结构边界;指标约束偏差分析提供迭代精炼概念设计的经验反馈,建立跨SoS生命周期连续数字主线,为自主体系架构一致性与人机协作(Human–AI Teaming)提供可行参考。