MaskCtrl:通过深度强化学习将训练掩码网络转化为具有自解释能力和高性能的控制器

《Neural Networks》:MaskCtrl: Training Mask Networks as Self-Explainable and Performant Controllers via Deep Reinforcement Learning

【字体: 大 中 小 】 时间:2026年05月16日 来源:Neural Networks 6.3

编辑推荐:

  史鹏|司刘|大鹏志|王佩鑫|张敏摘要在深度强化学习(DRL)中,可解释性对于确保安全且负责任的控制至关重要。大多数解释方法都是离线训练解释模型(例如掩码网络)的,这些模型是从系统轨迹中独立训练出来的,导致训练过程与环境中对扰动状态的反馈脱节。这种脱节常常会导致特征重要性错位,即关

  
史鹏|司刘|大鹏志|王佩鑫|张敏

摘要

在深度强化学习(DRL)中,可解释性对于确保安全且负责任的控制至关重要。大多数解释方法都是离线训练解释模型(例如掩码网络)的,这些模型是从系统轨迹中独立训练出来的,导致训练过程与环境中对扰动状态的反馈脱节。这种脱节常常会导致特征重要性错位,即关键特征被忽略,而无关特征却被错误地突出显示。为了解决这个问题,我们提出了MaskCtrl,这是一个新颖的DRL框架,用于将掩码网络训练成具有自解释能力的控制器。经过训练的自解释控制器具备两个关键优势:(1)其决策性能可与原始神经控制器相媲美;(2)能够准确识别对决策至关重要的状态特征。这两种优势源于我们基于DRL的训练机制,该机制利用系统奖励作为环境反馈,在训练过程中纠正特征错位问题。实证结果表明,我们的自解释控制器在关键特征识别方面的表现比离线训练的解释模型高出50.58%。具体来说,这种解释与决策之间增强的特征对齐性使得在对抗性攻击中的效果提高了25.2%,并且鲁棒性也得到了显著提升,即使面对严重的对抗性扰动,奖励仅下降了8.7%。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号