用于轻量级图像超分辨率的、内存效率高的分而治之注意力机制

《Neural Networks》:Memory-Efficient Divide-and-Conquer Attention for Lightweight Image Super-Resolution

【字体: 大 中 小 】 时间:2026年05月13日 来源:Neural Networks 6.3

编辑推荐:

  芮贺|朱振阳|毛晓阳摘要近期,基于变换器的方法在轻量级图像超分辨率(SR)领域取得了显著进展。然而,这些方法大多侧重于提升推理速度或重建质量,而忽视了内存消耗问题,从而限制了它们在资源受限设备上的实用性。在本文中,我们提出了一种内存效率高的分而治之注意力机制(MEDCA),该机制

  
芮贺|朱振阳|毛晓阳

摘要

近期,基于变换器的方法在轻量级图像超分辨率(SR)领域取得了显著进展。然而,这些方法大多侧重于提升推理速度或重建质量,而忽视了内存消耗问题,从而限制了它们在资源受限设备上的实用性。在本文中,我们提出了一种内存效率高的分而治之注意力机制(MEDCA),该机制在大幅降低内存使用的同时,显著提升了重建性能和推理速度。为了解决标准基于窗口的自注意力(WSA)的高内存和空间复杂性问题,MEDCA采用了分而治之的策略。具体而言,输入特征首先沿通道维度被分割成多个子空间,每个子空间再进一步划分为多个窗口,然后使用不同的非对称策略将这些窗口均匀分成两部分。对每一部分分别应用自注意力,最后将各部分的输出聚合起来形成最终表示。与传统WSA方法(如SwinIR)相比,MEDCA将每个子空间内的空间复杂度降低了一半。此外,我们设计了多种非对称划分策略,使模型能够从更广泛的空间上下文中提取特征,从而捕获更丰富的空间信息并增强其表示能力。大量实验表明,MEDCA在大幅降低内存消耗的同时,性能优于现有的轻量级最先进方法,并在多个公开基准数据集上保持了竞争力强的推理速度。特别是与最先进方法HiT-SRF相比,MEDCA在五个公开测试集上的平均性能提升了0.12dB,同时保持了相当的推理时间,且仅需要HiT-SRF所需内存的29.7%。代码和模型可在以下链接获取:https://github.com/hms-source/MEDCA。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号