GAASR：基于共享数据条件化二阶特征矩阵的轻量级图像超分辨率网络

《Electronics》：Geometry-Aware Attention with a Shared Second-Order Feature Matrix for Lightweight Image Super-Resolution

　　现有的轻量级单图像超分辨率（SISR）方法在显式建模令牌间相似度时，通常依赖标准的点积注意力机制。尽管查询和键的投影是学习得到的，但投影坐标中的相似度仍通过欧几里得内积来评估。在这项工作中，我们提出了GAASR，一种轻量级SISR网络，它以共享的、数据条件化的二阶特征矩阵来增强基于窗口的注意力。对于每个注意力层，一个非中心化的二阶描述符在当前的向前传播中跨窗口和头部进行池化，并与一个可学习的基矩阵相结合。所得对称矩阵在该层内共享，并以两种互补的方式使用：对查询特征进行线性变换，以及通过线性求解对令牌对齐的查询-键残差进行预处理。随后，一个迹导出的标量在标准点积注意力评估之前控制残差校正的贡献。这种设计仅引入了微小的特征维度相关开销，并保留了窗口注意力对令牌数量的主要二次依赖性。所提出的机制使用对称矩阵变换和线性方程组求解来表述，同时保留了标准的点积注意力结构。在多个标准SISR基准上的实验表明，在可比参数数量和报告的计算预算下，重建增益一致，且在纹理丰富和高频区域有显著改善。