ManifoldSense：基于可微学习框架提升复杂流形上的稀疏感知能力

《Aerospace Science and Technology》：ManifoldSense: Enhancing sparse sensing on complex Manifolds with a differentiable learning framework

　　摘要：在复杂的几何流形上精确重建物理场一直是航空航天工程领域的长期挑战。重建性能主要受重建模型选择和传感器布局的影响，而基于深度学习的方法为此提供了一种强大且有效的解决方案。尽管在欧几里得空间中，重建模型与传感器布局的可微联合优化已取得进展，但将其扩展到复杂流形时面临着一个根本性障碍：现有框架无法在满足流形约束的同时将重建梯度反向传播到传感器布局。为解决这一问题，我们提出了ManifoldSense，这是一种通用的双层可微框架，能够有效整合重建模型与受流形约束的传感器布局优化。该框架实现了全程在流形上的端到端传感器布局优化。此外，我们还设计了一种辅助的隐式神经表示作为可微替代模型，以实现从重建性能到传感器布局的梯度传递。同时，利用有符号距离函数来引导计算得到的梯度投影到局部切空间中。实验结果表明，ManifoldSense在性能上远远优于静态布局优化策略，相较于现有的先进可微布局优化方法，其优势在于能够确保所有传感器始终位于流形上。

引言：从有限的传感器测量数据中精确重建复杂的物理场，是科学和工程领域面临的一个基本挑战[1]。近年来，数据驱动方法在这一任务上展现出相较于传统线性重建技术的显著优势。早期的方法采用浅层神经网络[2]和基于张量的模型[3]来学习从稀疏观测数据到目标值的直接映射。为更好地处理不规则的传感器布局，人们又引入了如Voronoi辅助CNNs[4]、Senseiver[5]以及图神经网络[6]等框架。更近期的研究则采用了算子学习方法[7]以及物理信息神经网络（PINNs）[8]、[9]，进一步提升了方法的 scalability和物理一致性。然而，重建性能不仅取决于先进的重建模型，还极度依赖于传感器布局[10]。

在有限的测量资源下，优化传感器布局对于提升重建精度至关重要。近年来，这一任务在众多工程应用领域引起了广泛关注，包括结构健康监测与数字孪生[11]、卫星热控制[12]以及分布式热源重建[13]、[14]等。传统方法通常基于信息论准则或最优实验设计将传感器布局问题转化为优化问题，例如基于高斯过程的最大互信息算法[15]以及凸松弛方法[16]。对于高维场，人们则倾向于通过在线性基模式上使用QR分解进行稀疏传感器布局[17]、[18]、[19]，或是最小化观测矩阵的条件数[20]。不过，这些方法往往与后续的重建模型是分离的，这可能在非线性环境中限制重建性能。

近期，深度学习使得端到端可微优化成为可能。早期的可微方法采用Gumbel-Softmax[21]等松弛机制，在固定网格上进行离散选择。除了基于梯度的优化之外，深度强化学习（DRL）也作为一种替代方案出现，用于传感器布局优化。通过将传感器布局视为序列决策过程，DRL无需显式的可微性，因此可以配合黑盒或不可微的重建模型进行优化[22]、[23]、[24]、[25]。然而，DRL在高维连续状态-动作空间中往往存在严重的样本效率问题以及收敛不稳定问题。为了在保持连续布局灵活性的同时提升优化效率，近期越来越多的研究转向基于梯度的坐标优化方法[26]、[27]、[28]、[29]、[30]、[31]。这类方法的核心瓶颈在于如何使重建目标对传感器坐标具有可微性。现有方法通过设计特定于架构的解决方案来解决这一问题，使其能够支持梯度流动。例如，Marcato等人[26]、[27]在Senseiver框架中整合了可微插值策略，以构建明确的梯度路径。类似地，PhySense[30]则通过预训练的基于流的生成模型反向传播梯度来实现布局优化，它利用具有坐标感知能力的交叉注意力机制，建立重建损失与传感器坐标之间的可微性关联。尽管这些基于特定架构的方法十分有效，但它们本质上依赖于重建模型对传感器布局的可微性。由于标准网络模型本身缺乏从输出到输入空间坐标的可微路径，因此无法与之兼容。DSPO[29]通过引入可微替代模型来为任意重建模型估计梯度，从而实现了框架的通用性，但其设计主要基于欧几里得空间。由于缺乏强制遵循内在几何约束的机制，当将这些标准梯度更新方法应用于复杂流形时，不可避免地会导致无效的传感器布局。尽管已有专门用于在流形上学习的框架被开发出来[32]、[33]、[34]，但这些进展主要集中在正向表示方面。目前，能够在这类流形上实现可微传感器布局优化的关键能力，仍然不存在于现有的传感框架之中。

要填补这一重要空白，就需要一种既能够表示连续物理场，又能表征复杂几何结构的强大且可微的表示方法。隐式神经表示（INRs）可以将连续信号表示为将坐标映射到数值的函数，从而具备无限分辨率和完全的可微性。早期的基于多层感知机（MLP）的方法由于存在频谱偏差，难以处理高频细节。为了解决这个问题，Fourier Features[35]和SIREN[36]分别引入了位置编码和周期性激活函数，从而实现了对复杂场的高保真重建。在这些基础之上，Functa[37]利用元学习将数据集视为函数流形，而最近的PEINR[38]则进一步加入了物理信息约束，以提高重建精度和可解释性。在几何表示方面，DeepSDF[39]率先使用了连续的有符号距离函数（SDF）来进行形状建模。为了处理没有真实值监督的原始、无方向性的点云，人们提出了IGR[40]和Neural-Pull[41]等方法，通过施加Eikonal约束或利用梯度流将空间拉向表面来学习SDF。这些进展为处理复杂的物理现象和几何结构提供了天然的可微基础。

为应对上述挑战，我们提出了ManifoldSense，这是一种专为在复杂几何流形上优化传感器布局而设计的通用可微双层优化框架。ManifoldSense引入了一种辅助的INR作为可微替代模型，为任何重建模型建立了可分析的梯度流动路径。此外，我们还设计了基于SDF的梯度投影机制，将布局更新限制在局部切空间内，从而确保传感器始终位于流形上。我们在三个基准测试上验证了该方法，其性能优于现有的最先进方法，同时还能保证传感器布局的物理可行性。我们的贡献总结如下：•我们提出了ManifoldSense，这是一种与具体架构无关、适用于复杂流形的可微传感器布局框架。•ManifoldSense能够在严格遵循流形约束的前提下，实现重建梯度向传感器布局的反向传播。•我们证明了ManifoldSense在复杂流形基准测试中的性能优于现有最先进方法，同时还能确保所有传感器始终位于流形上。本文的其余部分安排如下：第2节详细介绍所提出的ManifoldSense框架；第3节阐述实验细节（数据集、基准方法及评估指标），并对结果进行深入分析；第4节对全文进行总结，并探讨未来的研究方向。附录A和附录B分别提供实验细节和额外的分析内容。

方法论：在本节中，我们介绍了ManifoldSense，这是一种用于在复杂流形上优化传感器布局的可微框架。我们将该问题定义为双层优化任务，并概述了端到端的处理流程（2.1节）。接着，我们详细介绍了用于优化重建模型的内部循环（2.2节）。最后，我们提出了自己的传感器布局优化策略（2.3节）。

问题描述：我们考虑一个包含感兴趣的复杂物理场u的物理域Ω?Rd。

实验部分：在本节中，我们评估了ManifoldSense相对于现有最先进基准方法的性能。所有实验均使用PyTorch框架实现，优化器选用Adam[42]。正向模型的学习率固定为0.001，而布局优化器的学习率则根据不同数据集的几何尺度进行调整。除非另有说明，否则我们采用以下默认设置：批量大小为16，正向模型训练周期为300轮，传感器数量为30个。

结论：我们提出了ManifoldSense，用以解决复杂流形上的传感器布局问题，从而显著提升了稀疏场的重建效果。通过整合隐式神经表示（INRs）和有符号距离函数（SDFs），该框架确保优化过程始终在流形上进行，进而保持了传感器布局的物理可行性。该框架适用于多种不同的重建模型，能够实现端到端的优化。

CRediT作者贡献声明：
Hanqing Liu：撰写——初稿、可视化、方法论、研究实施、概念构思。
Xu Liu：撰写——审阅与编辑、可视化、验证、软件、研究实施。
Wei Peng：指导、项目管理、方法论、概念构思。
Weiwei Liu：撰写——审阅与编辑、指导、资金获取。
Weien Zhou：验证、形式化分析。
Wen Yao：指导、项目管理、资金获取、概念构思。

利益冲突声明：作者声明自己不存在任何可能影响本文研究成果的已知财务利益或个人关系。

Hanqing Liu | Xu Liu | Wei Peng | Weiwei Liu | Weien Zhou | Wen Yao
中国长沙，国防科技大学，航空航天科学与工程学院，邮编410073