通过一种可学习的排序-混合-注意力机制改进点云表示方法 张玉燕（Yuyan Zhang）、 王曦（Xi Wang）、 张毅（Zhang Yi）和 徐磊（Lei Xu）

《Sensors》：Improved Point Cloud Representation via a Learnable Sort–Mix–Attend Mechanism Yuyan Zhang, Xi Wang, Zhang Yi and Lei Xu

　　

摘要

近年来，深度学习在3D点云处理领域取得了显著进展，层次化架构已成为标准。大多数研究集中在开发越来越复杂的操作符上，例如自注意力机制（self-attention），而提高基于高效MLP（多层感知器）的骨干网络的表示能力却受到了较少关注。为了解决这个问题，我们提出了一种可微分模块，该模块能够学习对局部点集施加任务驱动的规范结构。我们提出的SMA（Sort–Mix–Attend）层通过生成几何基础并使用可微分的排序机制来动态地对邻域进行序列化处理。这使得基于MLP的网络能够有效地建模丰富的特征交互，并在最终的对称聚合函数之前自适应地调整特征。我们证明了SMA能够显著提升标准3D分类和分割任务的性能。具体来说，将SMA集成到PointNeXt-S模型中后，在具有挑战性的ScanObjectNN数据集上，整体准确率（OA）达到了88.3%，比基线模型提高了0.6%。此外，它还将经典的PointNet++架构的OA提高了5.2%。我们还引入了一种高效的小型变体SMA-Tiny，该变体仅使用0.3M个参数就实现了86.0%的OA，证明了我们方法在结构优越性、计算成本效益以及实际应用价值方面的优势。