AutoPKD：基于自动通道剪枝和补丁关系的蒸馏技术，用于高效实现3D物体检测

《Expert Systems with Applications》：AutoPKD: automatic channel pruning and patch-based relation distillation for efficient 3D object detection

　　• 用于3D对象检测的自动剪枝和关系蒸馏。
• 基于ABC的信道搜索，用于结构化模型剪枝。
• 无需训练的代理指标，用于快速结构评估。
• 在自动驾驶车辆平台上的实际部署。

**引言**
3D对象检测可以定位和分类对象，为后续的感知和规划任务提供重要的对象信息，使其成为自动驾驶、机器人技术等应用中的基本且关键任务。同时，深度神经网络已成功应用于广泛的科学和工程领域（Abbas, Saidani, Ramzan, Saleem, Othman, Abduvalieva, Benabdallahi, Khan, 2025; Ramzan, Shafique, Abbas, Ali, Lamoudan, Jan, Norberdiyeva, Turabova, Garalleh, 2025），展示了其在建模复杂系统方面的强大能力。基于LiDAR的3D对象检测由于点云中捕获的丰富几何信息而取得了显著进展（Lang, Vora, Caesar, Zhou, Yang, & Beijbom, Yan, Mao, Li, 2018; Zhou, Yu, Wang, Li, 2022）。然而，追求更高的检测精度导致了模型复杂性和参数数量的显著增加，这严重阻碍了在资源有限平台上的部署（图1）。因此，探索模型压缩和加速技术至关重要。

信道剪枝是一种结构化的压缩方法，无需额外算法或专用硬件即可生成剪枝后的模型，使其适用于硬件环境。然而，大多数剪枝方法（Li, Qi, Wang, Ge, Li, Yue, & Sun, Wang, Qin, Zhang, & Fu, Wang, & Li）是为2D任务设计的，不太适合具有复杂架构和耗时训练的3D检测模型。知识蒸馏（KD）是另一种有效的压缩技术，通过从重量大但准确的教师模型转移知识来改进轻量级的学生模型。现有的KD方法主要在2D任务中转移特征级知识、响应级知识或两者（Dai, Jiang, Wu, Bao, Wang, Liu, & Zhou, Yang, Li, Jiang, Gong, Yuan, Zhao, & Yuan），但往往忽略了空间结构关系，使其对于3D对象检测效果不佳。因此，3D检测的有效压缩方法仍然缺乏研究。

最近，一些研究探索了用于3D对象检测的信道剪枝和KD（Huang, Liu, Che, Xu, Shen, Peng, Zhang, Liu, Feng, & Tang, Yang, Shi, Ding, Wang, Qi, 2022; Zhang, Liu, Huang, Yang, Lei, & Wen）。然而，这些方法，特别是对于基于LiDAR的模型，仍面临以下限制：
(1) 缺乏高效的自动剪枝。尽管在2D任务中已经研究了自动信道剪枝（Lin, Ji, Zhang, Zhang, Wu, Tian, 2021; Xue, Yao, Peng, Yao, 2023），但其应用于3D对象检测仍然有限。大多数现有的3D检测剪枝方法（Huang, Liu, Che, Xu, Shen, Peng, Zhang, Liu, Feng, & Tang, Yang, Shi, Ding, Wang, Qi, 2022; Zhang, Liu, Huang, Yang, Lei, & Wen）依赖于经验法则启发式方法，通常导致结构不最优。此外，由于3D检测器的复杂架构和长时间训练计划，基于训练的剪枝在计算上代价高昂。
(2) 忽略了BEV空间中的空间结构关系。BEV特征包含丰富的空间信息，如对象位置、方向和尺度。然而，大多数KD方法（Yang, Shi, Ding, Wang, Qi, 2022; Yang, Li, Jiang, Gong, Yuan, Zhao, & Yuan）主要使用L1或MSE损失来模仿点级的BEV特征值，同时忽略了结构关系。教师模型和学生模型之间的特征幅度差异也可能施加过于严格的约束，限制了学生的泛化能力。
(3) 对压缩技术之间协同作用的探索不足。大多数工作（Huang, Liu, Che, Xu, Shen, Peng, Zhang, Liu, Feng, & Tang, Shi, Wang, Shi, Wang, Li, 2021; Zhang, Dong, Tai, & Ma, Zhao, Zhang, Zhao, Chen, Zhang, Tao, 2024a）专注于单一压缩技术，如剪枝、量化或KD，而只有少数研究（Zhang, Liu, Huang, Yang, Lei, & Wen, Zhang, Dong, Yang, Lu, Tseng, Du, Keutzer, Du, & Zhang）探索了它们的组合。

为了解决这些问题，我们提出了AutoPKD，一种结合了自动信道搜索剪枝和基于补丁的关系知识蒸馏的联合压缩方法。针对问题(1)，我们引入了基于人工蜂群算法（Karabo?a, 2005）的一阶段ACSP，该方法无需额外手动设计即可自动搜索紧凑结构。如图3所示，ACSP将信道剪枝表述为一个优化问题，对2D和3D骨干网络中的每一层进行编码，并初始化候选剪枝结构以进行迭代搜索。如图7所示，ACSP有效去除了冗余通道，并在低计算能力的GPU平台上加速了推理速度。

对于3D对象检测模型，在KITTI数据集上进行训练通常需要40-80个周期才能收敛，具体耗时取决于模型复杂性和硬件平台。因此，在搜索过程中直接重新训练每个候选结构是不切实际的。为了提高搜索效率，我们提出了CaEFE，一种无需训练的适应度评估方法，它可以在大约20秒内评估剪枝结构，并实现与基于重新训练的方法相当的性能，同时大大降低了计算成本。更多细节见第3.3.3节和第3.3节。

此外，ACSP可能会降低检测精度，因此KD成为一个自然的解决方案。在3D对象检测中，蒸馏BEV特征有助于学生模型捕获场景级别的结构关系。然而，直接特征模仿可能由于教师模型和学生模型之间的特征幅度差异而无效（Cao et al., 2022）。为了解决这个问题，我们提出了PRKD，它构建了教师模型和学生模型之间的局部补丁内和全局补丁间的关系。PRKD将BEV特征划分为小补丁，并在补丁内部和补丁之间转移关系知识，捕捉了局部对象细节和全局场景布局，同时降低了关系计算的内存成本。因此，AutoPKD实现了紧凑且准确的模型，在检测精度和推理效率之间取得了良好的平衡。

**本工作的贡献可以总结为：**
• 用于基于LiDAR的3D对象检测的自动信道搜索剪枝。与2D视觉任务相比，基于LiDAR的3D对象检测的自动信道剪枝仍然相对较少被研究。我们引入了一种基于ABC算法的一阶段ACSP方法，用于自动搜索3D检测器的剪枝结构，减少了对手动设计剪枝比例和专家设计的剪枝超参数的依赖。
• 无需训练的适应度评估，用于高效剪枝搜索。训练和微调3D检测器速度较慢，因此在自动剪枝搜索期间重复重新训练候选剪枝结构成本高昂。为了解决这一瓶颈，我们提出了CaEFE，这是一种无需训练的适应度评估器，通过类别预测差异来估计候选结构的质量。CaEFE可以在大约20秒内评估一个剪枝结构，而标准的基于重新训练的方法可能需要几分钟甚至几小时，具体取决于重新训练的时间长度。
• 基于补丁的关系蒸馏，用于恢复精度。为了补偿剪枝导致的精度下降，我们提出了PRKD，它将教师模型和学生模型之间的补丁内和补丁间BEV关系知识转移到剪枝后的学生模型中。这使得紧凑模型能够从局部区域到全局区域学习场景级别的结构信息。
• 以部署为导向的验证。我们从多个角度评估了AutoPKD，包括检测器架构、教师-学生设置、剪枝比例、消融研究、剪枝/KD基线比较、嵌入式硬件延迟和真实车辆部署。这些实验表明，AutoPKD在资源受限的3D感知中实现了精度和效率之间的良好平衡。

**为了直观地展示精度-效率之间的权衡，图2将AutoPKD与KITTI上的代表性剪枝方法进行了比较。详细的实验设置和数值结果见第4.2节。**

**实验设置和指标**
实验在KITTI数据集（Geiger, Lenz, Stiller, & Urtasun, 2013）上进行，该数据集是自动驾驶和机器人技术中3D对象检测的常用基准。该数据集包含7481个训练样本和7518个测试样本。按照标准做法，训练集进一步分为3712个训练样本和3769个验证样本。性能使用mAP@R40指标进行评估，适用于BEV和3D对象检测。

**结论**
本文提出了AutoPKD，这是一种面向应用的压缩框架，它结合了ACSP和PRKD，以平衡基于LiDAR的3D对象检测中的效率和精度。AutoPKD结合了自动信道搜索剪枝、无需训练的CaEFE评估和基于补丁的关系蒸馏。CaEFE在KITTI数据集上大约20秒内评估一个剪枝结构，并且评估速度至少比基于重新训练的方法快15倍。

**作者贡献声明**
Wenxiang Li：概念化、形式分析、方法论、验证、可视化、撰写——原始草案、撰写——审阅与编辑。
Jianqi Liu：概念化、形式分析、监督、撰写——审阅与编辑、资金获取。
Yujun Chen：数据策划、调查、方法论、验证。
Shunan Lu：形式分析、撰写——审阅与编辑。
Bicun Yang：概念化、调查。
Fanlong Zhang：撰写——审阅与编辑。
Fuchun Liu：监督。

**利益冲突声明**
作者声明没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。