深度神经网络压缩技术在公民主导的蜱虫和蚊子监测中的应用比较

《Ecological Informatics》：A comparison of deep neural network compression for citizen-driven tick and mosquito surveillance

本研究探索了模型压缩技术在移动设备上的应用，以提升公民科学在疾病监测中的效率。通过比较剪枝和量化技术，发现量化在模型效率上表现更优，同时提出结合结构剪枝与无结构剪枝的混合方法，在蜱虫和蚊子检测任务中实现了97.5%的mAP50精度，显著降低内存占用和计算能耗，适用于资源受限的移动端部署。

　　本研究探讨了在资源受限设备上部署机器学习模型的可行性，特别是针对虫媒疾病监测中的公民科学（citizen science）应用场景。随着人工智能技术的发展，尤其是深度学习在图像识别领域的广泛应用，研究人员能够开发出更高效的模型，从而实现对蚊子和蜱虫等病媒生物的自动识别。然而，由于移动设备在电池寿命和内存容量方面的限制，将这些模型直接部署在设备上仍然面临挑战。因此，本文研究了模型压缩技术，旨在提升模型在移动设备上的运行效率，同时保证识别精度，从而为公民科学项目的实际应用提供技术支持。

在研究中，我们重点比较了两种主流的模型压缩方法：剪枝（pruning）和量化（quantization）。剪枝是通过移除模型中冗余的参数来减少模型大小和计算复杂度，而量化则是通过降低模型参数和计算过程的数值精度，将32位浮点数转换为更低的位数，如8位、4位或2位。研究发现，量化方法在效率方面优于剪枝方法，尤其是在移动设备上。此外，我们提出了一种结合结构化剪枝和非结构化剪枝的混合策略，以在保持模型性能的同时解决移动部署中的关键限制。

为了实现这一目标，我们选择了YOLOv8n作为基础模型。YOLOv8n是一种轻量级的YOLO模型，支持目标检测和图像分类。通过将模型转换为ONNX格式，我们能够在Android设备上部署模型，并通过AWS Device Farm进行测试，以评估不同设备上的运行效果。测试设备包括三星Galaxy Tab S7、小米Redmi Note 10和三星Galaxy A53等，这些设备代表了不同级别的硬件性能，从而能够全面评估模型在实际应用中的表现。

通过实验，我们发现静态量化在减少推理时间和内存使用方面表现最佳，特别是在平板设备上。相比之下，动态量化虽然能够保持较高的精度，但推理时间较长。此外，结构化剪枝在减少模型参数数量和提升能效方面也表现出色，但可能在某些情况下导致精度下降。非结构化剪枝则在减少参数数量方面更加灵活，但需要特定的硬件和软件优化才能高效运行。通过结合结构化和非结构化剪枝，我们发现可以实现模型性能与效率之间的平衡，尤其适用于复杂的图像识别任务。

在实际测试中，我们评估了多个指标，包括mAP50（平均精度）、模型参数数量、运算量（BOPS/G）、推理时间、内存使用和能耗。结果显示，静态量化在减少推理时间和内存使用方面表现最优，而混合剪枝策略（40%结构化剪枝+40%非结构化剪枝）在保持较高精度的同时，也有效降低了模型大小和运算量。这一发现对于在资源受限的移动设备上部署高效的AI模型具有重要意义，尤其是在缺乏可靠网络连接的偏远地区。

此外，我们构建了一个新的蜱虫目标检测数据集，包含3258张图像，用于进一步验证模型压缩方法的有效性。通过这些实验，我们不仅验证了不同压缩方法在实际设备上的性能，还为研究人员提供了在公民科学项目中部署模型的实用指导。我们发现，模型压缩方法在保持高识别精度的同时，能够显著降低能耗和推理时间，从而为移动设备上的实时应用提供了可能。

本研究的结果表明，量化方法在大多数情况下比剪枝方法更有效，特别是在推理时间和运算量方面。结构化剪枝在某些情况下虽然能够减少模型参数数量，但可能影响识别精度。因此，结合结构化剪枝和非结构化剪枝的混合方法在保持模型性能的同时，能够更好地适应移动设备的资源限制。这些发现对于推动公民科学在病媒生物监测中的应用具有重要意义，特别是在资源有限的地区，能够提高数据处理的效率，减少对网络和服务器的依赖，从而提升公众参与的便捷性和实时性。

未来的研究方向包括探索更复杂的模型压缩技术，如混合精度量化，以进一步优化模型的精度、延迟和能效之间的平衡。同时，开发用户友好的前端界面也是重要的研究方向，以使非技术人员能够更轻松地使用这些模型，提高系统的可用性和用户满意度。此外，我们设想模型压缩技术可以应用于更广泛的生态学领域，如野生动物监测和气候变化研究，从而为生态学家提供更高效的工具，支持在野外进行实时数据分析。

综上所述，本研究为在移动设备上部署高效的深度学习模型提供了新的思路和方法，不仅提升了病媒生物监测的效率，还为公民科学项目的扩展和普及提供了技术基础。通过结合模型压缩技术，我们能够在保持高精度的同时，显著降低模型的资源消耗，使其更适合在资源有限的环境中使用。这些成果有望推动人工智能在公共卫生和生态学领域的应用，提高数据处理的效率和准确性，为实时监测和预警系统提供支持。