图像处理中深度学习的综述：发展、应用与挑战

《ARTIFICIAL INTELLIGENCE REVIEW》：A survey of deep learning in image processing: developments, applications and challenges

　　

摘要

深度学习模型在计算机视觉领域的快速发展，得益于其能够将特征表示与任务推理整合到端到端的自动化框架中，从而超越了传统的手动特征工程方式。本综述根据核心组件（卷积型与注意力型）将深度学习模型分为卷积神经网络、视觉变换器以及混合模型，系统梳理了这些模型的技术发展历程，并对其优势与局限性进行了深入分析。作为最初的建模范式，卷积神经网络利用卷积核的局部特性高效地提取分层模式。不过，由于依赖多层结构来聚合全局上下文，且对几何变化较为僵硬，人们提出了可变形卷积等创新方法以扩展其感受野。后来出现的视觉变换器则侧重于利用注意力机制的全局性直接建模长距离依赖关系，但存在计算瓶颈和噪声敏感性问题，为此人们采用了稀疏注意力机制和分层标记化技术来解决这些问题。如今，混合模型因能结合卷积神经网络的局部特性与视觉变换器的全局性，在效率与表达能力之间取得平衡，因而成为最理想的解决方案。此外，我们还强调了神经架构搜索、模型压缩和自监督学习等通用技术，认为它们是提升不同架构鲁棒性和适应能力的必备工具。尽管取得了进展，但在模型可解释性、数据利用效率以及实际应用中的稳定性方面仍存在挑战。我们建议优先考虑轻量级混合设计、具有可解释性的注意力-卷积组合，以及能够整合更多非视觉数据的跨模态系统。本综述不仅系统总结了深度学习模型的技术发展脉络，还基于当前技术趋势，为构建适应性强、可扩展且可靠的视觉系统提出了具有前瞻性的发展路线图。