综述：《深度学习：基础与概念》书评：系统性入门与统计学意义

《Journal of Official Statistics》：Book Review: Deep Learning: Foundations and Concepts

　　2024年，Springer出版社出版了《Deep Learning: Foundations and Concepts》，这是一本介绍现代神经网络核心思想的教科书。深度学习如今已广泛应用于统计学领域，但其文献浩如烟海且变化迅速，仅靠研究论文难以入门。这本书将核心理论整合在一册之中，为读者提供了一条清晰的入门路径。它侧重阐述方法的运作原理以及主要架构之间的关联，而非试图覆盖所有最新发展。本书易于阅读，所需先修知识较少，因为内容基本自成体系。书中从第一性原理出发逐步推导所需的概率概念，附录部分则回顾了线性代数、变分微积分和拉格朗日乘数法的主要结果。因此，具备微积分实用知识即可跟进阅读。全书二十章篇幅相对简短，顺序清晰，每一章主要建立在前文已引入的概念之上。数学论证辅以解释、图表和算法框，从不同角度呈现同一思想。每章末尾附有难度各异的习题。许多习题的解答、本书的免费数字版及可下载的图表均可通过本书网站获取。这些特点使其非常适合本科生和研究生教学，也适合自学。虽然本书并非专门面向官方统计学，但其方法学意义不言而喻。原则上，深度神经网络可以发挥与其他灵活机器学习方法相同的作用：它可以估计回归函数或响应倾向，进而用于模型辅助估计量、非响应调整、插补过程或数据整合策略（Breidt和Opsomer 2017；Montanari和Ranalli 2005）。例如，在双重/去偏机器学习框架中，灵活的估计量用于估计干扰函数，而Neyman正交估计方程和交叉拟合则限制了干扰估计误差的影响（Chernozhukov等 2018）。近期研究探讨了这些思想如何适应有限总体估计和调查数据（Dagdoug和Haziza 2026；Seaman 2025）。从这个角度看，本书为将深度学习视为更广泛估计策略中的一个组成部分提供了严密的理论基础，尽管抽样设计和官方统计学应用不在其讨论范围内。至于深度神经网络是否是该场景下最合适的估计量，这另当别论，因为调查数据通常是表格数据且规模适中，在这种情境下基于树的集成方法仍是强有力的竞争者。除估计之外，这类方法在国家统计办公室统计生产的其他阶段也有应用，例如生成合成数据，这正日益引起各国统计机构、调查机构及其客户的关注。开篇章节介绍了深度学习的影响及其发展历程，随后展开所需的统计学基础。第2章和第3章回顾了概率论、信息论、标准分布和非参数方法。第4章和第5章通过单层网络探讨回归和分类，包括基于似然的估计、决策论和偏差-方差权衡。这种安排尤其有效，因为它将神经网络呈现为经典统计学方法的延续，而非一系列独立的计算技术。第6至9章发展了深度神经网络背后的主要机制。论述从多层表示和误差函数，过渡到梯度下降、反向传播、自动微分和正则化。初始化、归一化、动量、Adam、早停、残差连接和dropout等话题与其动机原则一并介绍。尽管其中一些方法在技术层面颇为复杂，但全书总体上将数学推导与底层的统计问题紧密相连。第10至13章转向结构化数据的模型与架构。通过计算机视觉应用介绍卷积网络，随后讨论图形模型和序列模型。关于Transformer的章节清晰地阐述了注意力机制、位置编码、语言模型和多模态扩展；紧接着的一章通过消息传递、聚合和等变性引入图神经网络。这些章节共同提供了从神经网络一般原理到当前支撑众多广泛应用的具体架构之间的有用桥梁。全书最后一部分主要探讨潜变量和生成式方法。首先回顾了采样方法，包括重要性采样、马尔可夫链蒙特卡罗和朗之万动力学，随后发展离散和连续潜变量模型。剩余章节涵盖生成对抗网络、标准化流、自编码器和扩散模型。总体而言，《Deep Learning: Foundations and Concepts》为这个快速发展的领域提供了直觉性的入门。本书聚焦基础思想，这一选择使行文兼具可读性与持久价值。对于寻求深度学习进一步研究的严谨基础的学生、研究者和从业者而言，本书应成为一份宝贵的参考。ORCID iDMehdi Dagdoug https://orcid.org/0009-0004-9813-9568