量化深度学习中的不确定性：方法、挑战与未来方向

《IEEE Transactions on Emerging Topics in Computational Intelligence》：Quantifying Uncertainty in Deep Learning: Methods, Challenges, and Future Directions

　　

摘要：

在深度学习中，不确定性量化对于确保可靠性、鲁棒性和可解释性至关重要，尤其是在医疗保健、自主系统和国防等安全关键应用中。尽管深度学习在各种应用中取得了成功，但其黑盒性质引发了对预测结果的信任问题，尤其是在安全关键系统中。本文将深度学习中的不确定性来源分为随机不确定性和认知不确定性，并将现有的不确定性评估方法分为基于概率的方法和基于校准的方法。我们还回顾了最新的技术，这些技术包括贝叶斯方法、非贝叶斯方法和集成方法，并讨论了它们的优势、挑战和实用性。在不确定性量化方面，主要挑战包括计算效率、对异常数据（out-of-distribution data）的鲁棒性以及需要标准化的评估指标。最后，我们讨论了通过改进不确定性量化来提高深度学习模型可信度的未来研究方向。