黎曼流形上非凸优化的混合共轭梯度法改进及其全局收敛性分析

本文推荐：为解决黎曼流形上非凸优化问题，研究人员提出了一种新型混合共轭梯度法（Hybrid CGM），将改进的PRP（WYL）和HS（VHS）方法扩展到黎曼流形，并引入混合参数确保搜索方向满足下降性且无需线搜索。该方法的全局收敛性在黎曼弱Wolfe条件下得到证明，数值实验验证了其在处理固定秩流形、球面流形等问题中的优越性能，为复杂流形优化提供了高效工具。

　　

在数学优化领域，黎曼流形上的非凸问题因其复杂的几何结构和高维特性，一直是算法设计的难点。传统欧式空间中的共轭梯度法（CGM）虽在低存储需求和计算效率上表现优异，但直接迁移到流形上时面临收敛性不足和方向控制困难等问题。针对这一挑战，中国矿业大学的研究团队在《Mathematics and Computers in Simulation》发表论文，提出了一种创新的混合黎曼共轭梯度法（Hybrid CGM），通过融合改进的Polak-Ribiére-Polyak（PRP）和Hestenes-Stiefel（HS）方法，成功解决了非凸流形优化中的关键瓶颈。

研究团队首先梳理了经典CGM的局限：PRP和HS方法虽数值表现优异但可能不收敛，而Dai-Yuan（DY）和Fletcher-Reeves（FR）方法虽全局收敛但效率较低。受Wei-Yao-Liang（WYL）和Yao等改进方法的启发，他们将混合参数β_k重构为β_k^WYL与β_k^VHS的线性组合，并引入黎曼几何中的回缩（retraction）和向量传输（vector transport）工具，使算法在保证下降方向的同时摆脱线搜索依赖。

关键技术包括：1）基于黎曼度量设计混合参数β_k的显式表达式；2）利用切空间线性化处理流形局部结构；3）在弱Wolfe条件下证明全局收敛性。通过五个典型测试案例（含固定秩流形和球面流形优化），新方法Hybrid2在迭代次数和函数值下降率上均优于R-DY、R-PRP等现有算法，尤其在非凸场景下表现出显著稳定性。

研究结论部分指出，该方法首次实现了无需线搜索的黎曼混合CGM框架，其理论贡献在于：1）通过混合参数自动平衡全局收敛与局部效率；2）拓展了WYL/VHS方法在流形上的适用性。实际意义体现在图像压缩、推荐系统等工程问题的流形建模中，为高维非凸优化提供了可验证的高效解法。未来工作可进一步探索参数自适应机制与随机流形优化的结合。