流形约束的可塑性使循环神经回路中的稳定学习成为可能

《PLOS Computational Biology》：Manifold-constrained plasticity enables stable learning in recurrent neural circuits

　　

大型神经元群体的活动通常被限制在低维流形（manifold）中，这些流形可能随时间漂移，这对假设稳定全秩（full-rank）表示的学习规则构成了挑战。在此，研究人员引入了SPLiT（突触投影学习与内在追踪，Synaptic Projection Learning with intrinsic Tracking），这是一种针对循环神经网络（recurrent neural network，RNN）的突触可塑性规则，结合了无监督流形追踪与监督学习。SPLiT使用在线Oja规则（Oja rule）持续估计内在低维活动子空间，并在流形坐标中执行归一化最小均方（least-mean-squares，LMS）学习。通过这种方式，SPLiT使突触权重与演化的群体动态保持对齐。利用一个基于率（rate-based）的循环网络，研究人员表明，SPLiT在约束动力学（活动被限制在固定低维流形）和未约束动力学（主导活动子空间发生变化）下均能可靠地学习时变目标信号。研究人员表明，使用SPLiT的流形约束学习具有更快的收敛速度、更低的循环增益（recurrent gain）敏感性、更小的权重更新，并且对含噪声的教师信号更鲁棒。分析结果表明，SPLiT学习投影到瞬时主子空间（instantaneous principal subspace）上的最优解码器，并在漂移下保持有界误差。这些发现共同提供了一种机制性解释，说明突触可塑性如何利用神经流形的结构，在表示漂移（representational drift）下实现稳定且高效的监督学习。

**论文解读：流形约束的可塑性实现循环神经回路中的稳定学习**

**研究背景与问题**
神经群体活动通常表现出低维结构，即大部分方差集中在少数共变模式上，这些模式张成的子空间称为神经流形（neural manifold）。传统观点认为流形随时间稳定，但近期实验表明，神经流形可以动态演化，表现为两种形式：一是约束在固定流形内的漂移（firing rate沿现有共变模式变化），二是未约束的漂移（相关结构本身改变）。这种表示漂移给下游回路的学习带来根本挑战：若内部表征持续漂移，如何维持稳定行为？现有监督学习规则（如FORCE学习）假设活动具有全秩（full-rank）表示，当活动被限制在低维流形时，协方差矩阵变为低秩，导致数值不稳定。因此，需要一种能追踪流形变化并限制学习在其内部的突触可塑性规则。

**研究内容与结论**
研究人员引入了SPLiT（Synaptic Projection Learning with intrinsic Tracking）规则，结合无监督流形追踪（在线Oja规则）与监督学习（归一化LMS）。通过在率基循环网络（rate-based recurrent neural network，RNN）中进行仿真，研究者证明SPLiT在约束动力学（活动固定于低维流形）和未约束动力学（活动子空间演化）下均能可靠学习时变目标信号。相比传统规则，SPLiT具有更快收敛、更小权重更新、对循环增益不敏感以及对噪声教师信号更鲁棒等优势。分析表明，SPLiT学习投影到瞬时主子空间的最优解码器，并在漂移下保持有界误差。这些发现提供了一个机制性解释，说明突触可塑性如何利用低维流形结构在表示漂移下实现稳定监督学习。论文发表在《PLOS Computational Biology》。

**主要关键技术方法**
SPLiT的核心技术包括：1）在线Oja规则（无监督学习）持续估计群体活动的经验低维子空间（empirical low-dimensional subspace），通过更新正交基向量追踪主成分方向；2）在流形坐标中进行归一化最小均方（normalized least-mean-squares，LMS）学习，将解码器更新限制在追踪到的子空间内；3）使用率基循环网络（rate-based RNN），通过构造低秩循环连接矩阵将活动约束到固定流形；4）通过反馈项（feedback input）将解码器误差注入网络，塑造活动轨迹。未涉及具体实验样本队列。

**研究结果**
1. **A learning rule that combines online manifold tracking with supervised decoder adaptation**：SPLiT通过Oja规则追踪活动子空间，并在流形坐标中执行归一化LMS，使得解码器权重与演化群体动态对齐。
2. **Manifold-constrained learning stabilizes decoder adaptation in low-dimensional networks**：在约束动力学下，SPLiT成功学习2 Hz正弦波，而FORCE学习失败。活动子空间与初始流形的主角（mean principal angle）接近零，表明活动被限制在固定流形内。
3. **Decoder performance depends on alignment with the intrinsic activity manifold**：在中心外出任务中，流形内扰动（within-manifold perturbation）不影响性能，流形外扰动（outside-manifold perturbation）导致误差增大，且误差随旋转角度增加。表明解码器与活动流形的对齐程度决定任务表现。
4. **SPLiT supports decoding of complex trajectories**：在MNIST手写数字轨迹追踪任务中，SPLiT在约束和未约束动力学下均能准确追踪，而FORCE在约束下失效。SPLiT在流形内学习避免了协方差矩阵病态问题。
5. **Manifold-constrained dynamics reduce sensitivity to recurrent gain**：未约束网络中，循环增益（g）增加会扩大特征值分布并影响误差；约束网络中误差对g不敏感，因为活动被限制在低维子空间，抑制了高维模式。
6. **Manifold-constrained learning improves optimization and reduces synaptic modification**：约束网络中，误差随解码器学习率（η）增加而快速下降（幂律指数更大），而权重更新幅度更小。表明低维流形提供了良态（well-conditioned）特征空间，加速优化并减少代谢成本。
7. **Manifold-constrained learning confers robustness to noisy teaching signals**：向目标信号添加高斯噪声后，约束网络误差上升更慢，且低维流形（d=3）比高维流形（d=15）更鲁棒。反馈秩（feedback rank）对鲁棒性影响不大，关键在约束活动本身。
8. **Manifold-constrained dynamics improve the stability of autonomous replay**：在正弦波和MNIST的自发回放任务中，约束网络回放误差增加更慢，且总体误差更低，表明低维流形增强了回放稳定性。
9. **SPLiT outperforms existing drift-adaptation rules under constrained dynamics**：与理想观察者（IO）、在线LMS（O-LMS）、预测编码（PC）、联想记忆（AM）、贝叶斯推断（BI）和持续学习（CL）等六种规则比较，在约束动力学下SPLiT误差最低，未约束下接近最优。
10. **Online subspace tracking stabilizes learning under coordinate rotation**：在持续旋转流形基的漂移任务中，有反馈时SPLiT能保持低误差，而冻结流形基导致误差增大。表明在线子空间追踪对维持解码器对齐至关重要。

**讨论与结论**
讨论部分指出，SPLiT将无监督子空间追踪与监督学习统一，为解决表示漂移提供了新机制。与现有模型相比，SPLiT的关键创新在于在线流形追踪，而非仅依赖读出身可塑性。实验预测包括：在脑机接口（BCI）中，若固定流形估计而允许解码器可塑性，则恢复将受损；加快流形追踪速度能加速从流形外扰动中恢复。结论部分翻译如下：总之，研究人员引入了SPLiT作为一种生物启发的突触学习规则，它协调了监督学习与漂移的低维神经流形之间的关系。通过追踪群体结构并将学习限制在内在子空间内，SPLiT在标准最小均方（LMS）方法失效的机制下实现了稳定学习。这些结果为内在神经流形内学习的鲁棒性提供了计算解释，并表明追踪持续群体动态的可塑性规则可能是神经回路计算的关键要素。