《Frontiers in Cellular Neuroscience》:Reward contingency reorganizes lateral orbitofrontal cortex pyramidal neuron activity from reward-aligned to action-aligned during associative learning
编辑推荐:
背景:动物不仅必须学习哪些线索预测奖励,还必须学习何时行动以获得奖励。尽管眶额皮层(OFC)编码奖励相关信息,但奖励偶然性是否足以重新组织OFC活动的时间对齐仍不清楚。方法:研究人员使用光纤光度法记录了野生型(WT)和Sapap3基因敲除(KO)小鼠外侧眶额皮
背景:动物不仅必须学习哪些线索预测奖励,还必须学习何时行动以获得奖励。尽管眶额皮层(OFC)编码奖励相关信息,但奖励偶然性是否足以重新组织OFC活动的时间对齐仍不清楚。方法:研究人员使用光纤光度法记录了野生型(WT)和Sapap3基因敲除(KO)小鼠外侧眶额皮层锥体神经元(lOFC-PNs)的钙信号,在单一气味奖励关联任务中顺序学习巴甫洛夫和工具性偶然性。研究人员进一步使用无线索舔舐测试和线性混合效应模型来区分奖励偶然性贡献与舔舐行为贡献。结果:WT和KO小鼠的舔舐行为和lOFC-PN活动相当,支持合并分析。在巴甫洛夫偶然性下,舔舐和lOFC-PN活动集中在奖励传递周围。在工具性偶然性下,两者都转移到奖励前延迟期,并且随着学习进展,lOFC-PN活动的时间逐渐与预期性舔舐耦合。无线索舔舐测试和线性混合效应模型证实,这些偶然性相关差异反映了奖励偶然性而非舔舐本身。结论:这些发现表明,奖励偶然性动态重新组织lOFC-PN活动的时间对齐及其与行为的耦合,从巴甫洛夫学习下的奖励对齐转变为工具学习下的动作对齐。这种依赖偶然性的时间重组可能支持联想学习过程中神经处理对变化的奖励偶然性的灵活适应。
**论文解读:奖励偶然性驱动外侧眶额皮层锥体神经元活动的时间重组**
**研究背景与目的**
在复杂环境中,动物不仅需要学习哪些感官线索预示奖励,还必须根据行为与结果之间的因果关系灵活调整策略。两种基本联想学习形式——巴甫洛夫条件反射(奖励独立于行为)和工具性条件反射(奖励依赖行为)——在动作-结果偶然性上存在根本差异,可能对神经回路施加不同的时间与计算需求。外侧眶额皮层(lOFC)被公认为奖励学习的关键节点,其锥体神经元(lOFC-PNs)在奖励传递时呈现显著活动,且lOFC功能受损会削弱偶然性变化时的学习更新能力。然而,这种时间组织是否随奖励偶然性(即行为与奖励的因果关系)而系统重组,尚不清楚。先前研究常混杂多种刺激或奖励价值,无法单独分离偶然性的作用。为此,研究人员开发了单一气味奖励关联任务,将奖励偶然性从刺激身份和奖励价值中隔离,探究巴甫洛夫与工具性偶然性如何塑造lOFC-PN活动的时间动态,并揭示其与行为耦合的依赖关系。该研究发表于《Frontiers in Cellular Neuroscience》。
**主要技术方法**
研究人员采用光纤光度法记录lOFC-PNs的钙信号(GCaMP6m),结合立体定位注射AAV-CaMKIIα-GCaMP6m病毒至lOFC并植入光纤。实验使用野生型(WT)和Sapap3基因敲除(KO)小鼠(来源:MIT实验室),进行顺序性巴甫洛夫与工具性阶段训练。另设独立队列进行无线索舔舐测试,以区分舔舐动作与奖励耦合。数据分析采用线性混合效应模型(LMM)控制性别、基因型、年龄等变量,并利用斯皮尔曼相关分析行为与神经活动的时间耦合。
**研究结果**
**Result 1. 舔舐行为与lOFC-PN活动在WT与Sapap3 KO小鼠间无差异**
通过比较WT(n=12)与KO(n=13)小鼠在气味奖励关联任务四个阶段(巴甫洛夫获取、稳定;工具性获取、稳定)的舔舐率和lOFC-PN钙信号,发现各阶段及命中/未命中试次中均无显著基因型差异,支持后续合并所有小鼠分析。
**Result 2. 命中试次中舔舐行为与lOFC-PN活动在奖励偶然性间存在差异**
合并25只小鼠后,命中试次中巴甫洛夫两阶段间舔舐率与lOFC-PN曲线下面积(AUC)无差异,工具性两阶段间亦无差异;但工具性阶段的气味期(0-1s)和延迟期(1-3s)舔舐率显著高于巴甫洛夫阶段,且lOFC-PN AUC在多个时期也显著更高。未命中试次中,尽管舔舐率在工具性阶段的气味期升高,但lOFC-PN活动无阶段间差异,提示偶然性相关神经活动差异与成功获取奖励相关,而非舔舐本身。
**Result 3. 命中试次而非未命中试次中lOFC-PN活动在巴甫洛夫与工具性阶段间差异显著**
将阶段合并为巴甫洛夫相与工具性相后,命中试次中工具性相的0-5s窗口舔舐率和lOFC-PN AUC均显著高于巴甫洛夫相;未命中试次中舔舐率虽也升高,但lOFC-PN AUC无差异,进一步证实偶然性差异仅关联于成功试次。
**Result 4. 无线索舔舐测试揭示lOFC-PN活动由奖励配对舔舐驱动而非舔舐本身**
在独立WT小鼠队列中,比较无奖励(自由饮水下自发舔舐)与有奖励(限水下自动递送)两阶段。无舔舐试次中lOFC-PN活动均接近基线;有舔舐试次中,尽管舔舐率相似,但无奖励阶段钙信号无变化,有奖励阶段出现显著钙瞬变,表明lOFC-PN活动仅在舔舐与奖励配对时激活。
**Result 5. 线性混合效应模型识别奖励偶然性为独立于舔舐的lOFC-PN活动贡献因子**
对命中试次各时期(气味、延迟、反应窗口)的lOFC-PN AUC进行LMM分析,发现延迟期舔舐率显著预测活动,而气味期和反应窗口中奖励偶然性独立显著预测活动(且舔舐率不显著)。未命中试次中无任何变量显著。这表明奖励偶然性贡献独立于舔舐运动、性别、基因型和年龄。
**Result 6. 仅工具性偶然性下lOFC-PN活动时间与预期性舔舐耦合**
按命中率将行为块分为低、中、高表现。巴甫洛夫相中,钙信号峰值延迟稳定在4s(奖励传递时间),与首次舔舐延迟无相关;工具性相中,钙信号峰值延迟随表现提高而提前,且在中、高表现水平与首次舔舐延迟显著正相关(低表现无相关),揭示从奖励对齐到动作对齐的时间耦合转变。
**Result 7. 表现相关lOFC-PN活动集中在不同任务时期**
巴甫洛夫相中,命中率仅与反应窗口(3-5s)的lOFC-PN AUC相关;工具性相中,命中率仅与延迟期(1-3s)的AUC相关。表明奖励传递期与奖励前预期期分别成为巴甫洛夫和工具性偶然性下表现跟踪的焦点。
**讨论与结论**
讨论部分总结了工作模型:巴甫洛夫偶然性下,行为与神经活动均集中于奖励传递(奖励对齐模式);工具性偶然性下,预期性舔舐与lOFC-PN活动提前至延迟期,且时间耦合随学习增强(动作对齐模式)。通过无线索舔舐测试和LMM分析,排除舔舐运动本身驱动神经活动的可能性,确认lOFC-PN活动反映奖励相关处理。研究还指出,Sapap3 KO小鼠在该简单任务中表现正常,与先前逆转学习缺陷研究互补,提示该范式不涉及KO小鼠受损的认知灵活性。局限性包括顺序性训练可能混淆训练历史,但命中/未命中试次的差异性和独立队列验证部分驳斥了纯训练历史解释。未来需采用平衡设计或单独工具性训练组以完全分离偶然性。
**结论**:通过将偶然性结构从刺激身份和奖励价值中隔离,本研究揭示奖励偶然性与预期性舔舐行为及lOFC-PN活动的平行时间重组相关,从巴甫洛夫学习下的奖励对齐转变为工具学习下的动作对齐。随着学习进展,lOFC-PN活动时间仅在工具性偶然性下逐渐与预期性舔舐耦合,且这种重组不能由舔舐本身解释,表明lOFC-PN活动反映奖励相关处理而非运动输出。这些发现将奖励偶然性识别为lOFC锥体神经元在联想学习中如何时间对齐其活动与行为的关键决定因素,对理解OFC支持学习与目标导向行为间的灵活协调具有重要意义。