《Communications Biology》:A NEST-based framework unlocks massively parallel simulation of networks of multi-compartment neurons with customizable subcellular dynamics
编辑推荐:
尽管神经元树突中的亚细胞机制控制着大脑中学习与记忆的实现,但包含此类过程的大规模网络模拟仍然难以实现。这归因于缺乏合适的软件工具,因为神经科学模拟器一方面专注于高度详细的模型,另一方面专注于具有点神经元的巨型网络。本研究通过实现一个用于简化树突模型大规模并行模
尽管神经元树突中的亚细胞机制控制着大脑中学习与记忆的实现,但包含此类过程的大规模网络模拟仍然难以实现。这归因于缺乏合适的软件工具,因为神经科学模拟器一方面专注于高度详细的模型,另一方面专注于具有点神经元的巨型网络。本研究通过实现一个用于简化树突模型大规模并行模拟的框架来填补这一空白,该框架具有可定制的亚细胞动力学。研究人员利用神经模拟工具(NEural Simulation Tool, NEST)——这一在点神经元网络高效大规模并行模拟方面的神经科学参考工具。通过采用模型描述语言NESTML,研究人员生成实现用户可配置亚细胞动力学的C++代码。研究表明,生成的模型运行高效,可实现可扩展的NEST网络模拟。为展示相关功能,研究人员提供了概念验证演示:一种关键的感觉计算——到达第1层远端树突的顶向下情境信息与到达胞体周围的前馈感觉输入的关联——可通过顶端树突钙动力学以单次(single-shot)方式实现。因此,本研究工作为研究树突过程如何在规模上塑造网络功能和学习打开了途径。
**研究背景与现存问题**
大脑以大规模并行方式进行计算。人脑中860亿个神经元持续将突触输入转换为动作电位(action potential, AP)输出信号。即使在亚细胞层面,计算也以大规模并行方式推进:约150万亿个突触由树突房室内的复杂分子信号网络支撑。这些信号网络本身可被理解为纳米尺度的计算,将突触输入、反向传播的AP、局部电压与浓度信号转化为支持学习与记忆的权重动力学。近年来人工智能技术的爆炸性增长表明规模的重要性,同样,理解亚细胞过程的计算意义需要将其嵌入大规模网络模拟中。然而,现有神经科学模拟工具存在明显分工:NEURON等模拟器专注于生物物理细节的单神经元模型,而NEST等模拟器虽支持大规模点神经元网络却缺乏对多房室模型的支持。NESTML传统上主要面向单房室模型,若直接用其描述房室动力学,将采用显式Runge-Kutta积分方案,而半隐式电缆方程更新并结合Hines算法更为高效稳定,且是模拟空间扩展神经元模型的金标准。因此,亟需一个中间层次的描述工具,既能暴露单个电学房室参数,又能支持包含简化树突结构和抽象树突尖峰机制的可定制神经元布局,并实现大规模并行网络模拟。
**研究内容与结论**
为促进亚细胞过程嵌入大规模网络仿真,研究人员利用NESTML模型描述语言开发了NEST中的向量化房室建模框架。该框架中,NESTML用于描述可在每个房室中模拟的动力学,包括离子通道、突触受体、浓度动力学、整合发放(integrate-and-fire)型机制以及任意复杂的突触可塑性规则。这些机制可在运行时嵌入用户可配置的房室布局中,而布局默认提供被动动力学。树状结构(代表树突和/或轴突)也在运行时配置。模型模拟中,下一时间步的电压由Hines算法计算,而用户定义的机制以向量化方式进行模拟。这意味着现代CPU(例如支持AVX-512指令集的CPU)可并行计算多达八个房室的胞内动力学。底层由标准NEST机制负责将神经元分布到线程或MPI进程,并在其间传递尖峰,从而实现分布式网络模拟,高效且易于实现。研究证明了所得网络模型具有优异的扩展性能,并在支持信息(Supporting Information, SI)中详细描述了编码原则。
**关键技术方法**
首先,基于NESTML建立代码生成管道,将用户定义的机制方程编译为SIMD向量化C++代码,使得支持AVX-512的CPU能够在双精度下并行整合多达八个房室的电流。其次,采用场标准的隐式欧拉(implicit Euler)方法对膜电压方程进行离散化,通过Hines算法高效求解电缆方程。再次,利用神经分析工具包(NEural Analysis Toolkit, NEAT)将Blue Brain Project(BBP)数据库中的五个示例模型导出至NEST与NEURON进行跨模拟器基准测试。最后,搭建由Ca-AdEx两房室神经元组成的赢者通吃(winner-take-all, WTA)网络,该网络基于WTA-States玩具模型定制,实现增量学习功能。所有基准测试均在Forschungszentrum Jülich的Jureca超算上进行;所使用NEST版本为3.9,NEAT版本为1.0,NEURON版本为9.0.1,Brian 2版本为2.10.1。
**研究结果**
**工具链概述。** 研究人员构建了一个集成工具链:膜电流(电压门控离子通道或突触受体通道)的动力学在NESTML建模语言中定义(图1A),这些动力学模型被编译成高效的C++代码,作为房室模型的一部分进行模拟。房室模型的布局在PyNEST API中设置,包括哪些通道和突触在哪些房室中表达。最终,该模型与其他模型连接形成网络模拟。内部布局由三部分组成:向量化膜电流积分器、用于Hines算法的树图结构以及网络API。传入尖峰被内部路由至相应的受体电流。
**单神经元基准测试。** 为测试生成代码的效率,研究人员构建了两种人工形态:星形形态(每个分支一个房室,浅而宽)和线性形态(所有房室在单一分支上,深而窄),分别在NEST、NEURON、Brian 2和CoreNEURON中模拟。所有房室配备钠钾通道。结果表明,NEST的墙钟模拟时间显著低于Brian 2,后者又低于NEURON和CoreNEURON。在300房室情况下,NEST相对于NEURON的加速比约为5–6倍。精度方面,NEST实现与NEURON在亚阈值电压上更接近,且所有模拟器均重现相同的尖峰序列。在BBP库的五种生物物理模型验证中,NEST与NEURON在亚阈值电压指标和尖峰符合度指标上均表现出一致性,加速比约6倍。解析验证表明,在存在闭式解的被动域中,NEST与NEURON的解算器正确性均得到确认。
**可扩展的网络模拟。** 研究人员构建了一个循环连接的尖峰网络,神经元采用星形形态,网络规模从2
13到2
17个神经元,每个神经元包含2到512个房室。网络中80%为兴奋性神经元,20%为抑制性神经元,采用固定入度随机连接。通过基于输入电阻的权重归一化,将发放率控制在生物物理范围内。测量10秒模拟的墙钟运行时间后发现,NEST相对NEURON具有相似的加速比;固定网络和神经元大小下,随CPU数量增加的加速比接近理论最优强扩展性能。在每CPU仅16个神经元的情况下仍保持优异扩展性,表明大规模网络可以低开销地分布到众多CPU上。在NEST中实现这些分布式网络模拟仅需几行代码。
**混合少房室模型。** 研究人员展示了该框架的重要用例:构建结合抽象整合发放动力学与选择性生物物理过程的混合多房室模型。通过NESTML语言,可紧凑地定义控制动力学的方程。研究人员实现了一个结合自适应指数整合发放(adaptive exponential integrate-and-fire, AdEx)动力学与树突钙动力学的模型(Ca-AdEx),该模型基于其前期工作。该模型重现了Hay等人提出的反向传播激活的符合检测协议(backpropagation-activated coincidence detection, BAC-firing):对胞体刺激产生单次尖峰,对树突刺激不产生尖峰,而对两者符合则发放高频尖峰爆发。研究人员还在该框架中重新实现了尖峰时序依赖可塑性(spike-timing-dependent plasticity, STDP)规则,其动力学与标准NEST STDP实现等效,但NESTML实现因不假设可塑性机制不连续依赖状态变量而效率略低。
**利用树突动力学实现单次学习。** 研究人员将前述Ca-AdEx神经元嵌入一个网络模型,证明顶端树突的Ca
2+尖峰能够实现单次联想学习。网络由四个兴奋性神经元集群组成,抑制性中间神经元实现WTA动态。初始时,集群1、3、4具有高簇内连接权重而协同发放,集群2权重为零而随机发放。在t=3000 ms时将集群1权重置零使其转为随机发放。随后向集群1和2的顶端房室施加25 ms的情境输入(Poisson刺激),并在此之前给予200 ms抑制性输入以模拟血管活性肠肽(vasoactive intestinal peptide, VIP)介导的去抑制。该输入触发树突Ca
2+尖峰,引发爆发发放,结合STDP可塑性导致突触快速增强,恢复协同集群发放。一个集合在100 ms内形成,随后立即形成另一个集合,记忆形成速率约为10 Hz。相比之下,点神经元网络中相同情境输入只能作用于胞体,不引发爆发发放,无法在单次中形成集合,需要更长持续时间的刺激,记忆形成速率显著降低。
**讨论与结论**
研究人员讨论指出,当前NEST的神经元分布未考虑模型复杂度差异,强异质性细胞类型的模拟尚未显式负载均衡,但在大规模网络中该限制常因平均效应而得到缓解。数值实现方面,研究团队采用与CoreNEURON相同的隐式欧拉算法而非高阶方法(如Crank-Nicholson或变步长方法),因为在分布式网络模拟中这些方法存在振荡或严重减慢等缺陷。PyNEST API中的模型配置接口有意保持低层次,要求用户显式提供各房室参数,因此特别适用于少房室模型;NEAT则提供了用于形态详细模型的高层次接口,可导出至NEST和NEURON。关于GPU加速,多房室模型的GPU加速比可能随房室数和模型复杂度增加而提升,NEST计划为NEST GPU提供多房室模型的代码生成。与JAX等机器学习库的对比表明,专门优化的房室代码生成管道在纯模拟运行时间上可能优于通用机器学习执行框架。顶树突放大机制支持稀疏、经验特异性集合的快速形成,而在深度睡眠期间顶树突隔离被认为解耦这些树突房室,减少整合并实现局部电路优化。研究人员指出,WTA-States玩具模型的演示并非描述生物精确网络,而是展示在大型尖峰网络中利用顶树突动力学实现灵活增量学习的可行性。
**研究结论:** 本研究提出了必要的模拟技术,通过一个灵活的框架,使得大规模带有树突的网络能够以大规模并行方式进行模拟。当前实现侧重于基于NEST的CPU系统,而NESTML框架的使用将使得为GPU以及各种新兴神经形态计算系统进行代码生成成为可能。该工作为研究树突过程如何在网络规模上塑造功能和学习奠定了基础。