《Cell Reports Methods》:A dataset of differentiable biologically derived single-neuron models
编辑推荐:
:
人工神经网络通常由单一同质单元类型构建,而皮层回路包含众多电生理上截然不同的细胞类型。弥合这一差距需要单神经元模型既拟合生物学记录又具备可微分性,从而无需修改即可嵌入梯度训练架构。现有的生物学拟合神经元模型数据库不具备可微分性,而人工神经网络中的神经元虽可
:
人工神经网络通常由单一同质单元类型构建,而皮层回路包含众多电生理上截然不同的细胞类型。弥合这一差距需要单神经元模型既拟合生物学记录又具备可微分性,从而无需修改即可嵌入梯度训练架构。现有的生物学拟合神经元模型数据库不具备可微分性,而人工神经网络中的神经元虽可微分却并非源自电生理学,且不携带逐细胞生物学参数。研究人员构建此资源以提供两者目前均未提供的功能:一个包含超过1,000个可微分单神经元模型的数据库,这些模型分别拟合膜片钳记录,并附带可直接插入标准机器学习流水线的代码。该数据库中的模型属于线性-非线性(LN)类,为便于引用,研究人员将其称为广义放电率(GFR)神经元。每个GFR神经元使用跨多个时间尺度的输入和放电率历史滤波器,随后通过非线性函数生成放电率。模型拟合自小鼠和人类中枢神经系统脑片的膜片钳记录。参数聚类反映电生理多样性,并部分与转基因品系对齐。此资源将支持基于生物学基础、可微分单神经元模型构建生物启发人工神经网络的发展。
论文解读文章
一、研究背景与问题
神经科学与机器学习的交叉领域日益揭示生物神经网络与人工神经网络(ANNs)之间的计算相似性。然而,典型的机器学习神经元模型极为简化,仅对输入的加权和施加传递函数,忽略了生物神经元中存在的复杂动力学与多样性。哺乳动物皮层包含数百种电生理特性各异的细胞类型,这种异质性对回路计算具有重要意义。构建生物启发的人工神经网络需要既拟合生物学数据又保持可微分性的单神经元模型,以便直接嵌入梯度训练架构。现有数据库如Gouwens等人和Teeter等人构建的模型虽基于同一数据集,但面向神经科学社区,不具备可微分性;而人工神经网络中的神经元虽可微分,却非源自电生理记录,也不携带逐细胞生物学参数。在ModelDB托管的838项单神经元模型研究中,未发现任何可微分模型数据集拟合生物学数据。这一空白阻碍了将生物学现实性引入机器学习架构的尝试。为此,研究人员构建了GFR神经元数据库,提供超过1,000个可微分单神经元模型,每个模型单独拟合小鼠和人类皮层神经元的膜片钳记录,并附带PyTorch代码,可直接插入标准梯度训练流水线。
二、研究内容与主要结论
研究人员提出了广义放电率(GFR)神经元模型,属于线性-非线性(LN)类模型。GFR神经元通过输入电流历史和放电率历史的多时间尺度滤波器,结合非线性激活函数生成放电率。模型使用潜变量实现泄漏积分机制,避免对历史数据的显式求和。激活函数采用γ·ReLU(tanh(poly(·)))形式,同时满足饱和于生物学最大放电率、在放电阈值以下恒为零、单调且灵活三个特性。研究人员将GFR模型拟合至Allen Cell Types电生理学数据库中的小鼠和人类皮层神经元记录,覆盖多种刺激类型。拟合质量以解释方差比(EVR)评估,在20毫秒时间箱下达到72%的中位解释方差比,与GLIF模型(70%–78%)和生物物理详细模型(65%–69%)相当。数据库包含不同时间箱配置下的模型参数,并附带来源元数据如细胞ID、Cre品系、物种和皮层区域。参数聚类分析显示,簇成员与细胞的抑制性/兴奋性性质相关,校正兰德指数为0.104(11个簇时),其中小清蛋白(Pvalb)细胞尤为独特。跨物种比较发现,人类兴奋性神经元在慢电流历史时间尺度上分配更多权重,人类抑制性神经元亚类呈现高增益、低上限的运作模式。作为使用示例,研究人员将GFR单元直接插入循环架构(GFR-RNN)应用于逐行MNIST(L-MNIST)任务,随机初始化和从拟合数据库采样的单元均能稳定训练并达到高准确率,确认发布的参数集可作为可微分网络组件直接使用。
三、主要技术方法
研究人员使用了以下关键技术方法:GFR神经元模型构建,采用指数核函数的加权和作为输入和放电率历史滤波器,通过潜变量泄漏积分机制实现高效时间卷积;激活函数采用γ·ReLU(tanh(poly(·)))形式,其中多项式系数平方化以确保非负;模型拟合采用Adam优化器最小化泊松负对数似然,对核参数施加L0正则化;数据预处理采用时间箱平均(Δt = 10、20、50、100毫秒);参数聚类采用Ward层次聚类(AgglomerativeClustering,欧氏距离);特征重要性采用广义线性模型softmax分类器计算L2范数权重;跨物种比较采用Mann-Whitney U检验;网络集成示例采用GFR-RNN架构,隐藏单元遵循GFR动力学。样本来源为Allen Cell Types电生理学数据库,包含小鼠视觉皮层和人类颞叶/额叶皮层神经元的膜片钳记录。
四、研究结果
GFR神经元模型:研究人员定义了GFR模型,其放电率由非线性激活函数g(·)决定,包含输入和活动历史滤波器。核函数为n个衰减指数函数的加权和,通过潜变量泄漏积分机制实现,避免显式历史求和。激活函数γ·ReLU(tanh(poly(·)))同时满足饱和、阈值和单调性要求,在激活拟合步骤中优于ReLU、Sigmoid和Softplus(表1)。
拟合至细胞类型数据集的GFR神经元:研究人员可视化四个代表性神经元的拟合结果,包括Pvalb细胞(567901050)、Vip细胞(560814288)、Rbp4细胞(486132712)和Ntsr1细胞(488674910)。这些细胞的激活函数表现出不同特性,如Pvalb细胞具有非常高的最大放电率,Vip细胞具有很小的放电阈值。闭环比对预测显示,预测放电率近似于任意时间点的平均真实放电率。
全神经元模型评估:研究人员计算所有细胞在Noise 2数据上的解释方差比,不同时间箱尺寸(10、20、50、100毫秒)下的中位解释方差比随箱尺寸增大而提高。GFR数据集仅纳入通过特定标准的模型:包含Noise 1和Noise 2扫描、Noise 1验证解释方差比大于0.5、训练损失小于0.45。
参数聚类:研究人员对解释方差比大于0.5的模型参数进行Ward层次聚类,预处理中替换冗余特征并进行Z分数标准化。簇成员与抑制性/兴奋性性质相关,Pvalb细胞尤为独特,校正兰德指数为0.104。激活参数在细胞类型分类中提供最清晰的成组信号,核参数也贡献于Cre品系预测。重复分裂半分析证实激活参数重要性在99.5%和97.0%的抑制性/兴奋性分裂中超过输入历史和放电率历史核重要性。
物种GFR参数差异:研究人员比较了1,130个小鼠和89个人类神经元。人类兴奋性神经元在慢电流历史时间尺度(α7、α8)上分配更多权重,表明更长的有效时间整合。人类Pvalb样和Sst样神经元具有较低的最大放电率γ但较高的激活增益c1,呈现高增益、低上限的运作模式。人类Sst样神经元在200毫秒时间尺度上表现出较弱(较少负值)的放电率历史反馈,对应减少的峰频率适应。物种分类器ROC-AUC仅为0.65,表明参数空间存在大量重叠,而兴奋性/抑制性分类器在小鼠训练、人类测试时ROC-AUC为0.81。
在可训练网络中使用GFR神经元:研究人员构建GFR-RNN,隐藏单元遵循GFR动力学,应用于L-MNIST任务。随机初始化和从拟合数据库采样的GFR单元均稳定训练并达到高准确率,确认参数集可作为可微分网络组件直接使用。
五、讨论与结论
讨论部分指出,GFR模型与传统人工神经网络单元的区别在于通过线性时间滤波器整合历史信息,反映更动态和时间感知的计算框架。该数据库为研究生物神经元与常规机器学习模型之间的基本计算差异提供工具,支持将生物学派生的单元嵌入大规模网络以考察其对学习、鲁棒性和网络动力学的影响。研究局限性包括:实验数据集在皮层采样上不均匀(小鼠偏向初级视觉皮层,人类偏向内侧颞叶);实验在无神经调质条件下进行;体细胞注射无法捕捉树突非线性;GFR神经元描述箱式放电率而非单个峰事件,不保留精确峰时序,需要毫秒级时序的应用应使用脉冲神经网络(SNNs)。人类-小鼠比较中,人类神经元通过树突形态和预测电生理特征分类而非转录组验证,皮层区域不匹配可能混淆物种与区域效应。结论部分:研究人员构建了超过1,000个可微分单神经元模型数据库,拟合自小鼠和人类皮层神经元的膜片钳记录,附带PyTorch代码。GFR模型属于线性-非线性类,参数聚类反映电生理多样性并部分与转基因品系对齐。此资源将支持基于生物学基础、可微分单神经元模型构建生物启发人工神经网络的发展。