分叉编码存储器：一种用于神经信息存储的新型参数空间框架

《Neurocomputing》：Bifurcation-coded memory: A novel parameter-space framework for neural information storage

　　摘要
我们介绍了分叉编码记忆（BCM）这一全新的关联记忆范式，它将记忆存储在低维动态系统的分叉参数空间中，作为质量上不同的区域，而不是作为神经活动空间中的固定点吸引子。这种从系统稳定状态到系统行为方式的转变实现了指数级的容量扩展：与经典和现代Hopfield网络的线性（）和多项式限制相比，BCM能够在更高维度上存储更多记忆。我们证明了三个核心定理（几何容量界限、指数级扩展和拓扑噪声保护），以及一个新的部分线索鲁棒性结果（命题4），这些定理和结果说明了可靠回忆所需的最小信息保留阈值。受控的合成实验验证了这些扩展预测：在一维叉形分叉情况下准确率为62.2%，在二维Wilson-Cowan动态情况下准确率为85.7%，在三维控制空间中能够100%地检索出40条记忆。在MNIST数据集（60,000个样本）上，BA-VAE-BCM在392:1的压缩比下实现了95.21%的准确率，显著优于现代Hopfield网络（91.6%）。通过BCM-Encoder（一种保留二维参数空间输出的区分性编码器）进行的跨物种生物学验证表明其广泛应用性：在秀丽隐杆线虫的二元导航任务中准确率为98.30%，在猕猴的四类运动解码任务中准确率为93.38%，在人类脑电图的四类视觉解码任务中准确率为30.05%（比Hopfield网络高4.43%，比ESN高5.51%），并且BCM的优势随着任务复杂性的增加而系统性地增强。

引言
我们所说的记忆是指用于分类和检索任务的模式到类别的映射，而不是序列回忆或时间动态。我们考虑的是用于监督学习的关联记忆而不是情景记忆。在神经系统中存储和检索信息一直是计算神经科学的核心问题。经典方法，以Hopfield网络为代表[1]，将记忆建模为循环神经网络状态空间中的稳定固定点吸引子。这种基于吸引子的范式在数学上优雅且在实证上取得了成功，但它存在根本性的限制。容量限制使得每个神经元最多只能存储大约0.14个模式[2]；在序列学习中会发生灾难性干扰[3]；并且对接近阈值的噪声非常敏感，这限制了实际可靠性[4]。现代Hopfield网络[5]通过使用连续值模式、类Softmax的注意力机制和能量函数重构以及 Reservoir Computing[6]实现了显著更大的容量，后者依赖于高维的瞬态动态进行时间处理。这一框架还扩展到了脉冲神经网络，通过液态机器实现[7]。然而，这些方法仍然是基于状态空间的表示，具有吸引子动态相应的计算局限性。

因此，我们超越了传统方法，将记忆编码在参数空间中，而不是状态空间中。更具体地说，我们利用了低维参数空间中分叉流形的几何结构。从“系统稳定在何处”到“系统如何表现”的这种基本转变具有一些相关的理论优势。随着控制空间维度的增加，不同分叉区域的数量以指数级增长，而不是线性或多项式增长。我们的核心直觉是，参数空间被划分为对应于不同动态状态的区域，这些区域的边界在拓扑上对小扰动具有保护作用——即分叉流形。这种基于分叉的编码本质上是抗噪声的，因为分叉在结构上是稳定的[8]，正如本文中的拓扑保护定理所证明的。大脑通过神经调节或突触效能调制不断调整控制参数，使我们的框架在生物学上具有合理性[9]。控制参数对应于可实验访问的神经属性——这比生物学上无关的高维潜在表示具有优势。分叉理论与神经记忆之间的关系已经从多个角度进行了探索[8]、[10]、[11]。大量研究分析了神经网络模型中的分叉[12]、[13]、[14]、[15]、[16]、[17]，研究了学习过程中分叉的出现[18]、[19]、[20]，并研究了分叉点附近的瞬态“分叉记忆”效应[21]、[22]、[23]、[24]。其他工作使用分叉参数进行输入编码或计算控制[25]、[26]、[27]、[28]、[29]。在所有这些情况下，分叉要么是被分析的现象，要么是被避免的现象，要么被用于动态控制。BCM的根本不同之处在于它使用参数空间本身作为记忆基质，将类别标签存储在分叉参数空间中的位置，而不是在神经活动空间中的吸引子状态。

经典关联记忆包括Hopfield网络[1]、现代Hopfield网络[5]、BAM网络[31]、Reservoir Computing方法[6]、[7]、[32]、[33]以及记忆增强网络[34]。这些方法都将记忆编码在权重矩阵或高维状态吸引子中。海马研究[35]、[36]、[37]、神经调节研究[9]、[38]和神经流形工作[39]支持了低维参数控制的生物学合理性。我们的实现借鉴了深度学习[40]、变分方法[41]、[42]、混沌神经模型[43]、[44]、[45]以及最近的优化进展[47]、[48]、[49]、[50]。BCM是第一个提出将参数空间本身作为关联记忆基质的框架，实现了现有的模型所不具备的指数级容量扩展和生物学可解释性。本文从理论基础到实验验证和生物学可信度方面为神经记忆系统做出了贡献。我们给出了分叉编码记忆的形式化理论定义，并对其容量分析和噪声鲁棒性进行了保证。特别是我们证明了三个主要定理：
1. 一维控制空间中的几何容量下限（定理1）。
2. 随着维度的增加而指数级扩展（定理2）。
3. 拓扑保护噪声鲁棒性（定理3）。
所有这些结果都表明，通过分叉几何结构，BCM可以实现与神经群体大小无关的指数级容量，同时保持原理性的抗噪声性。

我们实现了一个一维叉形分叉模型，用于手写数字的分类，该模型来自sklearn数据集（1797个样本，8×8像素），并验证了其作为参数空间编码在模式识别任务中的有效性，准确率为62.2%，比线性维度还原基线提高了23.3%。我们将该框架扩展到二维Wilson-Cowan动态（准确率为85.7%，比一维高23.5个百分点），并通过受控的3D合成实验验证了几何容量扩展，实现了40条记忆的100%检索。容量阈值与理论相符：一维在-5时饱和，二维在-12时饱和，三维在更高维度下仍能保持完美检索。

在MNIST数据集（60,000个训练样本）上验证了对现代基准的扩展性，其中BA-VAE-BCM在392:1的压缩比下实现了95.21%的准确率（7842个维度），显著优于现代Hopfield网络（91.6%）。通过BCM-Encoder（一种通过交叉熵训练将高维神经记录映射到二维参数空间的区分性编码器变体，见第4节）验证了生物学适用性。涵盖了三个物种和三种记录模式：秀丽隐杆线虫的全脑钙成像（109个神经元，2类导航，准确率为98.30%±1.42%，与现代Hopfield网络持平）；猕猴运动皮层的单个单元记录（182个神经元，4类方向解码，准确率为93.38%±0.90%）；以及人类脑电图的40类视觉对象解码（128个电极，准确率为30.05%±0.49%，比Hopfield网络高4.43%，比ESN高5.51%）。统计数据显示BCM的性能随着任务复杂性的增加而系统性地提升，在简单任务上与最先进的方法持平，在复杂的多类解码任务中占据优势。

澄清BCM的角色：BCM本质上是一个通过参数空间编码实现关联回忆的记忆系统，而不仅仅是一个为了预测准确性而优化的通用区分性分类器。这一区别至关重要：
- 记忆系统特性：
1. 将类别原型明确存储为参数空间区域。
2. 与训练集大小无关的几何容量界限。
3. 可解释的二维表示，便于机制理解。
4. 具有明确拒绝阈值的置信度感知召回。
5. 对噪声鲁棒性的理论保证（定理3）。

区分性分类器特性：
- 为最大分类准确性优化决策边界。
- 容量由参数数量和训练数据决定。
- 黑盒表示，缺乏几何可解释性。
- 输出softmax概率，没有几何置信度保证。
- 实证鲁棒性，但没有理论保证。

为什么BCM是一个记忆模型：BCM在经典定义上属于关联记忆。它通过内容可寻址检索将输入模式映射到存储的记忆痕迹[1]、[31]。新颖之处在于使用参数空间而不是状态空间作为记忆基质。标准的MLP没有这样的明确记忆结构——它们学习的是没有分叉几何组织的随机决策表面。

BCM与深度分类器的对比——何时使用？
- 当解释很重要、需要明确的记忆组织、需要理论保证或神经科学研究需要机制洞察时，使用BCM。
- 当需要最大准确性而不需要可解释性、训练成本至关重要或任务涉及非关联推理时，使用深度分类器。在MNIST上，BCM与标准MLP之间的3个百分点准确率差距（95.2% vs 98.3%）是可以接受的权衡，因为在科学应用中理解神经计算是目标。

图1并排展示了这两种范式的核心概念差异。

论文结构：
第2节建立了数学框架、正式定义和三个核心定理。第3节逐步验证BCM——从标量一维模型到二维Wilson-Cowan动态，再到MNIST基准实验。第4节介绍了区分性BCM-Encoder变体，并展示了跨物种的生物学验证（秀丽隐杆线虫、猕猴、人类脑电图）。第5节验证了噪声鲁棒性，并提供了部分线索检索界限（命题4）。第6节综合了基线比较。第7节讨论了影响、局限性和未来方向。

数学框架
以下数学框架将BCM正式定义为通过学习相似性匹配进行模式检索的内容可寻址存储的关联记忆。与优化决策边界的区分性分类器不同，参数空间中的表示是根据分叉几何结构排列的，因此BCM保证了明确的记忆结构和理论上的容量保证（定理1–3）。这种形式主义不依赖于具体架构：任何人都可以在任何编码器中实现BCM。

合成和基准验证
我们逐步在三个尺度上验证了BCM：标量一维叉形模型（第3.1节）、二维Wilson-Cowan扩展（第3.2节），以及最终在完整MNIST基准验证中的容量扩展实验（第3.3节容量扩展验证，第3.3.2节可扩展性验证：MNIST）。这些共同证实了定理1–3的指数级容量预测，并证明了BCM在现实数据上的可行性。

生物学验证：跨物种神经解码
虽然数学框架和合成验证建立了BCM的理论基础，但在不同物种、记录模式和任务复杂性下的实际神经数据上验证其生物学可信度是必要的。这需要通过真实世界神经记录来证明BCM的噪声鲁棒性——这是定理3（第2.5节）的一个重要理论预测。实际神经记录总是受到多种来源的噪声影响：电极上的热噪声、自发的神经活动、运动伪影和信号处理错误。解码算法在这种现实条件下的工作方式对实际神经科学应用非常重要。

基线比较和跨物种综合
本节将第4节中的BCM-Encoder结果综合成一个统一的性能景观，记录了不同任务复杂性下的系统权衡，并将BCM定位在更广泛的神经解码文献中。所有成对比较的完整统计分析（Welch检验、功效分析、正态性检验）在补充材料（附录F）中提供。

理论意义
在我们的结果中，分叉编码记忆（BCM）是神经计算中的一个全新范式。与直接在连接权重[1]、[2]、[66]或吸引子状态[4]中编码信息的经典记忆不同，BCM直接在Wilson-Cowan动态的分叉参数空间中编码信息[55]、[67]。这是一个具有重要意义的理论上的转变。首先，BCM是动态系统理论[8]、[10]、[11]与计算神经科学[68]、[69]、[70]之间的桥梁。

结论
分叉编码记忆（BCM）是一种新的记忆范式，它将信息存储在Wilson-Cowan神经动态的分叉参数空间中。在六项实验研究中，我们通过理论分析和实证验证证明了BCM在生物学上是可解释的，并且在容量效率上具有优势。在理论框架中，我们建立了容量界限，证明了随着控制参数维度的增加而实现指数级扩展，同时保持了噪声鲁棒性。

作者使用Claude AI（Anthropic）协助语言编辑和可读性提升。作者审阅并编辑了所有由AI辅助的内容，并对出版物的内容负全责。

资金
本研究没有接受来自公共、商业或非营利部门的任何特定资助。

利益声明
作者声明没有已知的竞争财务利益或个人关系可能影响本文报道的工作。

致谢
作者衷心感谢开放神经数据共享社区公开发布了本研究中使用的秀丽隐杆线虫、猕猴运动皮层和人类脑电图数据集，这些数据对于跨物种生物学验证至关重要。

Mohammad Alhawarat在英国牛津布鲁克斯大学取得博士学位，目前是约旦安曼Al-Ahliyya Amman大学信息技术学院数据科学与人工智能系的副教授。他在约旦、沙特阿拉伯和英国拥有超过18年的高等教育经验。他的研究兴趣涵盖阿拉伯自然语言处理、深度学习、计算神经科学等领域。
穆罕默德·阿尔哈瓦拉特（Mohammad Alhawarat）
约旦安曼Al-Ahliyya大学数据科学与人工智能系