神经网络系统在包括目标检测、自然语言处理、自动驾驶、推荐系统、生物医学研究和太空探索在内的广泛领域取得了显著的成功[[1], [2], [3], [4], [5], [6], [7], [8], [9], [10], [11]]。在其发展过程中,作为最早的神经网络模型的人工神经网络(ANNs)[12]借鉴了生物神经元的连接模式,能够处理具有固定结构和统一维度的数据。然而,ANNs的连接模式相对简单,缺乏模拟局部空间结构的能力。随着对感知系统理解的深入,卷积神经网络(CNNs)[13]应运而生。通过利用局部感受野、权重共享和层次抽象等机制,CNNs有效地模仿了人类视觉皮层提取空间特征的方式,在图像识别任务中取得了突破性进展。进一步地,为了满足非欧几里得结构数据(例如社交网络、分子结构、知识图谱)中复杂关系的建模需求,提出了图卷积网络(GCNs)[14]。GCNs能够灵活捕捉基于图结构的不规则连接和高阶依赖性,从而更接近生物神经系统的多样化和动态信息传递过程。从ANNs到GCNs,神经网络架构不断向更具生物学启发性的结构演化,逐步逼近人类大脑中分布式表示、局部关联和结构化信息传播的基本机制[1]。
随着神经网络架构向生物系统的演化,人们越来越关注其在实际应用中遇到的鲁棒性挑战。特别是在安全关键环境中,包括高辐射的商业太空应用和安全敏感的自动驾驶中,单事件故障(SEUs)等软错误可能导致神经网络计算中的权重扰动或节点故障,从而降低系统性能并可能引发灾难性故障[[15], [16], [17], [18], [19], [20], [21], [22]]。尽管神经网络由于其分布式表示和冗余连接而具有某种程度的容错性,但这种内在的鲁棒性在面对系统性扰动时仍然主要是被动的且不足的。为了解决这个问题,人们进行了大量关于硬件级冗余技术(如三重模块冗余(TMR)和纠错码(ECC)[[23], [24], [25], [26], [27]]以及容错模型设计方法(如容错模型搜索和故障感知训练[[28], [29], [30], [31]]的研究,以提高模型在软错误下的可靠性。然而,这些方法大多主要集中在硬件架构或训练启发式上,没有充分利用神经网络背后的生物学特性和进化逻辑。因此,迫切需要构建一个具有自主结构演化能力的容错神经网络框架,以实现针对SEU引起的扰动的更具前瞻性和可持续性的鲁棒性改进。
从神经达尔文主义的角度来看,复杂神经系统中的冗余并非来自刻意设计,而是在早期大脑发育过程中通过随机连接产生的大量功能相似的神经元而形成的,从而形成结构多样性。在随后的经验选择中,这些冗余神经元中的子集通过参与特定功能过程被激活和强化,逐渐形成具有协同编码的分布式表示。这种由冗余生成、选择性强化和协同整合驱动的演化机制显著提高了神经系统对局部损伤或外部干扰(如神经元死亡)的容错性,即使在部分节点故障的情况下也能保持稳定运行[[31], [32]]。受此原理的启发,本文提出了一种节点分裂机制,生成足够的冗余单元以减轻敏感节点的负担,随后通过任务驱动的选择逐步优化神经元连接,并通过节点融合整合功能相似的单元。遗传算法[33]被用来实现整个网络的迭代演化,从而实现从敏感节点的高度集中信息处理向更鲁棒的分布式表示的转变。这种方法可以被视为对神经系统进化逻辑的工程化实现。通过辐照实验和分析验证,所提出的方法有效减轻了关键节点上过载集中带来的脆弱性,并以可忽略的成本显著提高了神经网络的容错性,反映了生物神经系统的动态适应性演化。
本文的结构如下:第2节介绍了图卷积网络的基础知识,并回顾了与遗传算法和神经网络可靠性相关的研究工作。第3节详细描述了所提出算法的实现。第4节阐述了实验参数和配置设置,以及硬件平台的实现和部署细节和辐照实验的程序。第5节分析了不同方案的演化过程和性能变化,通过中子辐照实验评估了每种配置的容错性,并深入分析了所提算法的故障缓解机制。最后,第6节总结了本文的关键发现和贡献。