面向先进计算网络的开片上系统架构中基于机器学习的容错核心映射技术

《Parallel Computing》:Machine learning-driven fault-tolerant core mapping in Network-on-Chip architectures for advanced computing networks

【字体: 大 中 小 】 时间:2026年02月11日 来源:Parallel Computing 1.1

编辑推荐:

  查拉·穆拉利克里希纳·亚达夫|B. 纳雷什·库马尔·雷迪印度泰米尔纳德邦蒂鲁奇拉帕利国立理工学院电子与通信工程系摘要在建筑设计中应用机器学习具有巨大潜力,尤其是在应对传统方法难以处理的复杂设计问题时。片上网络架构已成为处理器间高效通信的解决方案。然而,随着器件规模和组件密度的增加

  查拉·穆拉利克里希纳·亚达夫|B. 纳雷什·库马尔·雷迪印度泰米尔纳德邦蒂鲁奇拉帕利国立理工学院电子与通信工程系摘要在建筑设计中应用机器学习具有巨大潜力,尤其是在应对传统方法难以处理的复杂设计问题时。片上网络架构已成为处理器间高效通信的解决方案。然而,随着器件规模和组件密度的增加,处理器出现故障的可能性也上升,因此,为确保系统可靠性,容错设计成为芯片开发中的关键环节。本文提出了一种新的机器学习框架,用于实现容错核心映射,有效解决了以往方法中存在的重传和重新映射等问题。该框架能够智能地学习最优的核心映射策略,有效应对具有不同应用核心图的片上网络中的容错问题。该方法首先通过高效的片上网络映射和调度作为第一步。如果在这一过程中出现故障,片上网络内部就会启用错误检测与校正机制,从而无需进行耗时的重传操作。此外,即便经过错误校正后故障仍然存在,分配给出故障核心的任务也会无缝迁移至指定的备用核心,确保系统持续运行。与传统方法相比,该方案在提升处理器速度、提高能效以及减少重传、延迟和动态功耗方面均有显著优势。在FPGA板上实现的硬件测试结果表明,相较于相关算法,该技术具有更好的性能、更小的面积和更低的功耗。这项技术为片上网络的容错核心映射带来了重大进展,进而提升了整个芯片的可靠性和性能。1. 引言随着嵌入式应用需求的不断增长以及干扰复杂性的降低,片上系统解决方案已得到广泛应用。然而,受摩尔定律驱动,芯片上晶体管数量的增加给设计参数带来了挑战,导致效率下降并可能引发其他问题[1]。为应对这些挑战,多处理器片上系统应运而生,其中互连拓扑结构起着至关重要的作用。这类多处理器片上系统在单个芯片上集成了多种知识产权,使得不同时钟频率下的多种功能得以实现。不过,IP之间不可扩展的全局布线延迟会引发同步问题,这为未来的片上系统设计带来了诸多障碍[2]。作为分组交换式片上网络的片上网络架构,为片上系统集成提供了可扩展的通信解决方案。基于片上网络的多处理器具备丰富的功能,结构极为复杂,可通过可扩展且模块化的设计方式实现高效的片上通信。片上网络框架涵盖了调度和映射两项任务[3]。在调度阶段,当多个任务被分配到同一个核心时,这些任务会根据优先级被分配到不同的核心上。在映射阶段,应用核心图中的各个节点会被分配到特定的核心上。不过,除了与处理器配置相关的挑战外,片上网络还面临着故障发生概率增高的问题[4]。本文提出了一种新方法,利用机器学习直接将片上网络的状态映射为最佳决策,无需额外的预测步骤。该框架包含两个主要部分:首先,它提供了一种高效的片上网络映射和调度方法;其次,如果在映射或调度过程中出现故障,它会采用错误检测与校正机制而非重传。即便经过错误检测和校正后故障依然存在,分配给出故障核心的任务也会被迁移至备用核心。备用核心是根据其数量和位置来确定的,同时会考虑每个应用程序的具体需求。通过运用不同的应用核心图和片上网络平台,基于机器学习的容错片上网络旨在优化性能、能效和尺寸缩减等不同设计目标。这些容错技术相互协作,根据用户定义的质量指标来实现最佳设计效果。该算法已在Zynq UltraScale+ MPSoC ZCU104评估板上进行仿真和实现,硬件测试结果表明,其在容错核心映射方面优于相关算法。本研究的主要贡献如下:1. 本研究率先将机器学习技术,尤其是随机森林,应用于片上网络架构中的容错核心映射,为复杂芯片设计中的容错问题提供了新思路。2. 通过利用机器学习,该方案显著提升了片上网络系统的容错能力,实现了能够动态适应不同故障场景的高效核心映射策略,从而提高了系统的可靠性和稳定性。3. 通过智能核心映射,该研究优化了片上网络内的资源分配,减少了资源浪费,提升了整体系统效率,进而提高了复杂芯片设计的性能并降低了硬件开销。我们工作的创新之处在于将机器学习,特别是随机森林,应用于片上网络架构的容错核心映射。与那些侧重于系统优化不同方面的传统模型方法不同,我们的方法将动态故障管理与高效任务分配相结合,从而提升了系统的适应能力和可靠性。本文的其余部分结构如下:第2节介绍相关研究,第3节阐述所提出的方法,第4节说明实验设置,第5节展示评估与分析结果,第6节对全文进行总结。2. 相关工作我们基于机器学习的片上网络核心映射方法解决了文献中提到的各种问题,如延迟、能效、功耗以及各类机器学习技术。本节将探讨几种片上网络核心映射技术、应用于片上网络的机器学习技术以及容错方法。尼尚特·拉奥等人提出了一种基于机器学习的片上网络方法,揭示了片上多处理器特性与片上网络参数之间的密切关联[5]。阿尼尔·库马尔等人提出了一种基于机器学习的结构,利用多种机器学习回归算法来预测片上网络的性能表现[6]。这些算法可用于分析网格型和环型拓扑结构的片上网络性能指标。另有研究提出了基于机器学习的片上网络长期性能评估框架并进行了探索[7]。对于这些性能指标,即便在出现故障的情况下,也会对整个片上网络进行考量。王凯等人提出利用强化学习优化主动式容错片上网络的能效和性能[8]。陈书宇等人展示了一种新的线程私有数据地址空间重映射算法,该算法可用于解决缓存中的地址空间缺失问题,提升性能并降低功耗[9]。克里斯蒂内尔·阿巴贝和拉金德拉·卡蒂提出了一种基于自适应算法的容错片上网络,该算法能够对核心故障做出动态响应并恢复功能,以维持处理器的正常运行。还有研究提出了针对单个或多个核心故障的自适应算法[10]。奥努尔·德林等人介绍了用于容错网格型片上网络的在线任务重映射技术[11]。陈佳玲等人提出的容错片上网络中的通信驱动型重映射核心,不仅可以修复故障,还能通过从多个角度考虑所有重映射或容错映射操作,降低重映射后的核心间通信成本[12]。翁晓东等人提出了一种创新的片上网络机器学习映射算法,通过创建专用数据集并运用数据增强技术来解决对称性难题[13]。此外,该研究还为该领域的研究人员提供了相关片上网络工具的参考信息[14]。通过操作系统交互实现高效的片上网络管理,可提升资源利用率并减少干扰[15]。卡塔尼亚大学的SystemC-based片上网络模拟器Noxim有助于提高能效[16]。CHIP多处理器用的PARSEC基准测试套件提供了多种应用场景和同步方法,有助于深入研究多处理器系统[17]。容错多处理器系统利用片上网络辅助的节点重映射来保护缓存,通过优化访问重分配方式,相较于调整尺寸的方法能带来更好的性能[18]。相关软件和指南可见于[19]、[20]。还有研究探讨了FPGA片上网络中的静态路由技术,以实现无冲突通信[21]。FPGA片上系统则确保了通信的安全性[22]。另有研究对实时片上网络平台的动态任务映射进行了调查[23]。还有研究为基于片上网络的多处理器系统提出了混合任务映射框架[24]。此外,还有研究对片上网络的应用映射方法进行了评估[25]。CTH网络被作为一种可扩展的片上网络映射平台引入[26]。还有研究针对无线多处理器系统开展了能量感知型映射技术的研究[27]。另外,还有研究探讨了可重构片上网络上的热感知型任务映射技术[28]。还有研究研究了多核系统的截止时间感知型任务映射与调度问题[29]。天极是一种可用于脉冲神经计算和连续神经计算的统一芯片[30]。还有研究探讨了多核片上系统中的任务与通信映射问题[31]。另有研究提出了针对通用片上网络的统一调度与映射方法[32]。还有研究研究了基于异构片上网络的神经形态系统的进化映射技术[33]。Skydiver是一种脉冲神经网络加速器[34]。还有研究针对基于STTRAM路由器的片上网络开展了最优映射与调度研究[35]。此外,还有研究探讨了基于片上网络系统的能量感知型调度技术[36]。所有这些研究都聚焦于映射算法和容错技术,但仍存在资源利用和功耗方面的问题。在本文中,我们利用机器学习,尤其是随机森林,来动态管理故障并高效分配任务,相比现有方案,提升了系统的可靠性和适应性。这种综合方法能够确保最优的资源利用并降低功耗,为相关问题提供了比以往方法更为创新和高效的解决方案。下载:下载高分辨率图像(263KB)下载:下载全尺寸图像图1. 机器学习框架的概要。3. 容错核心映射策略3.1. 用于片上网络任务映射的机器学习框架机器学习框架的完整容错核心映射策略如图1所示。该策略包括三个步骤:第一步是收集不同应用核心图以及不同网格型片上网络规模的数据。为此,使用了基于System C实现的Noxim模拟器[37],并根据规定的规模计算性能指标[38]。第二步是根据机器学习模型对容错方法进行映射和调度。第三步则是寻找合适的模型,应用容错方法,并对相应的片上网络进行性能指标评估。本文详细探讨了在片上网络架构中应用传统机器学习模型进行任务映射的方法,内容包括数据集构建、模型选择和性能评估。在片上网络框架中,我们采用了监督学习算法——随机森林,用于实现容错核心映射。该算法通过核心位置和故障数据进行训练,随后被整合到片上网络中,很可能是在Noxim中,用于做出动态路由决策。3.1.1. 数据集构建我们精心构建了一个数据集D,用以涵盖片上网络架构和应用工作负载的多种特征。数据集D中的每个样本包含以下内容:•拓扑特征:片上网络拓扑的几何属性和连接特性,包括尺寸、链路带宽和路由算法等。•应用概况:描述任务通信模式、计算需求以及延迟限制的参数。•约束条件:由功率预算、温度阈值和通信延迟等因素带来的限制。从形式上来看,该数据集可定义为:(1)D={(Xi,yi)}i=1N,其中方程(1)中的Xi表示第i个样本的特征向量,yi表示对应的输出标签,N则表示数据集的大小。3.1.2. 模型选择:传统机器学习方法我们研究了多种传统机器学习模型,这些模型擅长捕捉片上网络架构中复杂的时空依赖关系:•随机森林:作为一种通用的集成学习技术,随机森林利用决策树来建模数据集中的复杂关系。它在处理高维特征空间和非线性关系方面表现出色。(2)RF(x)=1N∑i=1Ntreei(x),在方程(2)中,RF(x)表示输入x的输出预测值,N表示森林中的树的数量,treei(x)则表示第i棵决策树的预测结果。•支持向量机:支持向量机通过构建最优超平面将数据点划分为不同的类别,同时最大化类别间的间隔。它在处理高维数据方面表现优异,尤其适用于分类任务。(3)SVM(x)=sign∑i=1NαiyiK(x,xi)+b,在方程(3)中,SVM(x)表示输入x的输出预测值,αi表示拉格朗日乘子,yi表示类别标签,K(x,xi)表示核函数,b表示偏置项。•K最近邻算法:K最近邻算法根据数据点最近的邻居中的多数类别来进行分类。该算法具有直观性、非参数特性,并且能够很好地适应各种数据分布。公式(4)中,KNN(x)表示输入x的预测结果,而yneighbor则表示最近邻的类别标签。选择这些模型是基于它们的可解释性、可扩展性以及在片上网络任务映射场景中的性能表现。随机森林因其可解释性、可扩展性以及出色的性能而被选用于这种片上网络任务映射任务。它能够高效处理大型数据集和并行处理,因此非常适合复杂的片上网络环境。与神经网络等更复杂的模型不同,随机森林能够清晰地显示特征的重要性,从而有助于调试和优化。其他模型虽然也有用,但可能无法在这些因素之间提供同样的良好平衡。下载:下载高分辨率图像(311KB)下载:下载全尺寸图像算法1会为片上网络环境量身定制参数来初始化随机森林模型,并选择符合片上网络约束的关键特征。该算法还包含一种自适应机制,可根据工作负载动态调整树结构参数。随机森林使用所选的特征进行训练,然后用于预测片上网络任务的核映射结果。最后,算法会确定预测出的核映射方案。3.1.3 模型训练与性能评估所选的机器学习模型会在数据集D上进行严格训练,通过先进的优化技术来最小化损失并提升泛化能力,如公式(5)所示:(5)minθ1N∑i=1NL(yi,y?i),其中θ代表模型参数,L表示损失函数,yi为真实标签,y?i则为预测标签。对训练后模型的评估不仅包括传统指标,还包括:•任务映射准确率:该指标用于量化正确映射的任务比例,如公式(6)所示,反映了模型优化片上网络通信路径的能力。(6)准确率=正确映射的任务数量/总任务数量•延迟降低率:该指标用于衡量模型任务映射策略相比基准方法所能实现的通信延迟降低百分比,如公式(7)所示。(7)延迟降低率=基准延迟?模型延迟/基准延迟×100%•能效提升率:该指标用于评估通过优化任务映射所带来的能效提升,同时考虑了片上网络的功耗限制,其中MPC表示模型功耗,BPC则表示基准功耗,如公式(8)所示。(8)能效提升率=MPC/BPC×100%这些评估结果为我们提供了关于传统机器学习模型在优化片上网络任务映射方面的有效性的全面了解,有助于提升片上网络架构的通信效率并降低延迟。在本研究中,选择随机森林是因为它能够很好地捕捉片上网络架构中的复杂关系。其集成学习方法以及处理高维特征空间的能力,使其擅长优化任务映射,从而提升通信效率并降低片上网络设计中的延迟。3.2 数据收集流程数据是通过Noxim模拟器分别为不同的片上网络规模和ACG独立收集的。一个ACG包含节点以及两个节点之间的通信速率。在网格型片上网络中,这里仅关注核心节点。数据收集流程如图2所示,包括配置文件、数据收集、Noxim模拟器以及数据集文件这几个步骤。生成数据集的详细过程在算法2中有说明,这些数据集被用于以下功能:•C:配置参数;•A:指定的ACG集合;•N:指定的片上网络规模集合;•E:高效的映射集合;•S:状态集合;•Σ:故障集合所有模拟参数都存储在配置文件中,根据ACG和片上网络规模进行加载。这样就能在我们提出的方法中生成有效的状态,在映射过程中可能会发生故障,也可能不会。一旦出现故障,就会采用错误检测/校正机制以及备用核心来应对。在本研究中,为了在保持模拟效率的同时体现真实的故障情况,最多考虑两种永久性故障。备用核心的位置会根据故障核心的位置动态变化,以确保覆盖多种故障场景。通过在Noxim平台上进行可控的故障注入,这种设置使得能够生成多样化的数据集,从而使随机森林模型能够在不同的故障和恢复条件下学会有效的容错映射策略。下载:下载高分辨率图像(163KB)下载:下载全尺寸图像下载:下载高分辨率图像(259KB)下载:下载全尺寸图像下载:下载高分辨率图像(149KB)下载:下载全尺寸图像图2. 数据收集流程。3.3 提出的容错核心映射算法在本文中,我们以6×6网格作为示例来展示我们的方法。算法3描述了容错核心映射算法,该算法说明了如何在片上网络平台上对应用核心图进行映射和调度。在运行过程中,采用了错误检测和校正方法来处理故障。在本研究中,使用了基于汉明码的机制来检测单比特错误,并纠正每个数据包中的单比特错误,从而确保在片上网络中实现可靠的数据传输。一旦检测到错误,数据包会在传递到下一个节点之前被纠正。这一机制与基于随机森林的核心映射相结合,既提供了数据级的错误校正,又通过自适应的任务重新映射实现了系统级的容错能力,对于持续存在的故障,则在应用错误检测/校正技术后会启用备用核心。备用核心的位置会根据故障核心的位置进行调整。为了通过模拟生成合适的数据集,需要确定故障的数量以及备用核心的位置。该算法在确保容错能力的同时,优化了应用核心在片上网络平台上的映射。它首先识别未映射的节点并定义映射区域。在每个区域内,节点会根据与邻居的通信能量来排列,从而优化路由效率。随后,算法会将核心映射到片上网络平台上,最初优先将核心放置在角落区域,然后再逐步将核心放置在相邻区域。此外,它还通过使用汉明码来实施容错措施,以便在遇到的第一个核心出现故障时进行错误检测和校正。如果核心没有故障,那么来自故障核心的任务就会被转移到备用核心上,利用平台内可用的空闲核心。这种自适应方法提升了系统的可靠性,确保了在关键应用中即使核心出现故障也能正常运行。图3清晰地展示了带示例的容错核心映射算法,同时还标出了片上网络平台中空闲核心(txx)、忙碌核心、管理核心、故障核心以及备用核心的符号。图3(a)和(b)分别展示了简单的ACG和6×6网格型片上网络平台。节点(V1、V3、V0、V4、V5、V2)的映射顺序是根据与邻居的最低通信能量确定的,而子映射区域中的 tile位置(t23、t13、t03、t02、t12、t11)则是根据X×Y区域中角落位置的最低值来确定的,该区域中还有足够的空闲tile(数量多于节点数)。在这个例子中,有6个节点可用于生成3×3的子映射区域,如图3(c)所示。所提出的映射结果如图3(d)所示,展示了最终的映射配置。为了解决运行过程中可能出现的任何故障,采用了基于汉明码的错误检测和校正技术。一旦检测到故障,分配给故障核心的任务就会被转移到备用核心上,从而保证任务的连续执行。在所提出的算法中,映射过程结束后,所有可用的空闲核心都会充当备用核心,随时准备在出现故障时接管任务。HotSpot工具[39]被用来监测每个核心的温度,尤其是忙碌核心的温度。该工具界面简单,便于与各种功率和性能模拟器集成。由于它能够兼容计算机架构中广泛使用的各种功率和性能模型,而且不需要详细的設計或综合信息,因此十分实用。准确的温度测量非常重要,因为它们会影响忙碌核心出现故障的概率,而忙碌核心更容易因温度过高而出现故障。在这个场景中,V2核心被判定为忙碌核心,出现故障的可能性较高。因此,来自故障核心V2的任务会被转移到备用核心t01上,以此保持容错能力,确保片上网络架构的持续运行。在图4所示的VOPD片上网络映射场景中,[16, 15, 14, 13, 2, 3, 7, 8, 4, 6, 9, 12, 1, 5, 10, 11]这一组合被视为最优解,而其反转后的组合[1, 5, 10, 11, 4, 6, 9, 12, 2, 3, 7, 8, 16, 15, 14, 13]也被认为是最优解,这一情况给机器学习模型带来了挑战。下载:下载高分辨率图像(506KB)下载:下载全尺寸图像图3. 容错核心映射算法 (a) ACG示例,(b) 6×6片上网络平台,(c) 子映射区域,(d) 所提出的高效映射方案。存在两种对称的解决方案,这给机器学习算法带来了难题,主要是因为它们无法处理一个输入对应多个相同类型输出的情况。虽然机器学习模型可以处理多个输入对应单个输出的情况,但反过来——一个输入对应多个相同性质的输出——则与标准的运作框架相悖。这种在处理对称解决方案时的矛盾会干扰模型的学习过程。当面对对称的映射选项时,模型难以为输入分配唯一的标签或分类。因此,这种模糊性会妨碍模型在存在对称映射的情况下区分各个输入,并为每个输入分配相应的输出。解决这一挑战对于完善专为片上网络映射问题设计的机器学习方法至关重要。那些能够减少对称解决方案带来的混淆的策略,对于提升应用于片上网络映射问题的机器学习模型的准确性和可靠性具有重要意义。在片上网络领域,研究人员越来越倾向于利用机器学习算法来训练路由器,以实现数据包从源路由器到目标路由器的高效传输。这些基于监督学习的机器学习算法在速度和能耗方面都具有出色的效率,因此成为片上网络设计中的首选方案。下载:下载高分辨率图像(606KB)下载:下载全尺寸图像图4. VOPD映射的机器学习模型。由于其高效性,研究人员通常会选择基于机器学习的片上网络方案。该方法涉及为N核片上网络构建数据集,将每个节点视为源节点,并规划数据包的潜在传输路径。这个数据集通常会被分为75%用于训练,25%用于测试片上网络模型的性能。在训练阶段可以使用上述任何一种机器学习算法。一旦片上网络模型达到了预期的性能水平,就可以在实际场景中部署使用。此外,集成在片上网络中的机器学习算法还能够提前预测数据包从源地址发送到目标地址时的延迟时间。如图5所示,这一实现方式需要将源地址、目标地址以及数据长度等输入信息输入到机器学习算法中。该算法利用生成的数据集来确定到达目标地址的最优路径。在因流量拥堵而出现状况时,机器学习算法能够智能地识别出替代路径,从而确保数据能够不间断地传输到预定目的地。机器学习算法与片上网络的这种有机结合,不仅提升了路由效率,还使网络能够动态适应拥堵状况。通过实现预测功能以及自适应的路径选择,基于机器学习的片上网络在提升数据传输性能以及缓解由流量拥堵造成的网络瓶颈方面展现出巨大的潜力。所提出算法的时间复杂度主要为O(n?logn),这反映了任务映射过程中所涉及的排序和基于树的决策过程,其中n表示任务或核心的数量。文中还讨论了用于故障检测和任务迁移的额外时间复杂度。至于空间复杂度,其需求为O(n?m),这是因为需要存储随机森林模型以及任务映射矩阵,其中n代表核心数量,m代表任务数量。下载:下载高分辨率图像(344KB)下载:下载全尺寸图像图5. 机器学习片上网络的流程图。4. 实验设置为了验证所提出的容错核心映射算法,我们对现有的最先进算法进行了严格的对比测试。表1中的实验内容列出了在所有模拟运行中片上网络模拟器所使用的配置参数。这些参数为各项实验提供了统一的基础。值得注意的是,这些模拟是在由Intel Xeon Phi处理器7290驱动、配备32GB内存的系统中运行的。这样的配置对于确定NoC模拟器的行为和性能评估起着关键作用。在整个实验过程中保持这些参数的一致性,可以为比较分析提供标准化环境,从而更可靠地评估NoC的功能性、效率及可扩展性。实际工作负载是在Noxim模拟器中运行的,所使用的工作负载数据来自PARSEC基准测试(详见表2[17]、[18])。该验证包括将我们提出的容错核心映射算法与两种基准测试方法进行比较:自适应映射算法[10]以及重映射策略[11]、[12],同时还会考虑预测的错误率。每种基准测试的测试阶段都涵盖了一个完整的应用程序执行时间。我们的方法核心在于构建一种基于机器学习模型的智能核心映射解决方案。在最多8×8的NoC配置中,我们采用“XY”路由算法来优化两个目标:减少延迟和节省能源。为彻底检验所提出的机器学习模型,我们精心设计了多种实验。其中一部分实验针对固定大小NoC的任务图,旨在验证该模型在结构化、规律性任务图下的性能;同时,还有其他实验涉及不同大小NoC的任务图,通过引入随机性来评估模型的适应性。需要指出的是,所有实验都是在网格拓扑结构下进行的。

表1. NoC模拟设置详情。
参数 值
流量 合成注入率:0.01数据包/周期/IP
模拟时间 100,000周期
饱和时间 5,000周期
交换类型 蠕孔式
传输单元长度 64比特
数据包大小 32个传输单元

在数据集准备阶段,我们精心筛选出了2,500个原始数据集。其中1,500个数据集用于训练所提出的模型,其余的则用于测试训练精度和损失情况。通过数据增强技术,我们还生成了15,000个样本,使得训练集规模达到16,500个样本,从而为模型的有效训练提供有力支持。在映射算法开始应用时,我们整合了ACG和容错处理这两种输入策略。与故障相关的关键信息则通过NoC管理核心传递给映射过程。

表2. 工作负载。
测试套件 基准测试
Parsec vips、dedup、ferret、freqmine、swaptions、x264、black Scholes、canneal、fluidanimate、bodytrack、streamcluster、facism

下载:下载高分辨率图片(275KB)
下载:下载完整尺寸图片

图6. 所提算法与其他算法相比的重传数据包数量,以自适应映射算法[10]为基准进行了标准化处理。
下载:下载高分辨率图片(255KB)
下载:下载完整尺寸图片

图7. 加速比对比,以自适应映射算法[10]为基准进行了标准化处理。
下载:下载高分辨率图片(269KB)
下载:下载完整尺寸图片

图8. 延迟对比,以自适应映射算法[10]为基准进行了标准化处理。
下载:下载高分辨率图片(246KB)
下载:下载完整尺寸图片

图9. 所提算法与其他算法的对比,以自适应映射算法[10]为基准进行了标准化处理。

在实现所提出的容错核心映射功能时,我们选择了Verilog作为编程语言,并结合Vivado Design Suite 2023.1来进行综合与模拟[19]。模拟是在一台配备Intel Xeon Phi处理器7210、16GB内存、运行频率为1.30GHz且拥有64个核心的机器上进行的。而为了实现实际应用,Zynq UltraScale+ MPSoC ZCU104评估套件发挥了重要作用。这种全面而细致的方法将先进的机器学习技术与复杂的NoC模拟相结合,为优化网络架构并在复杂的实际工作负载中确保系统具备容错能力做出了重要贡献。

5. 评估与分析
我们通过在5×5、6×6、10×10以及20×20的网格型NoC平台上对ACG进行模拟,来评估所提出算法的性能及硬件占用情况。

5.1. 性能分析
我们将该算法的性能与自适应映射算法[10]以及重映射策略[11]、[12]在以自适应映射算法为基准时的表现进行了比较。图6展示了PARSEC基准测试中各算法的重传数据包数量情况。传输过程中出现的故障会通过重传来修复。结果显示,与自适应映射算法[10]以及重映射策略[11]、[12]相比,所提出的容错核心映射算法平均可使重传数量分别减少42%、30%和26%。由此可见,该算法的性能优于其他相关算法。

表3. 测试精度与损失情况。
性能指标 网格固定结构 网格随机结构
延迟精度 99.8% 99.7%
延迟损失 0.008 0.011
能量效率 99.5% 99.8%
能量损失 0.015 0.006

下载:下载高分辨率图片(128KB)
下载:下载完整尺寸图片

图10. 所提算法的损失率与精度情况。

表4. 网格拓扑下具有固定连接的NoC应用映射的延迟性能指标。
性能指标 映射1 映射2 映射3 映射4
最佳延迟时间 77,871 76,113 66,371 75,371
错误延迟时间 80,767 96,015 100,003 113,557

表5. 网格拓扑下具有固定连接的NoC应用映射的能量效率指标。
性能指标 映射1 映射2 映射3 映射4 映射5 映射6
最佳延迟时间 16.619 18.773 18.908 19.096 416.442 18.879
错误延迟时间 18.933 27.7608 20.3984 28.2356 18.1124 19.3098

5.1.1. 加速比
图7展示了PARSEC基准测试在不同算法下的加速比情况,对比对象为自适应映射算法[10]以及重映射策略[11]、[12]。这里的加速比指的是在NoC平台上执行ACG映射时的总耗时。从图中可以看出,所提出的容错核心映射算法的加速比高于1.25倍(自适应映射算法[10])、1.2倍(重映射策略[11])以及1.15倍(重映射策略[12])的平均值。此处所说的执行时间是指在运行基准测试时的流量及故障情况所导致的耗时。

下载:下载高分辨率图片(280KB)
下载:下载完整尺寸图片

图11. 动态功耗对比,以自适应映射算法[10]为基准进行了标准化处理。
下载:下载高分辨率图片(262KB)
下载:下载完整尺寸图片

图12. FPGA实验装置。

5.1.2. 延迟
在NoC平台上进行ACG映射时,延迟是一个重要考量因素。图8显示了所有传输数据包的标准化延迟情况。从图中可以得知,与自适应映射算法[10]以及重映射策略[11]、[12]相比,所提出的容错核心映射算法平均可使延迟分别降低38%、26%和20%。由此可见,这种动态的、主动式的处理方式还能进一步降低整体延迟。

5.1.3. 能源效率
能源效率是通过以下公式计算的:能源效率 = 传输单元数 ÷ (功耗×执行时间)。图9表明,与自适应映射算法[10]以及重映射策略[11]、[12]相比,所提出的容错核心映射算法分别能使能源效率提高34%、28%和22.5%。

图10展示了随机森林模型在片上网络容错方面的性能,其损失率显著降低,精度超过97%,显示出该模型在核心映射及故障缓解方面具有高效的预测能力。由于具备良好的可扩展性、稳定性,以及处理网络参数间复杂关系的能力,这种基于随机森林的方法尤其适用于规模更大、结构更为复杂的NoC架构。其集成式结构即便在条件不确定的情况下也能保证映射的可靠性,同时还支持并行执行,从而提升决策速度。虽然频繁的故障变化可能需要对模型进行更新,但可通过增量学习或混合启发式策略来解决这一问题。总体而言,随机森林方法在精度、适应性及计算效率之间实现了最佳平衡,非常适合用于大规模且不断发展的NoC系统。我们所提出的基于随机森林结构的片上网络智能容错核心映射算法,展现了极高的精度和较低的错误率。在测试中,该算法的精度达到了97%,这一数值充分证明了随机森林模型在将任务正确映射到相应核心方面具有出色的能力,进而确保了NoC系统的高效稳定运行。测试中观察到的低错误率进一步凸显了该算法的稳健性与可靠性。随机森林模型中融入的自适应机制能够根据任务负载及故障状况动态调整相关参数,从而有效维持优异的性能表现。此外,该模型还通过专门的特征选择流程,重点考虑NoC特有的约束条件,如通信延迟和容错需求,确保模型能够很好地适配NoC环境的具体要求。总体来看,97%的精度充分体现了该算法在实现高效且具备容错能力的核心映射方面的优势,使其成为现代NoC架构中极为可靠的解决方案。

表3展示了网格固定结构及网格随机结构下的测试精度与损失情况,可见两种结构下的延迟精度均很高,分别为99.8%和99.7%,延迟损失也很小,分别为0.008和0.011;同时能量效率同样出色,分别为99.5%和99.8%,能量损失仅为0.015和0.006。表4则展示了在具有固定连接的网格型NoC拓扑结构下,不同应用映射方式的延迟性能指标。对于每种映射方案(映射1、映射2、映射3、映射4),都会从最佳延迟时间、错误延迟时间以及错误任务图映射样本的性能等方面进行评估;而其余样本的映射则是准确的,其全局搜索性能也相当一致。表5展示了在具有固定连接的网格型NoC拓扑结构下,不同应用映射方式的能量效率指标。表6则呈现了在具有随机连接的网格型NoC拓扑结构下,不同应用映射方式的延迟性能指标。与表6类似,表6中也对每种映射方案(映射1至映射5)的最佳延迟时间和错误延迟时间进行了统计。表7展示了在具有随机连接的网格型NoC拓扑结构下,不同应用映射方式的能量效率指标。与表6相同,表7也是对每种映射方案的最佳延迟时间和错误延迟时间进行对比分析。表8则汇总了前几张表格中的测试精度及性能距离指标。该表对比了不同映射方法的精度以及相对平均性能距离RAPD。测试结果显示,实际映射方法的精度要低于理论模型。当错误的样本被匹配到正确的映射序列时,其优势就会消失,从而导致较大的性能差距,进而降低整个系统的效率。总体而言,NoC映射方法的精度约为97.1%。

5.1.4. 动态功耗
NoC应用程序映射的总功耗可视为动态功耗。图11展示了PARSEC工作负载在不同算法下的动态功耗对比情况,对比对象为自适应映射算法[10]以及重映射策略[11]、[12]。结果显示,所提出的容错核心映射算法相比前述算法,平均可使功耗分别降低26%、18%和16%。这些数据表明,该容错核心映射算法在能耗控制方面表现优异。

模拟结果进一步显示,与自适应映射算法[10]以及重映射策略[12]相比,所提出的核心容错映射算法不仅提升了处理器的性能和能源效率,还减少了数据重传、延迟以及动态功耗。

表6. 网格拓扑下具有随机连接的NoC应用映射的延迟性能指标。
性能指标 映射1 映射2 映射3 映射4 映射5
最佳延迟时间 46,474 40,856 76,162 69,169 33,749
错误延迟时间 57,752 43,754 111,034 102,352 34,351

表7. 网格拓扑下具有随机连接的NoC应用映射的能量效率指标。
性能指标 映射1 映射2 映射3 映射4 映射5
最佳延迟时间 15.438 413.985 16.1008 20.9854 105,578
错误延迟时间 21.401 191.651 222.4784 27.8658 150,402

表8. 测试精度与性能距离指标。
性能指标 表4数据 表5数据 表6数据 表7数据
精度 98% 98% 97.5% 97.5%
相对平均性能距离RAPD 30.1% 21.1% 30.1% 40.4%

表9. 所提映射方法与自适应映射算法[10]、重映射策略[11]及[12]在功耗、面积及吞吐量方面的对比情况。
空白单元格表示对应数据未给出
所提映射方法 自适应映射算法[10] 重映射策略[11] 重映射策略[12]
面积(等效逻辑块数量) 减少16% 减少11% 减少10%
功耗(瓦特) 减少20.4% 减少15.6% 减少12.2%
吞吐量(吉比特每秒) 提高24.2% 提高20.2% 提高16.6%

表10. 不同设计方法所消耗资源的对比情况。
空白单元格表示对应数据未给出
[10] [11] 所提方法
SLICE LUTs数量 40 60 732
151 804
SLICE寄存器数量 30 731 202
125 120
F7多路复用器数量 10 051 110
19561
F8多路复用器数量 417 248 43105

5.2. 硬件实现
我们所提出的容错核心映射算法是使用Verilog编程语言实现的。在设计的综合与模拟环节,则采用了Vivado Design Suite 2023.1工具。而进行综合操作时,我们以Zynq UltraScale+ MPSoC ZCU104评估套件作为目标硬件平台,该套件实际上是一块FPGA板卡[21]、[22]。图12展示了该FPGA的实验装置结构。

5.2.1. 数据重传
图3(a)和(b)中所展示的ACG以及6×6网格型NoC平台被用来评估所提出的容错核心映射算法。该算法会与文献[10]中的自适应映射方法,以及文献[11]和[12]中的重映射策略进行对比。相关测试结果,包括功耗、面积及性能等方面的数据,均整理在表9中。在基于FPGA实现的NoC系统中,面积 merupakan一个极为重要的参数。相比自适应映射算法[10]以及重映射策略[11]、[12],所提出的容错核心映射算法在面积效率方面更具优势,而面积大小则是通过查找表、可配置逻辑块以及触发器等元素来决定的。性能则通过吞吐量作为衡量标准。与前述算法相比,所提算法的面积分别降低了16%,功耗分别降低了20.4%、15.6%,而能量效率则分别下降了10%和12.2%。与自适应映射算法[10]以及重新映射策略[11]、[12]相比,所提出的容错核心映射算法使性能分别提升了24.2%、20.2%和16.6%。由此可见,该算法在核心映射方面的效率要高于其他算法。表10对比了不同设计技术下的资源利用率,结果显示,在所提方法中SLICE LUTs、寄存器、F7 Muxes和F8 Muxes的性能都有所提升。该方法已在多种规模的NoC平台上进行测试,证明了其在性能、功耗和面积效率方面的可扩展性。在5×5、6×6、10×10和20×20的网格网络上进行的大量仿真表明,随着网络规模的变化,该方法仍能保持其性能优势,通信延迟和吞吐量的下降幅度极小。功耗分析显示,由于通信能耗降低以及高效的故障管理,功耗得以进一步降低;而面积开销分析则表明,该方法几乎不会增加额外的面积需求,因此适用于更大的NoC设计。这些结果证明了所提出的容错核心映射算法的稳健性和可扩展性。

6. 结论
本文提出了一种基于机器学习的NoC容错核心映射框架。该框架采用高效的映射和调度技术,再加上错误检测与纠正机制。一旦出现故障,任务会被迁移至备用核心上。与现有方法相比,所提算法在加速性能、能效、重传效率、延迟以及动态功耗方面均有显著提升。在Zynq UltraScale+ MPSoC ZCU104评估板上进行的测试表明,该框架能够减少面积、降低功耗并提升性能。这项工作展现了机器学习和人工智能在未来的NoC及多处理器片上系统设计中的潜力。总之,它体现了机器学习在优化先进芯片架构中的映射与容错技术方面的巨大价值。

作者贡献说明
Challa Muralikrishna Yadav:方法论、研究、形式化分析、数据整理、概念设计。B. Naresh Kumar Reddy:指导、软件开发、项目管理、方法论、研究。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号