无透镜数字全息术中的扩展视场和分辨率提升
黄忠轩(Chung-Hsuan Huang)
徐志成(Chih-Cheng Hsu)
朱怀哲(Huai-Che Chu)
郑兆峻(Chau-Jern Cheng)
杜汉燕(Han-Yen Tu)
《Sensors》:Extended Field of View and Resolution Enhancement in Lensless Digital Holography
Chung-Hsuan Huang,
Chih-Cheng Hsu,
Huai-Che Chu,
Chau-Jern Cheng and
Han-Yen Tu
【字体:
大
中
小
】
时间:2026年05月04日
来源:Sensors 3.5
编辑推荐:
摘要 从MRI扫描中自动进行脑肿瘤分类需要优化的卷积神经网络(CNN)架构,这些架构需要能够在嵌入式现场可编程门阵列(FPGA)平台上部署。本文提出了一种综合方法,结合了多混沌增强型人类进化优化算法(MC-HEOA)用于自动CNN架构发现,并在Xilinx
摘要 从MRI扫描中自动进行脑肿瘤分类需要优化的卷积神经网络(CNN)架构,这些架构需要能够在嵌入式现场可编程门阵列(FPGA)平台上部署。本文提出了一种综合方法,结合了多混沌增强型人类进化优化算法(MC-HEOA)用于自动CNN架构发现,并在Xilinx Zynq-7000 FPGA上进行了部署验证。通过CEC2023基准测试对10个测试函数进行了评估,选择了Tent映射作为最佳的多样性生成器。神经架构搜索(NAS)搜索空间覆盖了1.31×10^16种配置的组合空间,这些配置编码了架构选择(层、卷积、通道、池化),同时严格限制参数数量不超过一百万,以确保与FPGA兼容。通过单通道灰度输入(224×224×1)训练和评估的最佳发现架构——这种输入方式是本质上单色MRI数据的自然表示——在4类脑肿瘤MRI数据集(胶质瘤、脑膜瘤、垂体瘤、无肿瘤)上实现了91.33%的测试准确率和92.44%的验证准确率,参数数量为724,200个。在Zynq-7000(xc7z020clg484-1)上的高层次综合(HLS)验证了嵌入式部署的可行性,其中DSP利用率达到了16%,查找表(LUT)利用率达到了57%,字段可编程门阵列(FF)利用率达到了28%,并且在100 MHz频率下的推理延迟为374毫秒。本研究展示了MC-HEOA在发现紧凑、高性能且兼容FPGA部署的CNN架构方面的有效性,为实时嵌入式医学诊断开辟了新的前景。
1. 引言
卷积神经网络(CNN)在广泛的医学计算机视觉任务中表现出色,包括病理分类、病变检测和器官分割[1,2,3]。大规模基准挑战赛如MoNuSAC2020[4]进一步证明了深度CNN架构可以在复杂的组织学分析任务上达到与人类专家共识相当的性能,同时强调了架构选择和优化策略对于医学成像应用的重要性。从磁共振成像(MRI)中自动进行脑肿瘤分类是一个重大的临床挑战[5,6,7,8,9,10],需要可靠且快速的诊断辅助系统,这些系统能够在资源受限的医疗环境中部署。最近的深度学习方法在脑肿瘤分类方面表现出了有希望的性能[1,2,3],在公共数据集上实现了95-99%的准确率[5,6,9,10],但代价是庞大的架构(25-138 M个参数),这些架构不适合嵌入式部署。由于CNN对计算资源和内存的大量需求,将其部署在资源受限的嵌入式系统中仍然是一个相当大的技术挑战。现场可编程门阵列(FPGA)平台为嵌入式神经网络推理提供了一个有吸引力的解决方案[11,12,13],与通用处理器和GPU相比,在性能、重新配置灵活性和能源效率之间提供了令人满意的权衡。最近的实现证明了FPGA在医学成像应用[14,15]、实时分类[16,17,18,19]和自适应优化[20,21]方面的有效性,显著降低了延迟和能源消耗。尽管如此,设计优化过的FPGA架构仍需要深厚的硬件设计专业知识以及相当长的开发时间,从而限制了它们在嵌入式医学应用中的采用。
神经架构搜索(NAS)作为一种自动化设计过程的解决方案已经崭露头角[22,23,24]。现有的NAS方法已经证明它们能够发现适用于多种任务的高性能架构,有时甚至超过了手动制作的专家设计[25,26,27]。最近的进展包括无需训练的进化优化[26]以及使用注意力机制进行路径评估[27]。然而,正如最近的几项调查[22,23,24]所指出的,大多数当前的NAS方法主要优化模型准确性,同时依赖于参数数量或浮点运算次数(FLOPs)等通用指标作为计算效率的替代指标。这些指标并不能真实反映FPGA平台的实际硬件限制,特别是逻辑资源(LUT)、嵌入式内存(BRAM)和专用计算单元(DSP)的有限可用性。尽管最近提出了考虑硬件限制的NAS方法[28,29,30,31],但这些方法主要针对动态架构[28,31]或图网络[29],对于嵌入式医学应用所需的严格FPGA约束的预先集成关注有限。因此,传统方法发现的架构通常需要在搜索后进行压缩或量化阶段,以满足硬件限制,这会显著降低它们的初始性能或使得在系统级FPGA设备(如Xilinx Zynq-7000)上的部署变得不切实际。
元启发式进化优化算法在各种复杂的优化场景中被广泛使用[32,33,34],粒子群优化(PSO)、遗传算法(GAs)、差分进化(DE)[35,36,37]以及最近的人类进化优化算法(HEOA)[38]都取得了显著的成功。最近的比较研究[32,33,35,37]表明,这些算法的性能非常依赖于具体问题,并且对采用的优化策略敏感,包括协作[36]和AI混合[39]方法。我们之前的工作[20]通过动态混沌映射选择和自适应元启发式技术,在FPGA上探索了实时情况优化,展示了混沌方法增强搜索多样性的潜力。HEOA从人类进化和社交学习机制中汲取灵感,引导搜索朝向解决方案空间的有希望区域。在某些优化问题上,HEOA可以通过其自适应学习策略实现快速收敛。然而,当应用于具有多个约束的复杂优化场景时——特别是在硬件约束下的NAS环境中——原始HEOA展现出几个局限性:由于仅依赖逻辑映射进行混沌生成,导致搜索多样性不足;对静态控制参数敏感;以及在高度多模态问题上容易过早收敛。
为了克服这些局限性,本研究提出了一种综合方法,通过经验性选择最佳的混沌映射来增强HEOA,并在严格的FPGA约束下进行CNN架构发现。本研究的主要贡献包括:
1. 一个通过CEC2023基准测试增强原始HEOA的MC-HEOA框架,加强了探索-利用平衡。
2. 将Zynq-7000 FPGA的约束(<1 M参数,BRAM兼容性)预先集成到NAS目标函数中,确保可以直接部署的架构,无需搜索后的压缩。
3. 自动发现了一种CNN架构,在脑肿瘤MRI数据集(4类:胶质瘤、脑膜瘤、垂体瘤、无肿瘤)上实现了91.33%的测试准确率,参数数量为724,200个。
4. 在Zynq-7020 FPGA上的验证确认了嵌入式部署的可行性,推理延迟为374毫秒(100 MHz),资源利用率可接受。
本文的其余部分组织如下。第2节详细介绍了原始HEOA的理论基础,并介绍了六种候选混沌映射。第3节描述了所提出的方法论,包括MC-HEOA框架、NAS搜索空间、FPGA约束集成以及训练和硬件实现协议。第4节展示了在CEC2023基准测试上的实验结果、基于NAS的架构发现、分类性能和FPGA验证。第5节讨论了结果的解释、与现有技术的比较、研究限制以及实际意义。最后,第6节总结了本文并指出了未来研究的方向。
2. 人类进化优化算法
本节介绍了原始HEOA的理论基础,这是我们提出的多混沌扩展的概念基础。
2.1. HEOA的灵感与建模
人类进化优化算法(HEOA)[38]是一种受人类进化和社会学习过程启发的新元启发式算法。它的主要灵感来源于人类进化的显著适应能力和在复杂环境中发现最优解的能力。人类进化过程是生存和社会进步的基本驱动力,突显了自然选择和适应的有效性。与传统进化算法不同,后者模拟动物行为(蜜蜂群、蚁群)或物理现象(引力、电磁力),HEOA特别模拟了使人类能够在复杂且变化的环境中繁荣发展的基本认知机制。这种仿生方法为需要动态平衡探索和利用的优化问题提供了特别有效的适应能力。HEOA将全局搜索过程分为两个不同的阶段,反映了人类社会的进化:人类探索和人类发展。虽然这种划分简化了人类进化的复杂性,但它为理解人类社会的进步提供了坚实的科学基础。
2.2. 通过逻辑混沌映射进行初始化
为了模拟人类进化早期的混沌特性,HEOA使用逻辑混沌映射来初始化种群。这一框架提供了一个关于宇宙起源和进化的独特视角,认为宇宙是通过混沌过程和自组织现象逐步演化的。大小为N的种群的初始化公式表示为:(1)然后将混沌值映射到搜索空间:(2)其中和下限分别表示搜索空间的下界和上界。
2.3. 人类探索阶段
在人类探索阶段(定义为最大迭代次数的前四分之一),个体面对知识有限的新环境,采用统一的搜索策略。这一阶段包含了几个受原始人类进化启发的复杂机制。此阶段的更新公式表示为:(3)相关参数和函数定义如下:
- 平均位置:当前种群的平均位置,计算公式为:(4)
- 适应函数:根据迭代次数和当前位置调整参数。该函数考虑了人类知识探索难度的增加和群体特征:(5)
- Lévy分布:为了模拟人类探索阶段的知识获取复杂性和其螺旋发展特性,Lévy分布的表达式为公式(6),其中赋予值为1.5:(6)
- 跳跃策略:人类探索阶段包含了一种跳跃策略,该策略受到图像重框和重组技术的启发,旨在改善搜索位置的分散性。这种技术利用了人类眼睛通过全局和局部特征组合来感知图像的事实,使其对特定局部信息的丢失相对不敏感。跳跃系数量化了跳跃的程度,表示为:(7)
2.4. 人类发展阶段
在人类发展阶段,HEOA根据个体表现将人类社会分为四个不同的角色,每个角色采用特殊的搜索策略。它们共同协作以探索全局最优解:
- 领导者(前40%):拥有丰富的知识,通常位于最优区域。前40%适应度最高的个体被指定为领导者。他们利用现有的知识寻找更适合人类发展的区域。这一探索过程由公式(8)捕捉:在公式(8)中,是一个正态分布的随机数。函数生成一个所有元素均为1的行向量。R是表示与领导者相关情境复杂性的随机数。在进行的实验中,设置为0.6。根据给定位置的情境复杂性,领导者选择适当的搜索策略。知识获取难度系数随着发展的进步而逐渐减小:(9)
- 探索者(40–80%):它们通过进入未探索的领域寻找全局最优解,发挥着关键作用。适应度排名在前40%到80%之间的个体被指定为探索者。它们的搜索策略表示为:(10)在公式(10)中,表示第t次迭代时种群中适应度最低的个体的位置。
- 追随者(80–90%):它们遵循最适应的领导者的指导并跟随其脚步。具体来说,适应度排名在前80%到90%之间的个体被指定为跟随者。它们的搜索策略表示为:(11)在公式(11)中,表示第t次迭代时种群中适应度最高的个体的位置。
- 失败者(90–100%):适应能力较差且未能融入社会的个体被称为失败者。这些不适应的个体被淘汰,种群通过在适合人类发展的区域繁殖来补充。(12)
2.5. HEOA的计算复杂性
HEOA的计算复杂性由三个操作决定:解决方案初始化、适应度函数评估和解决方案更新。用N表示解决方案的数量,初始化复杂性为。解决方案更新复杂性为,包括最佳位置的识别和所有解决方案位置的更新,其中T表示总迭代次数,dim表示问题的维度。因此,HEOA的总计算复杂性为:
2.6. 原始HEOA的局限性分析
尽管在各种优化功能上表现出色,原始HEOA仍存在几个关键局限性,这些局限性直接促使我们进行了多混沌扩展:
- 混沌多样性受限:仅依赖逻辑映射极大地限制了算法对不同类型优化景观的适应能力。这种单映射混沌方法未能充分利用混沌系统在适应性探索和利用方面的多样化潜力。
- 参数刚性:控制系数(, , )在整个优化过程中保持不变,无法适应适应度景观的演变特性。这种刚性限制了算法效率,因为问题属性在不同的搜索空间区域中可能会有所变化。缺乏自适应机制:原始的HEOA缺乏任何反馈系统,无法根据检测到的问题特征、当前的搜索演化阶段或适应度景观的动态属性自动调整其策略。过早收敛:在高度多模态或高维函数上,算法可能会陷入局部最优解——特别是CEC-2023标准中的函数——这限制了它解决现代优化问题的有效性。这些根本性限制促使我们在多混沌HEOA方法中整合了六个混沌映射和经验选择,并将其应用于FPGA约束下的神经架构搜索。2.7. 用于探索多样性的混沌映射混沌系统展现出一些基本特性,使它们特别适合元启发式优化算法:对初始条件的敏感性、遍历性以及在相空间中的均匀分布。这些特性使得与传统的伪随机数生成器相比,能够更多样化地探索搜索空间。对初始条件的敏感性通过李雅普诺夫指数来量化,其中较高的值对应于轨迹的更快发散。下面数学描述了六个表现出互补动态行为的混沌映射。逻辑映射:(13) 帐篷映射:(14) 正弦映射:(15) Hénon映射(2D):(16) 切比雪夫映射:(17) 圆映射:(18) 这些映射通过将伪随机数替换到种群更新方程(方程(3)和(8))中来整合到HEOA中。对这些六个混沌映射的实证比较评估确定了最佳的生成器,随后将其整合到MC-HEOA中进行神经架构搜索。该评估的结果在第4节中呈现。3. 提出的方法论本节介绍了为自动发现针对脑肿瘤分类优化的卷积神经网络架构而开发的方法论,并在Xilinx Zynq-7000 FPGA上进行了实现验证。该方法包括两个主要阶段,形成了一个完整的算法-硬件协同设计链:通过混沌整合增强HEOA并经验性地选择最佳映射(第1阶段),然后在FPGA约束下进行神经架构搜索,并进行训练和硬件验证(第2阶段)。这种方法确保了优化后的架构可以直接在目标硬件上部署,而无需进行重大的后续修改。3.1. 方法论概述提出的方法论围绕两个互补阶段展开,如图1所示。图1. 在FPGA约束下进行神经架构搜索的MC-HEOA方法论概述。第一阶段通过整合最佳混沌映射来增强原始HEOA,以实现探索多样性的生成。MC-HEOA(多混沌增强型HEOA)方法论指的是通过实验评估几种候选混沌映射,在标准优化函数上客观选择性能最佳的映射,然后将该选定的映射整合到NAS应用的HEOA机制中。比较评估结果确定帐篷映射(Logistic、Tent、Sine、Hénon、Chebyshev、Circle)中的最优混沌生成器。这种方法确保了对混沌生成器的严格、基于实证的验证,而不是任意选择。第二阶段利用增强后的Tent-HEOA在严格的FPGA约束下进行神经架构搜索,在脑肿瘤MRI数据集上训练发现的架构,并通过HLS合成在Zynq-7020 FPGA上进行硬件实现验证。这种整合方法构成了一个独特的方法论贡献:将FPGA约束直接嵌入到NAS阶段中,确保发现的架构本质上可以直接在嵌入式硬件上部署,而无需进行重大的后续修改,同时FPGA验证实验确认了部署的可行性。3.2. 第1阶段:通过混沌整合增强HEOA第一阶段通过整合最佳混沌映射来增强原始HEOA,以实现探索多样性的生成。原始HEOA仅依赖于逻辑映射进行种群初始化,这限制了其适应不同类型优化景观的能力。混沌系统表现出由其李雅普诺夫指数、相空间概率分布和时间自相关性所 caracterized 的独特遍历性,这些直接影响探索质量。MC-HEOA方法论指的是通过实验评估几种候选混沌映射,根据性能和鲁棒性标准客观选择最佳映射,然后系统地将该映射整合到所有生成多样性的HEOA机制中。在对CEC2023基准测试(10个函数,每个函数30次运行)的六个混沌映射(逻辑映射、帐篷映射、正弦映射、Hénon映射、切比雪夫映射、圆映射)的比较评估中,确定帐篷映射为最佳生成器,因为它在单位区间上具有完美的均匀分布,并且其适度的李雅普诺夫指数促进了平衡的探索。帐篷映射的整合在三个关键的HEOA组件中进行。首先,种群初始化用帐篷映射生成替换逻辑映射生成(方程(14)),从随机初始条件开始迭代应用转换。其次,在探索阶段,方程(3)中的随机组件被帐篷混沌序列替换,确保在迭代的前四分之一期间进行均匀探索。第三,当种群的标准差低于0.01的临界阈值时,自适应重初始化机制用帐篷映射生成的新解决方案替换表现最差的20%个体,同时保持全局探索并保留高质量解决方案。在所展示的实现中,神经架构搜索(第2阶段)仅使用帐篷映射;其余五个映射仅用于经验选择阶段。3.3. 第2阶段:架构搜索、训练和FPGA验证第二阶段整合了三个组成部分,形成了一个完整的协同设计周期:在严格的FPGA约束下通过Tent-HEOA自动进行架构搜索,在脑肿瘤MRI数据集上训练发现的架构,并在Zynq-7020 FPGA上进行硬件实现验证(Xilinx,San Jose,CA,USA)。这种整合方法确保了优化后的架构可以直接在嵌入式平台上部署,而无需进行重大的后续修改。3.3.1. 在FPGA约束下的神经架构搜索NAS问题被构建为一个受限的多目标优化问题,旨在在满足严格的硬件资源约束的同时最大化分类精度:(19) 其中 表示编码的搜索空间, 表示在脑肿瘤MRI数据集上的验证精度,Params表示架构参数的总数。约束 构成了所提出的协同设计方法的核心要素,直接来源于目标Zynq-7020 FPGA的硬件规格。这个限制不是任意的,而是基于对可用内存资源的严格分析得出的。Zynq-7020(xc7z020clg484-1)提供了280个每块36 Kbit的BRAM块,总容量为10,080 Kbit(1.26 MB)。在标准的float32表示中,每个神经网络参数需要4字节的存储空间。因此,一百万参数需要4 MB的内存,大约是总BRAM容量的三倍。在推理过程中,BRAM必须同时容纳网络权重、中间特征映射和卷积操作的计算缓冲区。正如第4.6节中展示的HLS合成结果所确认的,发现的架构(724,200个参数)使用了80%的可用BRAM(224/280块),网络权重通过AXI接口从512 MB的DDR3外部内存流传输。-参数约束确保了在可用硬件资源内完整推理流程的可行性,留出了20%的安全 margins以应对合成变化。这与传统的NAS方法不同,后者首先优化精度,然后适应硬件限制——这种方法对于像Zynq-7000这样的嵌入式FPGA设备通常是不成功的。在FPGA约束下使用MC-HEOA的NAS过程是迭代运行的,结合了候选架构生成、硬件约束验证、选择性训练和多目标评估。图2展示了这一阶段的完整工作流程。在每次迭代t(从1到100)中,MC-HEOA算法通过三种机制生成新的CNN架构:社会学习(将代理朝向最佳解决方案移动)、帐篷混沌扰动以保持探索多样性,以及创新操作符以逃离局部最优解。每个生成的架构都会立即根据Zynq-7000 FPGA的约束进行验证(参数、BRAM兼容性、DSP可用性)。违反这些约束的架构会获得较高的惩罚适应度值,而有效的架构则进入训练阶段。图2. 第2阶段工作流程:在FPGA Zynq-7000约束下的神经架构搜索。有效架构在脑肿瘤MRI数据集(3000张图像,224 × 224 × 1灰度)上进行训练,训练周期为22个时代,批量大小为32,在Kaggle GPU(Tesla T4(NVIDIA,Santa Clara,CA,USA)上进行。使用学习率为0.001的Adam优化器,以及用于4类分类任务的CrossEntropy损失函数。训练后,多目标适应度函数通过结合验证精度和参数紧凑性来评估每个架构。有效和无效的架构(及其各自的适应度值)在种群更新步骤中合并,HEOA学习机制根据适应度对解决方案进行排序,更新全局最佳解,并为下一代准备种群。在100代后达到收敛标准,此时适应度值最高的架构被选为最佳解决方案。随后通过FPGA实现验证,以确认其在Zynq-7020平台上的可部署性。搜索空间编码了28个离散维度,这些维度映射到连续的超立方体上,使得可以直接在实值向量上应用HEOA。表1详细说明了完整的维度编码,代表了大约可能的配置。表1. NAS搜索空间——28个维度的编码。每个连续维度通过适当的阈值函数进行离散化。层的数量由 决定,确保覆盖所有九个可能的值。如果 ,则层类型i对应于标准卷积;如果 ,则对应于深度可分离卷积;否则对应于跳跃连接。通道的数量通过四舍五入到最接近的16的倍数来计算。结构验证机制确保了架构的一致性,特别是连续层之间的维度兼容性。适应度通过标量加权来聚合精度和紧凑性:(20) 通过 和 来评估,优先考虑精度,同时惩罚过度的复杂性。违反约束 的架构会受到 的惩罚,从而有效地将它们从搜索中剔除。Tent-HEOA算法将选定的帐篷映射整合到标准的HEOA机制中。算法1展示了完整的伪代码。对于每个解码的候选架构,评估包括构建相应的TensorFlow/Keras模型,在脑肿瘤MRI训练集上训练22个时代,可能提前停止,评估验证精度,计算总参数,并计算聚合适应度。在种群 和 NAS时代的情况下,总计算预算大约为13,200个有效的训练时代(在立即排除约40%的无效FPGA候选者之后)。鉴于提前停止将平均训练次数减少到每个有效候选者11个时代,实际的有效训练次数大约为1200次(20个个体 × 100代 × 0.6的有效比率),在Kaggle Tesla T4 GPU上大约需要30分钟完成。算法1 Tent-HEOA用于神经架构搜索输入:种群大小 ,最大时代数 ,帐篷映射输出:最佳架构 使用帐篷混沌映射进行初始化,对于 到 N do ?????? ?????? ?????? ???? 结束 for 主要优化循环对于 到 T do ??????如果??那么 ??????对于? 到 N do ???????????? 通过方程(3)更新 ?????????结束 for ?????? 否则 ?????????按适应度对种群进行排序 ?????????分类:领导者(前40%), ??????????????????????? 探索者(40–80%), ??????????????????????? 失败者(90–100%) ?????????对于每个类别 do ???????????? 通过方程(8)–(12)更新 ?????????结束 for ?????? 结束 if ? ???? 如果多样性() ?那么 ??????? 用帐篷映射重新初始化底部20% ?????结束 if ?更新 并结束 return 3.3.2. 训练协议脑肿瘤MRI数据集包含3000张脑部MRI图像,分为四个诊断类别:胶质瘤、脑膜瘤、垂体肿瘤和无肿瘤。每个类别包含750张图像,确保了训练集的完美平衡。图像预处理如下:(i) 每张图像通过双线性插值调整大小至224 × 224像素;(ii) 转换为单通道灰度(224 × 224 × 1),这是本质上是单色的MRI数据的自然表示;(iii) 通过除以255将像素值标准化。以下数据增强策略仅应用于最终训练阶段,而在NAS候选者评估阶段使用原始图像进行客观和高效的架构评估:随机旋转(±10°)、水平翻转、宽度和高度位移(因子0.1)以及缩放(因子0.1)。训练集和测试集不应用任何增强。数据集使用分层70%/15%/15%的比例分为训练集、验证集和测试集,分别获得2100、450和450张图像,所有分区之间保持类别平衡。Tent-HEOA发现的最佳架构使用优化的协议进行训练,该协议包括Adam优化器(初始学习率 , ,)、ReduceLROnPlateau调度器(耐心5个时代,减少因子0.5,最小值 ),批量大小32,以及最多50个时代并允许提前停止(耐心10,标准:验证精度)。使用CrossEntropyLoss和标签平滑来提高泛化能力。正则化结合了权重衰减和分类器头部的Dropout机制。性能通过训练集和验证集上的准确率和损失指标来评估。所有实验均使用Python 3.12和TensorFlow/Keras在Kaggle平台上进行(Tesla T4 GPU,16 GB RAM)。通过在整个实验中一致应用固定的随机种子(random_seed=42)来确保完全的可重复性。实现代码和训练好的模型权重在合理请求下可以提供给相应的作者。
3.3.3 FPGA实现验证
FPGA实现是通过High-Level Synthesis(Vitis HLS 2022.2)在Zynq-7020平台上完成的。CNN架构用C++实现,并加入了针对硬件的优化。每一层都被转换为一个具有优化指示剂的专用函数。AXI接口使用了m_axi进行DDR内存传输(图像、权重),以及s_axilite进行处理系统的控制。中间缓冲区应用了ARRAY_PARTITION循环因子=4的指示剂,通过访问并行化来减少BRAM的使用。保留32位浮点数据类型以保持数值精度。HLS代码的目标频率为100 MHz(周期为10 ns)。生成的CNN IP块被集成到一个Vivado模块设计中,实现了完整的PS-PL异构架构。处理系统(双核ARM Cortex-A9,667 MHz)负责系统任务、图像预处理和用户界面。可编程逻辑承载了用于高性能并行推理的硬件CNN加速器。PS-PL通信通过AXI Interconnect使用AXI4协议进行。DDR控制器管理对共享的512 MB DDR3内存的访问。时钟/重置管理确保系统与FCLK_CLK0的同步,频率为100 MHz。这种架构充分利用了Zynq SoC的分布式处理特性:PS执行顺序和非规则任务,而PL则通过专用的硬件并行性大幅加速CNN推理。
4. 实验结果
本节展示了所提出的多混沌HEOA的实验评估。首先分析基准函数上的结果以验证算法改进,然后介绍了在FPGA约束下应用于MRI脑肿瘤分类的CNN架构搜索。
4.1. 实验设置
所提出的MC-HEOA是在Python 3.12中实现的,并在CEC2023基准测试上进行了评估,以验证最优混沌映射的选择。本节详细介绍了为确保严格和可重复的评估而采用的实验配置。表2列出了使用的算法参数。种群大小设置为30个个体,最大迭代次数为500次,以及30次独立运行以保证统计意义。评估了六种不同的混沌映射:Logistic、Tent、Sine、Hénon、Chebyshev和Circle。学习系数被设置为,并且适应参数a从2线性减少到0,从而促进探索和利用之间的过渡。
表2. MC-HEOA的实验配置。CEC2023基准测试提供了十个优化函数,涵盖了代表性的景观:单模(Sphere、Rosenbrock)、多模(Rastrigin、Ackley)及其移位变体(Shifted),消除了对称性偏差。表3根据类型、维度(D = 30)和搜索域对这些函数进行了描述。单模函数评估了对全局最优的收敛性而不会陷入局部最优。多模函数测试了对抗多个局部最优的鲁棒性。移位变体验证了在任意搜索空间中的定位能力。
4.2. 在CEC2023基准测试上的收敛性分析
分析了MC-HEOA在所有十个CEC2023函数(维度D = 30)上的收敛行为,以验证Tent混沌映射的选择。图3、图4、图5、图6和图7展示了每种测试混沌映射在500次迭代中最佳适应度的演变。图3显示了MC-HEOA在CEC2023单模函数上的收敛情况。图4显示了MC-HEOA在CEC2023多模函数上的收敛情况。图5显示了MC-HEOA在CEC2023移位单模函数上的收敛情况。图6显示了MC-HEOA在CEC2023移位多模函数上的收敛情况。图7显示了MC-HEOA在CEC2023移位Griewank函数上的收敛情况。单模函数(Sphere、Rosenbrock)展示了MC-HEOA实现高数值精度的能力。图3显示Hénon映射在这些函数上表现出色,误差在的范围内,展示了优越的局部利用能力。Rosenbrock曲线展示了典型的在狭窄山谷中导航时的平台期。Chebyshev映射显示出过早收敛,暴露了在存在广泛平坦区域时的局限性。多模函数(Rastrigin、Ackley)测试了逃避局部最小值的能力。图4显示Circle映射在Rastrigin上表现最佳,而所有映射都停留在Ackley平台期(≈20.03),揭示了在存在宽平坦区域时的局限性。移位变体验证了对最优位移的鲁棒性。图5、图6和图7显示收敛模式与其标准对应物在质量上相似,确认最优位移不是主要障碍。Tent、Sine和Logistic映射分别在Shifted Rosenbrock、Shifted Sphere和Shifted Griewank上占优,表明不同的混沌映射根据每个景观的具体特征而表现出色。
比较分析揭示了各映射之间的胜率分布。表4量化了每种映射在十个CEC2023函数上的优越性。Tent映射表现出最大的多功能性,赢得了四次胜利(40%),在多模和移位景观上特别有效。Hénon映射在单模函数上表现优异,精度极高。Logistic、Sine和Circle映射各赢得了一次胜利。Chebyshev映射赢得了一次胜利(10%),但在大多数测试函数上表现出过早收敛,限制了其在NAS应用中的整体多功能性和有效性。这些结果证明了选择Tent作为神经架构搜索的最优映射是合理的,因为它结合了多功能性和鲁棒性。
4.3. 统计分析
为了确保鲁棒性和可重复性,每个配置都独立执行了30次,使用不同的随机初始化。表5展示了在CEC2023基准测试上的性能完整统计总结,包括平均值、标准差、中位数和观察到的极端值。标准差的分析显示MC-HEOA在所有测试函数上的稳定性显著。单模函数的变异性特别低,Sphere和Rosenbrock的变异系数低于10%,证明无论初始化如何,都能可靠地收敛到全局最优。多模函数的变异性略高,但仍在可接受范围内,Ackley的接近零的标准差证实所有运行系统地收敛到相同的局部平台。中位数与平均值非常接近,表明性能分布对称,没有显著的异常值。最佳和最差性能之间的差距保持适度——通常在单模函数上不超过两倍——验证了所提方法对抗元启发式固有随机变异性的可靠性。图8直观地展示了这十个CEC2023函数上的分布,确认了Tent在多模景观上的优越性。
4.4. 计算效率
计算效率是MC-HEOA在高维优化问题中实际应用的关键因素。所有实验都在配备了Intel Core i7-10700K处理器(3.8 GHz)和16 GB RAM的标准工作站上进行,没有依赖于专门的计算资源。表6总结了观察到的运行时性能。该算法表现出显著的效率,每个基准函数的平均执行时间为1.52秒,使得所有十个CEC2023函数在15.2秒内完成优化。每次迭代的平均时间为3.04毫秒,相当于每秒大约9868次函数评估。并行执行六个混沌映射——每次迭代总共评估180个个体,经过500次迭代后总共生成90,000次函数评估。与单映射策略相比,多混沌方法引入的计算开销可以忽略不计,因为主要成本在于目标函数评估而不是混沌序列生成。这种计算效率验证了该方法在实时或评估密集型应用中的可行性。
4.5. 在FPGA约束下的CNN架构搜索应用
CEC2023基准测试的结果验证了MC-HEOA的有效性,其中Tent映射显示出显著的优越性(40%的胜利)。本节将MC-HEOA应用于一个实际的优化问题:在严格的FPGA约束下自动搜索CNN架构以进行医学图像分类。这个问题的特点是其离散搜索空间的基数极高(配置),其高度多模性,以及Zynq-7000的有限资源引入的严格约束。脑肿瘤MRI数据集包含3000张MRI图像,分布在四个诊断类别中(胶质瘤、脑膜瘤、垂体瘤和无肿瘤)。每个类别包含750张图像,确保了数据集的完美平衡。数据集使用分层70%/15%/15%的比例划分为训练集、验证集和测试集,分别得到2100张、450张和450张图像。为了确保训练流程和FPGA部署阶段之间的完全一致性,所有图像都作为单通道灰度输入(224 × 224 × 1)进行处理,这是本质上单色的MRI数据的自然表示方式。目标平台是Xilinx Zynq-7020 FPGA,其硬件约束在3.3.1节中有详细说明。搜索空间编码了28个连续维度,表示层数(2–10)、卷积类型(标准、深度可分离、跳跃)、通道数(32–512)、池化方式(无、最大值、平均值)和分类器参数。表7总结了采用的MC-HEOA配置。表8提供了NAS计算预算的详细分解。
表7. MC-HEOA用于CNN架构搜索的配置。表8. MC-HEOA NAS阶段的计算预算分解。为了澄清所报告的NAS时间的计算可行性,提供了详细的计时分解。整个NAS阶段大约包括1200次有效训练运行,每次训练平均11个周期,带有提前停止。训练集包含2100张图像,批量大小为32,每个周期包含mini-batch,因此总共有=871,200次mini-batch前向-后向传递。在Kaggle Tesla T4 GPU(65 TFLOPS FP32)上,每次mini-batch大约需要2毫秒来评估紧凑架构(< /><参数约束,验证了编码能够提供与fpga兼容的解决方案。在这些有效架构中,初步验证的准确率(快速20个周期的评估)范围从37.06%到52.94%,证实了优化景观的高度多模性。通过使用tent混沌映射进行种群初始化的固定随机种子(random_seed=42),以及在整个候选评估中一致应用的分层70/15/15比例,以及系统地保存最佳架构以供后续的全面训练和fpga验证,确保了nas阶段的可重复性。表9展示了四个最佳初始架构,而图9展示了完整的种群分布。
表9. mc-heoa初始种群中的最佳架构。图9. mc-heoa初始种群分布(n = 20)。发现的最佳架构——包含6个深度可分离卷积层,共有724,200个参数——使用优化后的协议进行训练。总计算预算大约为13,200个有效训练周期,涵盖了所有有效候选评估(在立即排除约40%无效的fpga候选者后)。考虑到提前停止将平均训练减少到每个有效候选者11个周期,实际的有效训练次数大约为1200次(20个个体×100代×0.6的有效比率),在kaggle tesla t4 gpu上大约用了30分钟完成。模型使用单通道灰度输入(224 × 224 × 1)进行训练和评估。这种选择是基于mri图像本质上单色的特性,其中三个rgb通道包含相同的信息。 15 15比例,以及系统地保存最佳架构以供后续的全面训练和fpga验证,确保了nas阶段的可重复性。表9展示了四个最佳初始架构,而图9展示了完整的种群分布。 表9. mc-heoa初始种群中的最佳架构。图9. mc-heoa初始种群分布(n=20)。发现的最佳架构——包含6个深度可分离卷积层,共有724,200个参数——使用优化后的协议进行训练。总计算预算大约为13,200个有效训练周期,涵盖了所有有效候选评估(在立即排除约40%无效的FPGA候选者后)。考虑到提前停止将平均训练减少到每个有效候选者11个周期,实际的有效训练次数大约为1200次(20个个体×100代×0.6的有效比率),在Kaggle tesla t4 gpu上大约用了30分钟完成。模型使用单通道灰度输入(224 × 224 ×>参数约束,验证了编码能够提供与fpga兼容的解决方案。在这些有效架构中,初步验证的准确率(快速20个周期的评估)范围从37.06%到52.94%,证实了优化景观的高度多模性。通过使用tent混沌映射进行种群初始化的固定随机种子(random_seed=42),以及在整个候选评估中一致应用的分层70/15/15比例,以及系统地保存最佳架构以供后续的全面训练和fpga验证,确保了nas阶段的可重复性。表9展示了四个最佳初始架构,而图9展示了完整的种群分布。
表9. mc-heoa初始种群中的最佳架构。图9. mc-heoa初始种群分布(n = 20)。发现的最佳架构——包含6个深度可分离卷积层,共有724,200个参数——使用优化后的协议进行训练。总计算预算大约为13,200个有效训练周期,涵盖了所有有效候选评估(在立即排除约40%无效的fpga候选者后)。考虑到提前停止将平均训练减少到每个有效候选者11个周期,实际的有效训练次数大约为1200次(20个个体×100代×0.6的有效比率),在kaggle tesla t4 gpu上大约用了30分钟完成。模型使用单通道灰度输入(224 × 224 × 1)进行训练和评估。这种选择是基于mri图像本质上单色的特性,其中三个rgb通道包含相同的信息。>单通道训练不仅确保了训练流程与FPGA部署阶段之间的完全一致性,还将AXI数据传输量减少了3倍(从每张图像约602KB减少到约200KB),从而提高了Zynq-7020平台上的系统吞吐量。表10展示了通过MC-HEOA发现的最佳CNN架构的结果。表11报告了测试集上的每类分类指标。为了评估报告结果的稳定性和可重复性,使用不同的随机种子重新训练了最佳架构三次,同时保持所有其他超参数不变。表12总结了三次运行的结果。表10. 通过MC-HEOA发现的最佳CNN架构的结果(灰度输入224 × 224 × 1)。表11. 测试集上的每类分类指标(450张图像,灰度输入224 × 224 × 1)。表12. 使用不同随机种子多次训练时MC-HEOA最佳架构的稳定性分析(灰度输入224 × 224 × 1)。三次独立运行中的标准偏差为±0.18%,表明报告结果具有高稳定性和可重复性,确认91.33%的测试准确率并非依赖于特定的随机初始化。这种低变异性进一步验证了MC-HEOA发现的架构在MRI脑肿瘤分类中的稳健性。图10展示了使用灰度输入(224 × 224 × 1)进行训练时准确率和损失的变化情况。曲线显示,在第22个周期之前逐渐收敛,此时验证准确率达到92.44%,测试准确率达到91.33%。8.17%的训练-测试差距证明了有效的正则化,而没有过度拟合。图11展示了最佳MC-HEOA架构在测试集(450张图像,灰度输入224 × 224 × 1)上的混淆矩阵。值得注意的是,文献中很少有工作涉及将NAS与先验FPGA硬件约束结合用于医学图像分类。最近的研究[40]展示了在相同的XC7Z020平台上部署CNN进行脑肿瘤分类(准确率为96.09%),但没有在架构设计阶段集成硬件约束,也没有使用NAS。大多数现有方法在搜索阶段优化分类准确率时没有明确考虑嵌入式硬件的限制,这是提出的MC-HEOA框架的关键区别。表13将MC-HEOA的结果置于脑肿瘤MRI分类的最新技术水平之中。利用ImageNet预训练架构的迁移学习方法[41,42,43]通过微调实现了92-99%的显著准确率,但代价是参数数量达到2500万到1.38亿个,这使得它们不适合在Zynq-7020上进行部署。传统的CNN[43,44]也展示了高性能(94-96%),但内存占用量非常大(2000万到1.38亿个参数)。紧凑型架构[45,46,47]在参数数量为800万到540万的情况下实现了80-99%的准确率;虽然它们的紧凑性原则上是兼容FPGA的,但在设计阶段并没有整合硬件约束。定制CNN[48]通过专家手动设计在参数数量约为300万的情况下达到了96.56%的准确率。MC-HEOA架构(测试准确率为91.33%,参数数量为724K)与文献中报道的紧凑型从头开始设计的架构(MobileNetV2 83%,SqueezeNet 80%)相比具有优势,同时实现了更小的参数占用量(比紧凑型架构少15-26%的参数),并通过NAS-FPGA协同设计实现了完全自动的硬件感知发现。需要注意的是,这些比较是跨研究的,因为基准模型没有在相同的条件下重新训练。表13. 与脑肿瘤MRI分类的最新技术的比较。这些结果支持了MC-HEOA在FPGA约束下进行NAS的有效性。所提出的编码方法在初始群体中有60%的概率产生兼容FPGA的架构。初始评估(52.94%)与优化后的测试结果(91.33%)之间的38.39点改进验证了所发现架构的显著泛化潜力。据我们所知,这项工作是首批将严格的FPGA资源约束直接整合到医学图像分类的NAS目标函数中的工作之一。通过自动发现,得到的架构与紧凑型架构相比具有竞争力。与以往工作的比较是跨研究的,因为在相同的条件下重新实现所有基准模型超出了本工作的范围。图12直观地展示了这种定位,突出了MC-HEOA实现的准确性-紧凑性权衡。左子图比较了验证准确率,而右子图比较了参数占用量,使得可以同时观察嵌入式部署的两个关键指标。图12. MC-HEOA与脑肿瘤MRI分类的最新方法的比较。右图中的红色虚线表示MC-HEOA发现架构的参数数量。注意:可重构CNN的工作[40]为了完整性被包含在表13中,但由于其参数数量未报告,因此未包括在此图中。4.6. 在Zynq-7000上的FPGA实现和验证 4.6.1. 用于嵌入式部署的CNN架构为了验证MC-HEOA发现的架构在嵌入式平台上的部署可行性,使用Vivado 2022.2在Xilinx Zynq-7000 FPGA(xc7z020clg484-1)上进行了实现。实现的架构和输入格式。MC-HEOA发现的最佳架构(测试准确率为91.33%,验证准确率为92.44%,参数数量为724,200)严格满足了参数数量<1M的NAS约束,并被验证为与Zynq-7020硬件资源(BRAM 1.26 MB,DSP 220,LUT 53,200)兼容。完整的架构包括6个深度可分离卷积层,通道数逐渐增加到384,以及一个紧凑的分类器,采用HLS实现。该模型使用单通道灰度输入(224 × 224 × 1)进行训练和部署,这是本质上单色MRI图像的自然表示。这种单通道格式将AXI数据传输量减少了3倍(从每张图像约602KB减少到约200KB),减轻了AXI总线负载,并提高了Zynq-7020平台上的系统吞吐量。CNN架构本身(层数、通道数、参数数)与MC-HEOA发现的架构相同,确保FPGA验证针对的是实际优化的架构。表14展示了实现的架构配置。表14. 在FPGA Zynq-7000上实现的最佳MC-HEOA架构(724,200参数)。4.6.2. HLS合成和结果使用Vitis HLS 2022.2和100 MHz(10 ns周期)的目标频率进行了HLS实现,通过AXI4接口与Zynq-7000处理系统进行通信。应用了内存优化策略(ARRAY_partition)通过将中间缓冲区分布在逻辑资源(LUTRAM/寄存器)上来减少BRAM块的利用率。保留了32位浮点数据类型以保持数值精度。表15展示了针对完整的MC-HEOA架构(724,200参数)和调整后的224 × 224 × 1输入获得的HLS合成结果。表15. 在FPGA Zynq-7000(xc7z020clg484-1)上实现MC-HEOA架构(724,200参数)的Vivado HLS合成结果。合成结果显示DSP使用率为16%(37/220),FF使用率为28%(30,555/106,400),LUT使用率为57%(30,530/53,200),证明完整的MC-HEOA发现架构(724,200参数)可以在Zynq-7000 FPGA上有效部署而不会资源溢出。BRAM使用率为80%(224/280块),确认了<1M参数的NAS约束使得硬件实现可行,同时为合成变化保留了20%的安全裕度。100 MHz的时序目标以估计的8.638 ns周期得到满足,确认了实时处理的可行性。推理延迟为374毫秒,224 × 1图像为通过流水线和数据流技术进一步优化提供了参考基准。这些结果实验性地验证了MC-HEOA方法的有效性,该方法发现无需进行主要的后搜索架构修改即可得到兼容FPGA的CNN架构。关于硬件上的分类准确性一致性,在整个推理过程中,部署的模型保持了32位浮点(float32)数据类型,与训练配置相同。在HLS合成过程中没有应用量化、近似或精度降低。因此,软件训练期间报告的分类准确率(91.33%的测试准确率)预计在硬件实现中将得到完全保留,因为浮点运算确保了软件和硬件推理之间的数值等效性。如果存在任何残差差异,仅可归因于硬件层面的浮点舍入,对于32位精度来说是可以忽略不计的。4.6.3. 集成到Zynq-7000系统中Vivado HLS生成的IP块使用Vivado IP Integrator(美国加州San Jose的Xilinx)集成到了Zynq-7000平台上的完整系统设计中。图13展示了系统块设计,包括Zynq-7000处理系统(PS)、定制CNN IP(brain_tumor_cnn_0)、AXI互连以及确保ARM处理器和FPGA硬件加速器之间双向通信的中断管理模块。图13. Vivado块设计—通过AXI互连在Zynq-7000上的CNN IP集成(处理系统+CNN加速器)。处理系统(双核ARM Cortex-A9,667 MHz)处理系统任务、图像预处理和用户界面。可编程逻辑承载高并行推理的硬件CNN加速器。PS-PL通信通过AXI Interconnect(ps7_0_axi_periph)使用AXI4协议处理:AXI-Lite接口(s_axi_control)提供对IP的控制寄存器访问,而三个AXI Master接口(m_axi_gmem0-2)允许直接访问共享的512 MB DDR3内存,用于输入图像、预训练的网络权重和推理结果。硬件中断通过IRQ_F2P端口在推理完成后通知PS,由xlconcat_0块聚合,实现了事件驱动的管理并减少了系统响应延迟。rst_ps7_0_50M模块(处理器系统复位)以100 MHz的FCLK_CLK0同步整个系统。这种PS-PL架构遵循了Zynq-7000 SoC的分布式处理范式:PS处理顺序任务(调度、I/O、用户界面),而PL通过硬件并行性加速CNN推理。这种方法为嵌入式医学诊断提供了实用的解决方案,具有确定的延迟和降低的能量消耗。5. 讨论本节分析所获得的实验结果,评估了所提出方法在最新技术背景下的有效性,指出了研究的局限性,并讨论了嵌入式医学诊断辅助系统部署的实际意义。5.1. 结果的解释和方法的验证CEC2023基准测试结果验证了选择Tent混沌图作为MC-HEOA最佳生成器的合理性。在十个测试功能中,Tent获胜率为40%,由于其特殊的遍历属性:在区间内的均匀分布、没有吸引子以及低时间自相关性,Tent显著优于其他五个候选图。这些特性确保了对搜索空间的均匀探索,这对于在多模态景观中逃离局部最优解至关重要。这一客观的实证验证严格证明了将Tent集成到MC-HEOA中进行NAS应用的合理性,而不是依赖于任意选择。虽然CEC2023基准测试并不直接保证NAS性能,但它为混沌图的选择提供了客观的实证基础,避免了任意选择。三个结构属性证明了将基准测试结论转移到NAS问题的合理性。首先,两个问题都具有高多模态复杂性:CEC2023的多模态函数(Rastrigin、Ackley、Griewank)有许多局部最优解,需要均匀探索,类似于NAS搜索空间中的配置,由于离散的架构选择,适应度景观非常不规则。Tent图在多模态函数上取得了40%的获胜率,正是最能满足这种均匀探索要求的图。其次,FPGA参数约束(<参数)在nas搜索空间中创建了惩罚区域,引入了类似于cec2023的偏移变体的不连续性,其中最优解从原点位移。tent图在偏移rosenbrock和偏移rastrigin上表现出特别的有效性,证实了其对类似硬件约束引起的搜索空间变形的鲁棒性。第三,维度是可比的:cec2023函数在维度上进行评估,而nas搜索空间编码了维度,确保了在基准测试中观察到的tent图的遍历属性在nas上下文中仍然有效。nas应用证明了mc-heoa在导航庞大的组合空间(配置)时的有效性。>参数)在nas搜索空间中创建了惩罚区域,引入了类似于cec2023的偏移变体的不连续性,其中最优解从原点位移。tent图在偏移rosenbrock和偏移rastrigin上表现出特别的有效性,证实了其对类似硬件约束引起的搜索空间变形的鲁棒性。第三,维度是可比的:cec2023函数在维度上进行评估,而nas搜索空间编码了维度,确保了在基准测试中观察到的tent图的遍历属性在nas上下文中仍然有效。nas应用证明了mc-heoa在导航庞大的组合空间(配置)时的有效性。>所发现的最优架构在724,200个参数的情况下实现了91.33%的测试准确率和92.44%的验证准确率,严格满足了FPGA参数数量小于1百万的限制。这一性能验证了所提出的框架:初始种群中有60%的解决方案符合参数约束,表明编码方式能够高效地找到与FPGA兼容的解决方案。从评估结果(52.94%)到优化后的结果(91.33%),准确率提高了38.39个百分点,这进一步证明了该架构具有显著的泛化潜力。架构分析自动揭示了相关的选择:深度可分离卷积(参数效率)的优先使用,以及6层结构(容量大于5.2)。
**4.5节的详细内容显示,MC-HEOA架构(91.33%,724K参数)在性能上与文献中报道的紧凑型从头开始设计的架构(如MobileNetV2 83%、SqueezeNet 80%)相当,同时严格满足了Zynq-7020 FPGA的约束。**需要注意的是,这种比较属于跨研究性质的,因为基线模型并非在相同的实验条件下进行评估。据我们所知,很少有研究结合NAS(神经架构搜索)和预先设定的FPGA硬件约束来处理医学图像分类问题。本研究通过全自动的NAS-FPGA协同设计,实现了与现有先进架构相媲美的性能,为此领域做出了贡献。
然而,也必须承认一些限制。首先,脑肿瘤MRI数据集(3000张图像,4个类别)在规模和多样性上仍然相对有限。此外,数据集的分割是在2D图像层面进行的,使用的是数据集提供者的标准训练/测试划分方式[49]。尽管这种分割策略在文献中被广泛采用[5,6,9,10],但由于数据集没有患者标识信息,因此没有进行患者级别或研究级别的分离。这是大多数使用该数据集的研究共有的限制,未来的工作应该通过使用带有明确患者级别注释的数据集(如BraTS或TCIA)来解决这一问题。将模型泛化到更大的数据集(BraTS、TCIA)需要额外的实验验证。其次,尽管NAS搜索空间非常广泛,但它只探索了可能的架构选择的一部分(没有残差连接、注意力机制或密集连接)。扩展这个空间可能会以增加计算复杂度为代价,从而发现性能更高的架构。第三,91.33%的性能虽然对于一个在严格FPGA约束下运行的超紧凑架构(724K参数)来说是具有竞争力的,但仍低于最好的迁移学习方法(>95%),后者受益于ImageNet预训练和更大的参数预算。这一差距反映了严格FPGA约束带来的准确性与紧凑性之间的权衡,同时也表明NAS-FPGA协同设计能够在不依赖ImageNet预训练的情况下实现显著的性能。实际临床应用可能需要更高的准确率,这意味着需要使用资源更强的FPGA设备(如Zynq UltraScale+,具有5-10倍的计算能力)。第四,多目标优化(准确率与参数数量)可以通过添加额外的目标(如预测推理延迟或理论能耗)来进一步丰富。
关于2D模型与3D模型的选择,需要明确的是,所提出的方法基于2D MRI切片进行操作,这是在脑肿瘤分类文献中的标准做法,适用于本研究中使用的2D基准数据集[5,6,9,10,49]。脑肿瘤MRI数据集以单独的2D切片形式提供,而不是3D体积数据,因此2D CNN处理是自然且合适的选择,这也与表13中引用的所有比较研究一致。从硬件角度来看,将这种方法扩展到3D或2.5D CNN架构将在目标Zynq-7020平台上遇到关键瓶颈。典型的3D MRI体积(例如,155层、每层240 × 240个体素)需要处理维度显著更大的特征图,使得BRAM(比特随机存取存储器)的需求增加一到两个数量级,超过了Zynq-7020可用的280个BRAM块(1.26 MB)。DSP的使用率也会从当前的16%(37/220)增加到超过220个DSP48E块的水平,使得在该设备类别上实现实时3D推理变得不切实际。LUT(查找表)的使用率目前为57%(30,530/53,200),对于3D卷积核来说也接近饱和状态。这些硬件限制从根本上推动了本研究中采用的基于2D切片的方法。
将方法扩展到3D或2.5D体积模型是未来工作的一个重要方向,这取决于目标是更高级别的FPGA设备(如Zynq UltraScale+,具有5-10倍的计算能力)或者利用模型压缩技术(混合精度量化、基于补丁的3D推理、知识蒸馏)来减少3D架构的内存占用,使其与中等性能的FPGA设备兼容。
**5.3 实际应用与前景**
研究结果表明,在嵌入式医疗环境中,MC-HEOA用于NAS-FPGA协同设计是可行的。与基于GPU或云的解决方案(成本高、功耗大、依赖网络)不同,Zynq-7000 FPGA解决方案的功耗仅为几瓦,硬件成本约为100-200美元,并且具有与网络连接无关的确定性延迟。这些特性对于资源受限的环境(发展中国家、农村地区、便携式即时检测应用)尤为重要。MC-HEOA方法具有通用性,可以应用于其他医学图像分类任务(胸部X光、乳腺X光、皮肤病学)和成像模式(CT、PET、超声),形成了一个可重用的框架,主要需要根据具体问题调整搜索空间。
未来的工作方向包括:扩展搜索空间以涵盖更复杂的架构(注意力机制、残差连接),从而在保持FPGA兼容性的同时提高准确率;将压缩技术(量化、剪切、知识蒸馏)应用于发现的架构,进一步减少内存和计算资源占用;针对更高级别的FPGA设备(如Zynq UltraScale+、Alveo)来实现更复杂的架构并提高准确率;在多中心、多模态的医学数据集上进行评估,以加强泛化能力的验证;以及在实际患者群体中进行前瞻性临床验证,这将涉及放射科医生和神经科医生的参与。
**6. 结论**
本文介绍了MC-HEOA,这是一个用于在FPGA约束下自动发现CNN架构的集成框架,专为脑肿瘤MRI分类而设计。通过CEC2023基准测试对六种混沌映射进行的比较评估表明,Tent映射是最优的生成器(胜率为40%),证明了其在HEOA(混合进化算法)中的集成效果,能够有效地探索大规模的组合空间。主要创新点在于从架构搜索阶段开始就明确纳入了FPGA约束(参数数量小于1百万),确保通过NAS-FPGA协同设计得到可即时部署的解决方案。所发现的最优架构在单通道灰度输入(224 × 224 × 1)下进行了训练和评估——这种输入方式对于本质上是单色的MRI数据来说是自然且合适的——实现了91.33%的测试准确率和92.44%的验证准确率,参数数量为724,200个,准确率相比初始评估结果提高了38.39个百分点。在保留样本测试集上的类别评估确认了所有四种肿瘤类型的性能一致性(宏观F1分数:0.9128)。在Zynq-7020 FPGA上的验证证实了嵌入式部署的技术可行性,资源利用率(DSP 16%、LUT 57%、FF 28%)和374毫秒的推理延迟都是可接受的。未来的工作将包括扩展到不同的医学数据集、丰富搜索空间以包含更复杂的架构、应用压缩技术、在更高级别的FPGA设备上进行部署、扩展到3D或2.5D体积模型以利用切片间的连续性和体积信息,以及在实际医疗环境中进行前瞻性临床验证。