编辑推荐:
为解决近红外二区(NIR-II)荧光血管成像数据集有限的问题,中国科学院上海药物研究所的研究人员开展基于生成对抗网络(GAN)的 NIR-II 荧光血管图像合成研究,结果显示该方法在视觉质量和定量指标上优于 8 种基线技术,对推动 NIR-II 成像应用意义重大。
研究背景
近红外二区(NIR-II)荧光血管成像技术,就像是医学领域里的 “透视眼”,能让医生们无创地观察血管系统的微观结构,助力探索人体内部的生理功能,在疾病诊断和治疗方案制定上发挥着关键作用。比如,在脑部血管研究中,它能帮助科研人员看清脑血管的细微结构,为脑部疾病的诊断和治疗提供重要依据。
然而,这项技术在实际应用中却面临着重重困境。收集 NIR-II 医学成像数据集需要专业的设备和技术人员,而且获取和标注医学图像的过程既耗时又费力。这就好比建造一座高楼,却发现材料稀缺且难以获取,严重阻碍了 NIR-II 荧光血管成像技术在心血管疾病诊断和研究中的应用进展。
传统的数据增强技术在医学领域虽被广泛应用,但它就像在旧房子上修修补补,只是对现有样本进行简单变换,无法全面捕捉成像数据的分布情况。而基于深度学习的数据合成方法则崭露头角,展现出强大的潜力,它能够探索复杂的非线性关系,生成多样化、逼真的合成数据。受视网膜图像与血管图像结构相似性的启发,科研人员期望能借鉴视网膜图像生成的原理和算法,来解决 NIR-II 荧光血管图像合成的难题。
在这样的背景下,中国科学院上海药物研究所的研究人员勇挑重担,开展了一项旨在利用生成对抗网络(GAN)合成 NIR-II 荧光血管图像的研究。他们的研究成果有望为该领域带来新的突破,相关论文发表在Scientific Reports上。
技术方法
研究人员采用了基于 CycleGAN 的网络架构,该架构包含两个生成器、两个判别器和一个特征网络。生成器负责图像的转换,判别器判断图像的真伪,特征网络则用于提取图像的丰富信息。为了使生成的图像更符合要求,研究人员还引入了多种损失函数,如对抗损失(adversarial loss)、循环一致性损失(cycle consistency loss)、身份损失(identity loss)、内容损失(content loss)和风格损失(style loss),通过调整这些损失函数的权重,实现对模型性能的优化。在实验中,研究人员使用了来自 DRIVE、STARE 和 CHASE_DB1 视网膜图像数据集的分割掩码作为源域数据,NIR-II 荧光成像获取的小鼠血管图像作为目标域数据,并对数据进行了一系列预处理操作,将其划分为训练集和测试集,用于训练和评估模型。
研究结果
- 主观视觉效果:研究人员将自己提出的方法与 DCGAN、SAGAN 等 8 种代表性方法进行对比。结果显示,DCGAN 生成的图像较为模糊,血管边缘不清晰且有噪声;SAGAN 虽有改进,但部分区域不自然且对比度不足;WGAN 细节有所保留但仍有模糊之处;WGAN-GP 在清晰度和对比度上表现较好;Eigengan 生成的图像过于平滑,缺乏细节;CycleGAN 能较好地再现血管结构,但对比度有待提高;U-GAT-IT 生成的图像细节和对比度出色,但与真实图像仍有差距;HiSD 生成的图像过于平滑,血管结构亮度较低。而该研究提出的方法生成的图像在细节和对比度上与真实的 NIR-II 图像非常相似,血管结构清晰,形状自然,具有更高的真实感和视觉质量。
- 客观评价:研究人员使用 Fréchet Inception Distance(FID)和 Kernel Inception Distance(KID)这两个指标对模型性能进行定量评估。FID 用于衡量生成图像与真实图像在特征空间中的分布距离,KID 则利用最大平均差异(MMD)来评估两者分布的相似性,较低的 FID 和 KID 分数表明生成图像与真实图像更相似。实验结果表明,该研究提出的方法在 FID 和 KID 指标上均取得最低分,分别为 55.75322 和 1.6025±0.1249,这与主观视觉效果的分析结果一致,进一步证明了该方法生成的图像与真实图像高度相似。
研究结论与意义
这项研究成功利用基于 GAN 的方法,将血管掩码转换为逼真的 NIR-II 荧光血管图像,有效解决了 NIR-II 医学成像数据集有限的问题,为后续研究提供了丰富的高质量数据,有助于推动深度学习技术在 NIR-II 荧光成像领域的应用。同时,研究中引入的注意力机制增强了生成图像的质量和细节,在保留内容结构的同时有效整合了风格模式。然而,该研究也存在一定的局限性,如数据集规模可能影响模型的训练和泛化能力,模型对计算资源要求较高,算法仅在小鼠 NIR-II 血管图像上进行了验证。未来,研究人员计划扩大数据集来源,探索模型优化技术,以提高模型的泛化能力和可扩展性,降低对计算资源的依赖,推动该技术在临床环境中的应用。总体而言,这项研究为 NIR-II 血管成像技术的发展提供了新的思路和方法,具有重要的理论和实践意义。