基于荧光显微镜和神经网络活/死细胞分类的体外纳米细胞毒性评估

《Advanced Intelligent Systems》：Assessment of In?Vitro Nano-Cytotoxicity Through Fluorescence Microscopy via Neural Network-Based Live/Dead Cell Classification

　　

随着纳米材料在生物医学应用中的兴起，准确且非侵入性的细胞毒性表征需求日益明确。当前评估纳米材料细胞毒性的方法多为间接的、基于微孔板的荧光检测，或复杂的显微技术。本文中，研究人员提出FluoAI，一种基于两阶段神经网络的活/死细胞分类器，无需外部标记即可量化细胞毒性。该工作流程采用两个卷积神经网络（Convolutional Neural Network, CNN）。首先，Mask R-CNN（Mask Region-based Convolutional Neural Network）对灰度荧光显微图像进行实例分割，分离单个细胞。在第二阶段，由DenseNet-121（Densely Connected Convolutional Networks-121）分类器分析分割后的细胞并赋予活/死标签，达到高达92.0%的性能准确率。除活/死细胞分类外，FluoAI还能执行专家级分析，包括校正总细胞荧光（Corrected Total Cell Fluorescence, CTCF）、平均荧光和细胞面积，与人类专家测量结果相比无显著差异或差异极小。由于该流程完全自动化，FluoAI可在保持相似准确率的同时，比人类专家显著更快地产生定量荧光评估。该方法提供了一种基于荧光显微镜的实用工作流程，用于细胞毒性评估，无需额外的活/死染色步骤，并实现了常规荧光显微数据的自动化体外分析。随着数据集的扩展，FluoAI可能支持更可靠、更高通量的纳米细胞毒性分析以及荧光纳米材料的自动化评估，从而加速更安全纳米医学的发展。

**论文解读：基于深度学习的荧光显微图像活/死细胞分类用于纳米细胞毒性评估**

**研究背景**
纳米材料在癌症和基因治疗等领域的药物递送应用中迅速增长，但其细胞毒性评估成为关键问题。传统细胞活力检测方法如MTT（3-(4,5-二甲基噻唑-2-基)-2,5-二苯基四氮唑溴盐）和XTT（2,3-双(2-甲氧基-4-硝基-5-磺基苯基)-2H-四氮唑-5-甲酰苯胺）基于比色法，但存在干扰：纳米材料可能直接还原四唑盐、改变细胞形态或干扰吸收光谱，导致假阳性或假阴性。台盼蓝排除法依赖膜完整性，但纳米材料（如氧化石墨烯GO、碳纳米管CNTs、二氧化钛TiO₂、氧化锌ZnO）可破坏或穿透膜，造成误差。荧光染色法（如碘化丙啶PI、溴化乙锭EB）虽能区分死细胞，但染料可能因应激结合双链RNA（dsRNA）而非DNA，且纳米材料可能增强膜通透性，影响结果。此外，染料选择需避免与纳米材料荧光重叠，实验复杂。因此，迫切需要一种直接、无标记、非侵入性且快速的显微方法，以量化纳米材料细胞毒性。

**研究目的与意义**
本研究旨在开发并验证一个基于人工智能（Artificial Intelligence, AI）的工作流程FluoAI，通过灰度荧光显微图像自动进行单个细胞区域提取、活/死分类及荧光定量，无需额外标记。该工作流程结合实例分割和卷积神经网络（CNN）分类，为纳米细胞毒性评估提供高通量、自动化解决方案，减少人为误差，加速纳米医学安全性评估。论文发表在《Advanced Intelligent Systems》。

**主要技术方法**
FluoAI采用两阶段深度学习架构。第一阶段使用Mask R-CNN（ResNet-101骨干网络，通过Detectron2实现，掩码平均精度48.901）对灰度荧光图像进行实例分割，生成单个细胞区域（Region of Interest, ROI）。第二阶段使用DenseNet-121分类器（基于ImageNet预训练权重）对分割后的细胞进行活/死分类。数据集来源于实验室培养的HeLa细胞（宫颈癌细胞），分别用荧光纳米材料GQDs（石墨烯量子点，自下而上合成）和荧光素处理，经固定后采集灰度荧光图像（60×水浸物镜，480±20 nm激发，535±20 nm发射）。共标注5648个活细胞和3462个死细胞，采用COCO格式标注，并按85%训练、15%验证划分。分类器训练采用AdamW优化器、余弦退火学习率调度，并应用随机旋转、翻转、裁剪等数据增强。最终选择DenseNet-121基于其平衡的活/死细胞召回率和F1分数。

**研究结果**

**2.1 方法概述**
FluoAI流程包括：输入灰度荧光图像（TIFF或PNG格式）→ Mask R-CNN实例分割生成单个细胞ROI和裁剪图像 → DenseNet-121分类器为每个细胞分配活/死标签 → 输出活/死细胞计数、细胞面积、平均荧光和校正总细胞荧光（CTCF），并排除死细胞以量化活细胞摄取。

**2.2 CNN基准测试显示FluoAI活/死分类性能稳健**
对六种常见CNN架构（ConvNeXt-Tiny, DenseNet-121, EfficientNet-B0, MobileNetV3-Small, RegNetY-400MF, ResNet-50）进行基准测试，使用完整数据集（5648活+3462死）训练，并通过早停法防止过拟合。所有模型在精确率、召回率和F1分数上表现接近（0.88–0.92），其中DenseNet-121达到最平衡的活/死细胞召回率（活91.1%，死88.7%）和F1分数（活92.0%，死87.3%）。方向性置信度分析显示，正确预测的置信度显著高于错误预测（P<0.0001）。DenseNet-121因最均衡的性能被选为第二阶段分类器。

**2.3 FluoAI流程实现人类水平图像分析**
在GQDs和荧光素处理的HeLa细胞上，比较FluoAI与人类专家在细胞面积、CTCF和平均荧光上的差异。对于GQDs处理细胞，活细胞面积无显著差异（P>0.05）；对于荧光素处理细胞，活细胞面积有轻微显著差异（P=0.0069），但死细胞面积无差异。CTCF和平均荧光（排除死细胞后）在两种处理下均无显著差异（P>0.05）。方向性置信度热图显示，高置信度对应正确分类，低置信度对应错误分类，与基准测试一致。证明FluoAI在纳米材料和染料处理细胞上均达到人类专家水平。

**讨论与结论**
FluoAI通过两阶段CNN实现灰度荧光图像的自动化活/死细胞分类和荧光定量，无需额外标记或染色，避免了传统方法中纳米材料与染料的相互作用。在测试条件下，其性能与人类专家相当，置信度超过90%。但存在局限性：在细胞拥挤或低信号/模糊图像中性能下降；目前仅适用于HeLa细胞系，泛化性未验证；仅限荧光显微图像，不适用于明场。未来可通过扩大数据集（已显示性能提升约50%）、区分不同程序性细胞死亡形态、引入时间分辨数据来改进。研究结论：FluoAI提供了一种实用的、可访问的荧光显微纳米材料细胞毒性评估工作流程，结合自动化ROI生成、活/死分类和荧光定量，无需额外染色步骤，有望加速学术界和工业界标准荧光细胞分析的高通量处理。