《PLOS One》:Bayesian Uncertainty-aware Deep Learning with noisy labels: Tackling annotation ambiguity in EEG seizure detection
编辑推荐:
深度学习正推动用于自动癫痫发作检测及发作起始区(Seizure Onset Zone, SOZ)定位的脑电图(Electroencephalogram, EEG)处理技术发展,但其性能高度依赖高质量标注训练数据。然而头皮EEG易受高噪声干扰,导致发作时间及特征
深度学习正推动用于自动癫痫发作检测及发作起始区(Seizure Onset Zone, SOZ)定位的脑电图(Electroencephalogram, EEG)处理技术发展,但其性能高度依赖高质量标注训练数据。然而头皮EEG易受高噪声干扰,导致发作时间及特征的人工标注不精确。此种"标签噪声(Label Noise)"对模型训练与泛化构成重大挑战。本文提出贝叶斯不确定性感知深度学习(Bayesian UncertaiNty-aware Deep Learning, BUNDL)这一新型算法,使深度学习模型获知标签模糊性从而增强癫痫发作检测系统鲁棒性。通过将领域知识融入底层贝叶斯框架,研究人员推导出一种基于KL散度(Kullback-Leibler Divergence, KL-divergence)的损失函数(Loss Function),利用不确定性从头皮EEG中更好地学习发作特征。因此BUNDL提供了一种简便且模型无关(Model-agnostic)的方法,可在含噪训练标签下训练深度神经网络且不向现有架构增加任何参数。此外研究人员探讨了改进检测系统对自动发作起始区定位任务的影响。研究人员利用综合模拟EEG数据集及由Temple University Hospital(TUH)和Boston Children's Hospital(CHB-MIT)采集的两个公开数据集验证BUNDL。结果表明在各种标签噪声条件下BUNDL能一致识别含噪标签并提升三种基模型鲁棒性。研究人员还进行了不确定性量化消融实验、评估了对Siena EEG数据集的跨中心泛化性并量化了各方法计算成本。此外研究人员证明BUNDL可提升发作起始区定位准确率。最终BUNDL作为一种可靠方法可无缝集成临床现有深度模型,实现可信赖癫痫评估模型训练。
论文解读:《Bayesian Uncertainty-aware Deep Learning with noisy labels: Tackling annotation ambiguity in EEG seizure detection》发表于《PLOS One》
一、研究背景与意义
癫痫发作自动检测与发作起始区(Seizure Onset Zone, SOZ)定位高度依赖头皮脑电图(Scalp Electroencephalogram, scalp EEG)的人工标注,但EEG信号噪声大、医师间判读一致性低(约60%),导致训练用的"金标准(Ground Truth)"标签存在模糊与错误即标签噪声(Label Noise / Noisy Labels)。传统监督学习采用交叉熵损失(Cross-Entropy Loss, CEL)默认标签完全正确,使模型学到误导性特征、泛化性差。现有抗噪方法——硬/软剪枝(Sample Pruning)、噪声适配层(Noise Adaptation Layer, NAL)、自调整学习(Self-Adaptive Learning, SelfAdapt)等——或需删除样本、增加大量参数与多阶段训练,或难适配EEG复杂数据。为此研究人员开展本研究,提出模型无关、无新增参数的贝叶斯不确定性感知深度学习(Bayesian UncertaiNty-aware Deep Learning, BUNDL)框架处理EEG标注模糊性,并在模拟及多真实数据集验证效果与跨中心泛化能力。
二、主要关键技术方法
研究人员构建SEREEGA模拟EEG含五类标签噪声(对称/过分割10%与30%/欠分割10%与30%),使用TUH(Temple University EEG Corpus,平均参考,19通道)、CHB-MIT(波士顿儿童医院,双极参考,18通道)、Siena(平均参考,19通道)三个公开真实数据集。BUNDL先以CEL预训练深度网络(选取标签明确窗口),再以Monte Carlo Dropout(MCD, 蒙特卡洛随机失活)做N=10次前向传播计算预测分布熵作为标签不可靠度(Label Unreliability) α?,据此构建含噪标签→干净标签的转移概率,推导干净标签后验并最小化其与网络预测间的KL散度(KL Divergence)获得新损失函数进行微调;可注入先验知识(如固定非发作类α为小值应对临床常见过分割)。基模型选用DeepSOZ(Transformer+LSTM双任务)、TGCN(时空图卷积)、CNN-BiLSTM三架构;对照方法含CEL、SelfAdapt、NAL及HViT-DUL(建模数据不确定性的混合Vision Transformer)。采用嵌套10折交叉验证重复5次,评估窗级AUROC、AUPRC及发作级灵敏度(Sensitivity)、假阳性率(False Positive Rate, FPR, 次/小时)、潜伏期(Latency);SOZ定位以通道级准确率评估。
三、研究结果
模拟实验(Simulated experiments)
- •
收敛分析(Convergence analysis):所有方法均收敛,BUNDL自预训练初始化时收敛最快,SelfAdapt需存历史预测增加内存,NAL因两阶段微调最慢。
- •
性能分析(Performance analysis):在对称噪声、过分割(10%/30%)及欠分割(10%/30%)下,BUNDL窗级AUROC与AUPRC一致最优;过分割时BUNDL显著降低FPR且灵敏度与潜伏期相当,欠分割时维持灵敏度优于基线。NAL次优但FPR改善不稳定,SelfAdapt以降低整体置信度换取略低FPR但灵敏度下降,CEL最差。
- •
消融实验(Ablation experiments):去除不确定性量化退化为CEL性能明显下降。换用Ensemble(集成)、Test-Time Augmentation(TTA, 测试时增强)、基于损失的常数法均不如MCD熵——Ensemble内存大且FPR高,TTA灵敏度低,损失与常数法无法区分正确与错误标签的α?值。证实MCD为基础最佳不确定性量化方式。
真实世界数据(Real world data)
- •
TUH与CHB-MIT数据集:BUNDL在DeepSOZ(TUH)与CNN(CHB-MIT)达最低FPR(分别为2.3次/小时、0.8次/小时),显著低于NAL与CEL;潜伏期也显著缩短;AUROC较CEL无显著差异但有个别架构显著提升。HViT-DUL灵敏度高但CHB-MIT上FPR较高且潜伏期长;NAL与CEL以高FPR换取高灵敏度。
- •
泛化性测试(Generalizability test):TUH训练模型直测未见过Siena数据集,BUNDL仍获最低FPR;灵敏度有所下降(可能源于Siena标签过分割及跨域差异),SelfAdapt近似,NAL与HViT-DUL FPR过高(分别>4、≈30.2次/小时),说明BUNDL抗标签噪声跨中心迁移更稳健。
- •
BUNDL中不确定性估计与标签转移(Uncertainty estimation and label transition in BUNDL):计算显示发作前期(Preictal)与发作期(Ictal) MCD熵显著高于发作间期(Interictal),吻合模拟噪声设于边界及临床模糊区。标签转移矩阵随噪声类型变化符合模拟设定(过分割时P(?=1|y?=1)降,欠分割时升),TUH与CHB-MIT趋势符合过分割假设(TUH约62%标注对应真发作,CHB-MIT约75%)。
- •
TUH中SOZ定位(SOZ localization in TUH):DeepSOZ用BUNDL训练检测分支后再训定位分支,发作级定位准确率0.633±0.149(CEL为0.601±0.176),患者级0.620±0.111(CEL为0.591±0.144),表明降低检测假阳性有助减少错误SOZ推断。
四、讨论与结论翻译
讨论指出BUNDL核心优势为模型无关、无新增参数,仅靠MCD(训练期多次前向,测试期无额外开销)估计不确定性以自适应调损失,比NAL(参数量随类数平方增长、三阶段训练)与SelfAdapt(需存历史输出)更高效。HViT-DUL建模数据不确定性而非标签不确定性,跨域FPR恶化说明标签噪声需显式处理。临床角度BUNDL在低FPR同时保灵敏度,并改善下游SOZ定位。局限含需预训练获取校准不确定性、MCD多次前向计算成本(可用批处理并行缓解)、跨域灵敏度降待未来结合测试时自适应(Test-Time Adaptation)改善;可扩展至多阅片者标注融合并推广至其他医学影像领域。
结论:研究人员提出BUNDL——一种贝叶斯策略用以修正深度网络训练时的含噪标签。通过引入Monte Carlo Dropout及推导新损失函数估计标签不确定性并调整学习过程,BUNDL降低模型从错误特征学习的风险。多数据集实验一致表明BUNDL改善癫痫发作检测假阳性率与潜伏期等关键指标。BUNDL无需额外参数开销,是具资源效率之方案,其模型无关框架为跨域含噪标签处理提供鲁棒解,提升关键医疗应用中深度学习可靠性。