《Ad Hoc Networks》:EcoFair: Energy-efficient inference routing for edge AI under data degradation
编辑推荐:
垂直划分框架(Vertically Partitioned Framework)使原始多模态患者数据保留在边缘端。风险感知路由(Risk-Aware Routing)相较于全重推理(Always-Heavy Inference)可减少最高68%的图像推理能耗。
垂直划分框架(Vertically Partitioned Framework)使原始多模态患者数据保留在边缘端。风险感知路由(Risk-Aware Routing)相较于全重推理(Always-Heavy Inference)可减少最高68%的图像推理能耗。选择性升级(Selective Escalation)在可变的皮肤科数据条件下支持推理可靠性。该研究评估了无需重新训练模型的配置相关最差组敏感性(Configuration-Dependent Worst-Group Sensitivity)。
EcoFair框架解读:数据退化下边缘AI的节能推理路由与组级可靠性评估
随着分布式数字基础设施的普及,敏感信息在自组织网络和边缘网络中的处理方式发生深刻变革。在医疗等受监管领域,数据使用受HIPAA与GDPR等框架约束,原始临床数据无法自由汇聚至中央存储库。尤其对于图像类医学应用,移动设备或IoT设备采集的高分辨率图像可能包含可识别的生物特征信息,但又对诊断至关重要。在本研究设定中,皮肤科图像客户端处理皮肤损伤图像,表格客户端存储患者元数据,融合服务器接收中间表示以执行多模态推理。通过交换学习嵌入而非原始像素或元数据,此类架构减少原始数据共享,同时保留分布式推理能力。垂直划分学习和推理架构为分布式节点持有同一患者人群互补信息时的协作提供了实用机制,各节点可保留原始输入,同时贡献中间表示用于下游推理。然而,边缘部署还面临光照变化、电池容量有限、连接间歇性和计算资源异构等额外约束。现有技术如量化、剪枝和知识蒸馏虽能降低计算量,但可能削弱表示质量和下游推理可靠性。在安全关键的医学基准中,效率不能仅通过平均准确率或节能来衡量,还需关注自适应推理是否改变临床上相关亚组中的恶性病例行为。
针对上述问题,研究人员提出了EcoFair,一种面向数据退化的推理路由框架,旨在边缘约束下实现节能且可靠的医学推理。EcoFair并非端到端垂直划分训练流程,而是研究一种模拟的垂直划分推理架构:原始图像和表格数据保留本地,仅传输模态特定嵌入至服务器;动态路由机制决定轻量推理是否足够,或在多模态融合前激活更重的图像编码器。为超越单一固定骨干网络的选择,研究使用多种预训练轻量和重量级图像编码器,包括MobileNetV2、MobileNetV3Small、ResNet50、DenseNet201和EfficientNetB6。研究目标是考察在退化或模糊输入下的资源感知路由,并量化跨数据集和骨干配置的恶性病例组级行为。研究聚焦传感器退化恢复能力,定义为退化输入检测和自适应重量级升级,该范围区别于更广泛的网络弹性。评估在模拟垂直划分推理环境中进行,并测量编码器级能耗;原始数据共享通过垂直划分减少,而差分隐私、加密、安全聚合、拜占庭鲁棒性、对抗攻击容忍等正式保障不在当前范围内。该研究回答三个问题:如何在不传输原始生物特征数据至中央服务器的情况下维持边缘端的资源感知推理可靠性;动态路由如何结合元数据派生的风险以支持在数据退化下轻量预测不确定或模糊时的升级;事后路由在多大程度上影响跨数据集和骨干配置的亚组恶性病例性能而不修改全局训练目标。
研究人员在三个公开皮肤科基准上评估EcoFair:HAM10000、PAD-UFES-20和BCN20000。这些数据集共同反映了采集条件、传感器退化程度、人口统计组成和标签不平衡的临床异质性。HAM10000作为标准临床条件下图像的受控基线;BCN20000作为自然采集变异和分布偏移的代理;PAD-UFES-20提供智能手机直接拍摄的临床图像,作为异构边缘图像采集的代理。研究未使用单一固定骨干,而是先对十个常用卷积骨干进行筛选,测量参数数、模型大小、嵌入维度、延迟、GPU内存和每样本能耗,随后选取三对具有代表性的轻量-重量模型组合:Pair I(MobileNetV2→ResNet50)、Pair II(MobileNetV3Small→DenseNet201)、Pair III(MobileNetV3Small→EfficientNetB6),分别代表中等、较强和极端的计算差异。能耗测量通过pynvml(NVIDIA管理库的Python接口)动态跟踪GPU功耗传感器获得,反映编码器级图像推理和特征提取能耗,不包括无线传输、服务器排队或整机电池放电。
在优化边缘资源开销方面,结果显示EcoFair的资源经济性强烈依赖于模型配对。在HAM10000上,三对组合相对各自重基线分别节省28.09%、45.43%和68.09%的能耗。在BCN20000和PAD-UFES-20上,DenseNet201和EfficientNetB6配对仍提供明显节能,但收益小于HAM10000,原因是更强采集变异和分布偏移导致路由策略更频繁触发。而MobileNetV2和ResNet50配对在这两个数据集上未能产生节能,表明当编码器间计算差距相对较小时,频繁重模型激活可能抵消效率收益。此外,基于嵌入维度估算,每样本图像嵌入传输量约2.25至9.00 KB,路由后预期选择嵌入传输量约4.00至6.72 KB。Pareto前沿分析显示了总边缘能耗与恶性类最差组TPR之间的可行折中区间,不同部署约束可选取不同工作点。
在分类性能方面,HAM10000上EcoFair对于较大计算差距的配对取得最佳平衡准确率(Balanced Accuracy),如MobileNetV3Small+DenseNet201配置达到0.6440,MobileNetV3Small+EfficientNetB6配置达到0.6506,均优于各自独立轻量和重量基线。在BCN20000和PAD-UFES-20上,EcoFair在DenseNet201和EfficientNetB6配对中匹配或超过两个基线,尤其PAD-UFES-20上EcoFair的恶性召回率(Malignant Recall)相对于对应重基线有所提升(例如Pair III从0.5561提升至0.6450)。而MobileNetV2+ResNet50配对收益较温和,与两个编码器表示能力差距较小一致。
在组级评估方面,研究采用Equal Opportunity视角,检查恶性病例跨人口亚组的真阳性率(TPR)均值和最差组性能。EcoFair不通过训练目标强制公平,而是考察事后路由是否改变亚组可靠性。结果显示组级效应具有配置依赖性。Pair I提供最稳定的亚组可靠性曲线,在HAM10000和BCN20000上相对轻基线小幅改善最差组TPR,在BCN20000上缩小了相对重基线的TPR差距。Pair II在部分设置中改善,但PAD-UFES-20上相对两个基线均恶化亚组可靠性。Pair III在选定配置中相对重基线表现出强恢复行为,但相对轻基线一致性较差。这表明选择性重模型激活可改善部分配置的最差组可靠性,但当升级在亚组间分布不均或重编码器未纠正受影响亚组的错误时,也可能加剧差距。
在路由诊断和阈值敏感性分析中,研究人员比较了轻量仅推理、重量仅推理、熵仅路由、安全-危险间隔仅路由、元数据风险仅路由、熵+间隔无元数据风险以及完整EcoFair策略。结果显示无单一信号普遍占优:熵仅路由保守,安全-危险间隔和熵+间隔路由带来更强平衡准确率增益,元数据风险仅路由改善恶性召回但平衡准确率增益较小,完整EcoFair在自适应变体中取得最强平均恶性召回率并匹配最佳平衡准确率,但路由率更高。阈值乘数0.8至1.2的扫描显示路由率随阈值增加而降低,而平衡准确率变化温和。轻量模型熵对轻量模型错误检测的AUROC为0.687至0.818,支持其作为有用但不完美的不确定性信号。配对折叠统计检验表明部分平衡准确率增益(尤其是HAM10000和部分BCN20000配置)显著,而若干恶性召回和PAD-UFES-20差异不显著。
讨论部分指出,EcoFair是一种运行时适应机制,针对退化或模糊传感器输入这一特定扰动类别。系统将计算视为自适应可靠性资源,轻量推理对常规样本高效,但可能不足以应对不确定或偏移输入。其实证结果定位EcoFair为退化感知路由框架而非普遍占优的静态分类器,其系统性收益依赖于路由策略、环境数据退化和轻量-重量路径计算差异之间的交互。亚组可靠性是路由策略的经验结果而非训练过程中施加的约束,配置依赖性行为已明确纳入结果解释。同时,评估范围限于编码器侧能量、自适应路由、分类行为和基准变异下的组级结果,真实网络因素如丢包、分区、无线传输能量、协议开销、延迟变异和网络攻击不在当前评估内。未来工作方向包括物理硬件部署、元数据缺失条件下的可靠性、受控扰动协议以及更强自适应计算基线比较。
结论部分可翻译为:下一代医疗物联网的可行性取决于解决数据局部性、有限边缘资源和诊断可靠性之间的张力。在这项工作中,研究人员引入了EcoFair,一种通过自适应路由来协调这些竞争目标的垂直划分推理架构。该框架将原始图像和表格输入保留在其发起客户端本地,同时传输学习表示以进行服务器端融合。通过将轻量优先推理与元数据派生风险评分相结合,EcoFair建立了退化触发的升级机制。在编码器间具有足够计算差距的设置中,该架构减少不必要的重模型激活,并降低编码器侧能耗。在更具变化性或偏移的数据条件下,路由机制更频繁地升级不确定输入,反映了在评估基准设置中边缘资源经济性与推理可靠性之间的部署权衡。结果显示,组级恶性病例行为可以通过部署时路由进行评估,并在选定配置中得到改善;然而这些效应仍然是配置依赖的,而非普遍保证。总体而言,EcoFair为自组织医疗边缘推理提供了一个能量感知和亚组敏感的路由框架,支持评估资源经济性、退化输入可靠性和组级恶性病例性能之间的权衡。