《Frontiers in Artificial Intelligence》:Uncertainty-aware federated temporal learning with explainable LLM-based coaching for privacy-preserving wearable health systems
编辑推荐:
引言:可穿戴传感器的日益普及使得连续健康和活动监测成为可能;然而,数据噪声、隐私问题和设备异构性等挑战限制了集中式学习系统的有效性。本文提出了一个隐私优先的人工智能增强生活方式指导框架,该框架集成了多阶段信号清洗、联邦学习(FL)和带有结构化提示的可解释大语言
引言:可穿戴传感器的日益普及使得连续健康和活动监测成为可能;然而,数据噪声、隐私问题和设备异构性等挑战限制了集中式学习系统的有效性。本文提出了一个隐私优先的人工智能增强生活方式指导框架,该框架集成了多阶段信号清洗、联邦学习(FL)和带有结构化提示的可解释大语言模型(LLM),用于智能的、去中心化的健康指导。与以往基于FL的人类活动识别(HAR)系统不同,本研究引入了:经定量验证的多阶段去噪流水线;联邦约束下的局部潜在空间语义插补;以及一个可解释的基于LLM的指导层,其推理明确基于聚合的联邦活动表示,而不是原始传感器数据。
方法:所提出的系统采用了一个稳健的预处理流水线,包括Hampel滤波、自适应小波-巴特沃斯去噪、基于变分自编码器(VAE)的语义插补和卡尔曼平滑。清洗后的信号用于在设备上训练高效的深度长短期记忆模型,并使用基于FedProx的框架聚合局部更新,以缓解客户端漂移并保护数据隐私。为了确保严格的评估并消除时间数据泄漏,实施了严格的时间顺序数据分割以及50%的重叠步长约束。
结果:多阶段信号清洗流水线成功实现了7-10 dB的信噪比(SNR)提升。在严格的评估条件下,全局联邦模型建立了一个高度现实、无泄漏的基线,在高度不平衡且严格未见的未来时间序列数据上实现了68.08%的平均全局准确率和0.60的宏平均F1分数(Macro-F1)。此外,基于LLM的指导模块获得了0.87的忠实度得分。
讨论:指导模块的高忠实度证明,高级的、不确定性感知的摘要足以生成个性化的、透明的且具有上下文感知的生活方式建议,而无需暴露原始传感器流。总体而言,不确定性感知信号预处理、联邦时序建模和可解释的LLM驱动指导的整合,为下一代人工智能驱动的健康系统建立了一个数学上严谨、可扩展且安全的架构。
近年来,可穿戴设备和物联网技术的快速普及为连续收集人体健康与活动数据提供了前所未有的机遇,但将原始传感器数据转化为可靠且可操作的见解仍面临巨大挑战。可穿戴传感器流本质上存在噪声、缺失现象,且在用户、设备和环境之间存在高度异构性。此外,个人健康数据的敏感性严重限制了集中式数据聚合和学习的可行性。尽管联邦学习(FL)通过在不共享原始数据的情况下实现分布式模型训练解决了隐私问题,但现有基于FL的可穿戴健康系统仍存在几个基本问题:首先,由运动伪影等引起的信号不确定性如何传播并影响非独立同分布条件下联邦时序模型的收敛稳定性尚未被量化;其次,传统的统计插补方法无法保留可靠活动识别所需的语义和时间结构;第三,局部个性化与全局联邦性能之间的权衡在嘈杂的可穿戴数据中缺乏深入研究,且以往研究存在时间数据泄漏问题;最后,高级聚合活动表示是否足以支持透明、忠实的基于大语言模型(LLM)的指导仍不明确。为解决这些问题,研究人员提出了一种具备不确定性感知的隐私保护可穿戴健康智能框架,该框架紧密集成了信号级不确定性降低、联邦时序学习与可解释的基于LLM的推理。该研究发表在《Frontiers in Artificial Intelligence》上,通过在数学上严谨的架构整合了这些技术,为下一代去中心化人工智能驱动健康系统建立了可扩展且安全的基础,具有重要意义。
研究人员在包含9名受试者连续多模态传感器数据的PAMAP2数据集队列(去除了数据不完整的109号受试者)上开展了评估。研究所用的关键技术方法包括:采用由Hampel滤波、自适应小波-巴特沃斯去噪、基于变分自编码器(VAE,一种学习潜在表示的生成模型)的语义插补和卡尔曼平滑组成的渐进式信号不确定性降低流水线;在设备端训练深度长短期记忆网络(Deep LSTM,一种循环神经网络)并结合类平衡焦点损失进行局部时序建模;使用FedProx(一种联邦优化算法)框架进行联邦聚合以缓解客户端漂移;最后利用GPT-4与结构化提示实现可解释的基于LLM(高级自然语言处理模型)的生活方式指导,该模块仅依赖聚合的活动表示和不确定性摘要生成建议。所有评估均实施严格的时间顺序数据分割以消除时间泄漏。
研究结果部分的具体结论如下:
统计评估协议:研究人员进行了多次独立实验并使用精确的Wilcoxon符号秩检验以确保结果的统计显著性。
信号清洗与去噪性能:通过应用多阶段清洗流水线,有效抑制了伪影并保留了与活动相关的时间结构,从而稳定了下游的联邦优化。
定量信噪比改善与流水线消融分析:通过留一法消融研究证明,移除小波-巴特沃斯去噪会导致全局准确率显著下降,而移除VAE并用均值插补代替会降低准确性,证实了频率域伪影抑制和语义插补对联邦收敛稳定性和保留时间结构的关键作用。
基于VAE的语义插补与时间一致性:视觉分析表明,VAE重建的信号紧密遵循原始数据的时间动态,且卡尔曼平滑进一步减少了局部抖动,证实了潜在空间插补在保持语义连贯性方面的优越性。
活动级特征可分性:信号清洗显著降低了活动内方差并改善了活动间分离,提升了下游分类的鲁棒性。
局部时序建模性能:在严格的时间分离下,局部Deep LSTM模型建立了无泄漏的局部基线,平均局部准确率为60.09%。
时序模型基线比较:与Transformer模型相比,Deep LSTM在预测能力和边缘设备效率之间提供了最佳平衡,具有更低的延迟。
联邦全局模型评估:使用FedProx聚合的全局模型在高度非独立同分布数据上表现出鲁棒的泛化能力,平均全局准确率达到68.08%,比局部基线提高了7.99%,且置信区间更窄,证明其能有效限制客户端漂移。
类别级性能分析:通过类平衡焦点损失,模型成功挽救了少数类运动特征,防止其被吸收进主导类,实现了符合生物力学的合理分类重叠。
可解释的基于LLM的指导评估:在面对扰动策略时,LLM表现出可控且可解释的行为,实现了0.87的忠实度得分,证明高级不确定性感知摘要足以驱动个性化生活方式指导。
结果总结:渐进式不确定性降低显著提高了信号质量,语义插补优于统计方法,FedProx实现了鲁棒的全局聚合,且结构化LLM指导在不妥协隐私的前提下提供了透明指导。
在讨论部分,研究人员指出了该框架的局限性和实际考量。当面对极端非独立同分布数据(如特定受试者高度特异性的运动模式)时,联邦学习性能可能会下降。此外,联邦更新中的通信开销和设备端计算成本在资源受限的部署中可能是瓶颈,基于LLM的指导模块也引入了延迟问题。在局限性方面,实验主要在基准数据集上验证,且隐私保证缺乏正式的差分隐私边界。未来研究可探索自适应客户端聚类、轻量级模型和差分隐私技术。
研究结论表明,本文提出的具备不确定性感知的隐私保护框架通过将原始传感器噪声视为可量化不确定性,成功整合了多阶段信号去噪、联邦时序学习与可解释的基于LLM的指导。预处理流水线实现了高达10 dB的信噪比改善,而基于VAE的语义插补保留了关键的时间结构。通过在局部时序模型中直接引入类平衡焦点损失,框架成功保留了稀有运动学特征,并在严格无泄漏的条件下实现了68.08%的全局准确率。最后,GPT-4的结构化整合证明,高级不确定性感知统计摘要足以提供高度忠实(0.87得分)的个性化生活方式指导,从而将原始传感器流与LLM完全隔离,为去中心化人工智能驱动医疗系统提供了严谨、安全的基础。