《Machine Learning with Applications》:WellFusion: Hybrid numerical–semantic representations for multi-target wellness classification from wearable measurements
编辑推荐:
将可穿戴测量转化为语言模型(language model)输入需要在数值细节与可读类别描述符之间取得平衡。研究人员提出 WellFusion,一种混合数值–语义(numerical–semantic)表示,用于从多日可穿戴测量中估计四个同日自我报告健康(wel
将可穿戴测量转化为语言模型(language model)输入需要在数值细节与可读类别描述符之间取得平衡。研究人员提出 WellFusion,一种混合数值–语义(numerical–semantic)表示,用于从多日可穿戴测量中估计四个同日自我报告健康(wellness)结局,并以仅类别(categorical-only)的 WellCat 作为表示比较器。研究人员使用来自 16 名 PMData 参与者的 1836 条参与者-日(participant-day)记录,采用固定的参与者排他性划分:10 名训练、2 名验证和 4 名测试参与者;结局阈值仅由训练观测估计。三天仅数值(numerical-only)、常规模型(conventional-model)、适配(adaptation)和零样本(zero-shot)比较显示指标依赖的权衡,而非混合输入或基础模型(foundation models)的一致优势。多数类基线(majority-class baseline)在所列三天配置中具有最高准确率,且低二次加权 kappa(quadratic weighted kappa, QWK)表明机会校正后的序数一致性较弱。五天 GPT-4o-mini 结果提供次要描述性证据,WellFusion 报告的目标准确率均值范围为 0.69 至 0.86;该设置缺少匹配的仅数值比较器。WellFusion 提供了一种结构化方式,以在共享四目标输出中保留数值与类别信息;结果仍为探索性并取决于固定参与者划分。
一、研究背景与问题
可穿戴设备可连续、被动监测身体活动、心率、睡眠模式和能量消耗等生理与行为信号,但将大量低层测量转化为可解释、可行动的健康状态仍具挑战。用户和医疗提供者常需解释孤立指标,如步数、静息心率、睡眠时长或热量消耗,这些指标不能直接说明疲劳升高、准备度下降、睡眠质量恶化或压力增加。多维健康结局预测困难,因为自由生活环境中可穿戴信号噪声大、不完整,并受行为与环境因素影响;压力、疲劳、睡眠质量和准备度具有动态性并受多因素影响。传统可穿戴健康方法多依赖工程特征、统计描述、深度学习架构或学习表示,作为相关比较器。近年来大语言模型(large language models, LLMs)和基础模型(foundation models)被用于健康分析、结构化预测和时间序列推理,促使研究人员思考:生理传感器数据应如何表示,才能让语言模型有效推理。类别表示可压缩词汇但丢弃类别内差异并依赖阈值。为此,研究人员提出以表示为关注点的多目标健康预测框架,使用 PMData,比较仅类别、仅数值和混合数值–语义表示,评估多个时间窗以及参数高效和全模型适配策略,并将压力、疲劳、睡眠质量和准备度统一为四目标分类输出。该工作不测试临床效用、部署效率或跨目标依赖建模改进。
二、研究开展、结论与意义
研究人员开展以表示为中心的探索性比较,使用 16 名参与者、1836 条参与者-日记录,采用固定 10/2/4 参与者排他性划分,阈值仅从训练观测估计。研究得出,三天比较显示指标依赖的表示权衡,而非混合输入或基础模型的一致优势;多数类基线在所列三天配置中准确率最高;低 QWK 表明机会校正后的序数一致性弱;五天 GPT-4o-mini 结果仅提供次要描述性证据,WellFusion 报告目标准确率均值为 0.69 至 0.86,但缺少匹配的仅数值比较器。研究意义在于提供一种结构化方式,在共享四目标输出中同时保留数值与类别信息;但结果仍为探索性,并取决于固定参与者划分。
三、主要关键技术方法
样本队列来源为公开 PMData 数据集,包含 16 名参与者佩戴 Fitbit Versa 2 智能手表在自由生活条件下采集的纵向可穿戴健康数据。输入仅限被动可穿戴测量:每日步数、燃烧卡路里、睡眠时长和静息心率。目标为自我报告压力、疲劳、睡眠质量和准备度;压力、疲劳、睡眠质量用五点量表,准备度用 0–10 量表,并转成三个有序类别:Below Normal、Normal、Above Normal,标签阈值仅由 10 名训练参与者的汇总统计估计。表示方法包括 WellCat(仅类别)、WellFusion(原始数值+类别描述符)和 WellNum(仅数值)。模型适配包括 DeepSeek-R1-Distill-Qwen-7B 的低秩适配(Low-Rank Adaptation, LoRA)、Qwen-7B 全参数微调、Mistral-7B-Instruct-v0.2 的 LoRA 与全参数微调,以及 gpt-4o-mini-2024-07-18 的管理式微调。评估采用两天、三天和五天窗口,指标包括准确率、宏平均 F1(macro-F1)、平衡准确率(balanced accuracy)、二次加权 kappa(quadratic weighted kappa, QWK)和精确轮廓匹配(exact-profile match);常规基线包括多数类 dummy、逻辑回归、随机森林、XGBoost 和多层感知机(MLP)。
四、研究结果
5.1 Five-day OpenAI experiment and secondary descriptive results:五天 GPT-4o-mini 比较 WellCat 与 WellFusion,为次要描述性证据。WellFusion 目标准确率均值为疲劳 0.86 ± 0.12、压力 0.83 ± 0.02、睡眠质量 0.72 ± 0.04、准备度 0.69 ± 0.13;WellCat 对应为 0.83 ± 0.13、0.74 ± 0.07、0.66 ± 0.04、0.60 ± 0.06。WellFusion 四目标数值更高,但无配对显著性计算,不能建立统计优越性。
5.2 Interpretation of target-level results:不用目标级结果推断生理机制;表示差异不表明疲劳、压力、睡眠质量或准备度依赖特定输入通道;需定向特征消融和可追踪的逐目标预测。
5.3 Temporal context:多窗口网格含两天、三天和五天输入;修正目标均值支持网格内描述比较,但不建立最优上下文长度;附加分析用三天窗口,不被视为该网格的受控扩展;不假设更长历史改善分类。
5.4 Impact of adaptation strategy:Qwen 的 LoRA 与全参数微调使用不同 backbone,其差异混淆 backbone 与适配;Mistral 匹配 backbone 比较仍使用不同优化设置,结果描述评估配置而非全微调因果效应;研究人员不从分类分数推断训练成本、内存或部署效率优势。
5.5 Class-level evidence and uncertainty:未呈现类级诊断;小类支持可致每类 precision、recall、F1 和序数一致性不稳;未提出可靠少数状态检测声明。
5.6 Scope and assumptions of fatigue-directed oversampling:仅对疲劳少数类进行 SMOTE 过采样;其他目标标签继承自源实例,其边际频率可间接改变;无匹配的 pre/post-SMOTE 诊断;不声称 SMOTE 平衡四目标或改善少数状态检测。
5.7 Additional comparative analyses:附加分析单独解释。
5.7.1 Conventional baselines:三天配置中多数类 dummy 准确率最高(0.677);XGBoost 的宏平均 F1 最高(0.307)、平衡准确率最高(0.385);逻辑回归 QWK 最高(0.053);不支持基础模型具一般准确率优势。
5.7.2 Numerical-only, categorical-only, and hybrid representations:三天 Mistral LoRA 下,WellNum 准确率 0.596、精确轮廓匹配 0.129,高于 WellFusion 的 0.380 和 0.043、WellCat 的 0.260 和 0.010;WellFusion 的宏平均 F1 0.356、平衡准确率 0.372、QWK 0.048 高于其他两者;排序指标依赖,训练–测试差距大,Holm 调整后所有 p = 1.000。
5.7.3 Threshold sensitivity:输入分箱切点增加 10% 后,静息心率 79.4%、卡路里 30.9%、睡眠时长 28.9%、步数 19.5% 的日值类别改变;该结果描述类别分配敏感性,不表示预测稳健性;结果标签替代阈值未建立。
5.7.4 Matched-backbone adaptation comparison:在 Mistral-7B-Instruct-v0.2 上,全参数微调对两种表示均报告比 LoRA 更高的准确率和宏平均 F1;但学习率、优化器、epoch 等不同,仅支持描述性比较。
5.7.5 Zero-shot comparison:Mistral 三天零样本中,WellCat 准确率 0.22 ± 0.02、宏平均 F1 0.161、有效输出率 0.880;WellFusion 为 0.26 ± 0.03、0.191、0.910;无 Qwen 零样本,适配增益不泛化到 Qwen。
5.7.6 Ordinal-aware metrics and participant-level testing:三天配置中多数类 dummy 准确率最高(0.677);全微调 WellFusion-Mistral 的宏平均 F1 0.391、平衡准确率 0.402、QWK 0.103 最高,但绝对值仍适中;现有 OpenAI 模型新鲜三天推理中 WellCat 为 0.44、WellFusion 为 0.47;准确性差异的 sign-permutation p 为 0.125 或 0.500,Holm 调整均 1.000;四名参与者精确检验最小 p = 0.125,无法达到 0.05,不建立优效或等效。
五、讨论总结与结论翻译
讨论认为,该探索性比较显示指标依赖的表示权衡。五天 GPT-4o-mini 发现为次要描述性证据;三天分析中 WellNum 在匹配 LoRA 比较中准确率和精确轮廓匹配领先,WellFusion 在宏平均 F1、平衡准确率和 QWK 领先;多数类基线准确率高于所列训练配置;低 QWK 表明机会校正序数一致性弱;Holm 调整后无显著准确率差异,但不建立等效或随机水平。框架在单一结构化响应中生成四目标,但未实现序数特定训练损失或联合与独立模型消融,故贡献限于共享输出格式下的输入表示,跨目标建模改进未证实。真实部署方面,推理使用被动可穿戴测量,但监督开发需自我报告标签和人工输入分箱;研究未测量可解释性、临床效用、用户收益、计算成本或前瞻性能;描述符是可读输入 token,不是忠实模型解释;同日回顾设计不证明实时部署准备。睡眠时长是设备推导的睡眠分钟数,睡眠质量是独立自报结局;未做睡眠时长移除消融,故不能将性能归因于独立于该输入的更广生理推理。
局限性包括 16 名参与者、1836 条记录、固定 10/2/4 划分;附加三天基线评估含 210 个测试窗口,但同一参与者窗口可依赖,并非 210 名独立个体;五次重复不替代参与者级交叉验证或外部验证;四参与者精确检验无法达到双侧 0.05。结局为自报分数并用汇总训练统计离散化,Normal 是分布相对标签而非临床或个性化参考;完整案例筛选可能引入选择偏倚;预测分箱敏感性显示类别分配依赖操作阈值。疲劳导向 SMOTE 继承非疲劳标签而未验证;无可信多标签平衡或无 SMOTE 匹配消融;联合生成和睡眠时长贡献缺消融。多窗口网格 run-level 记录不可用,目标均值虽算术修正,但底层预测、聚合标准差和配对检验不可重建;原网格与附加三天摘要对应关系未建立。未来需优先参与者级交叉验证或留一参与者测试、联合与独立预测比较、睡眠时长移除、匹配无 SMOTE 训练、结局与预测阈值敏感性,以及五天 GPT-4o-mini 设置下的仅数值比较。
结论翻译:WellFusion 将数值可穿戴测量与类别描述符结合,以结构化输出生成四个同日健康标签。三天比较提供补充证据:仅数值输入在匹配 LoRA 设置中准确率领先,而混合输入在类平衡指标和序数一致性领先;多数类基线在所列三天配置中准确率最高。三天结果显示有限序数一致性,Holm 调整后测试对比无统计显著准确率差异。五天 GPT-4o-mini 结果为所评估 WellCat–WellFusion 比较提供补充次要描述性证据。该研究刻画了小型固定参与者划分内的表示权衡。临床有效性、跨参与者划分稳健性及联合预测收益仍未确立。