基于嵌入式注意力机制的混合方法在运动损伤风险预测中的应用

《Alexandria Engineering Journal》:Feature embedded attention based hybrid approach for athletic injury risk prediction

【字体: 大 中 小 】 时间:2026年02月14日 来源:Alexandria Engineering Journal 6.8

编辑推荐:

  胡梦琪|宋志强|冯晓玲 中国山东省济南市山东体育大学研究生院,250102 **摘要** 随着人工智能驱动的运动员监测技术的进步,体育分析生态系统获得了多模态观测数据,用于分析运动员受伤模式,为可靠的运动员受伤预测提供了丰富的数据来源。然而,在体育科学中,准确预测运

  胡梦琪|宋志强|冯晓玲
中国山东省济南市山东体育大学研究生院,250102

**摘要**
随着人工智能驱动的运动员监测技术的进步,体育分析生态系统获得了多模态观测数据,用于分析运动员受伤模式,为可靠的运动员受伤预测提供了丰富的数据来源。然而,在体育科学中,准确预测运动员的受伤风险仍然是一个未解决的挑战,因为多变量生理、心理和工作负荷因素以非线性方式相互作用。为了解决这一挑战,本研究引入了FAHC-LSTM,这是一种基于特征嵌入和注意力机制的混合卷积神经网络与长短期记忆框架,旨在提高运动员受伤预测的可靠性。该模型首先应用均匀流形逼近与投影(UMAP)进行非线性降维,构建低维特征嵌入,以捕捉异构训练变量和心理状态变量之间的潜在依赖关系。结合卷积神经网络(CNN)和双向长短期记忆(LSTM)模型的混合架构利用了局部特征相关性和长期时间依赖性,注意力机制增强了受伤预测的准确性。在荷兰跑步者数据集上的实验表明,FAHC-LSTM的分类准确率为81.2%,AUC-ROC值为86.9%,优于传统的机器学习(ML)和最先进的深度学习(DL)基线方法。消融研究证实了UMAP嵌入和混合架构对性能稳定性和可学习性的贡献。这些结果使FAHC-LSTM成为一种强大且具有泛化能力的解决方案,有助于主动进行受伤监测,推进个性化训练管理和运动员健康保护。

**1. 引言**
对运动卓越的不断追求推动了运动员训练和治疗方法的演变。受伤对运动员的身体和心理健康、未来职业发展以及体育组织的整体成功构成了严重威胁,在竞技体育中尤为受到关注[1]。受伤预测是预测受伤风险和调整训练计划以增强身体素质和健康的关键基础设施[2]。然而,由于运动员数据有限且依赖主观判断,传统方法往往无法提供精确的风险预测。智能身体监测系统的最新进展——将智能可穿戴传感器与先进的人工智能(AI)技术相结合——为全面便捷地监测生理状况奠定了坚实的基础[3][4],提供了丰富的数据流,并推动了向更基于证据和理性的训练策略的转变。尽管当前的数据驱动方法比以往任何时候都提供了更高的可靠性和更全面的分析能力,但训练日志的庞大、多模态且通常不透明的特性增加了基于AI的解决方案的复杂性和实施难度[5]。尽管深度学习(DL)技术在医疗保健领域的进步显著(6),能够在复杂和高维的医疗数据中提取通用模式,但在揭示和表征导致运动员受伤风险的因素方面仍存在重大挑战。首先,由于原始数据来自可穿戴传感器、医学检查和训练日志等异构来源[3],收集的数据集不一致,需要复杂的预处理和分析程序。其次,受伤的发生受到多种复杂和多模态因素的影响,包括训练负荷、身体模式、心理状态和环境因素以及既往受伤史[7]。这些因素之间的复杂相互作用引入了难以用传统建模策略捕捉的高维交互。第三,正常记录与受伤记录的分布极不平衡,因为绝大多数记录代表正常训练情况,而只有少数记录对应于实际受伤事件[8][9]。这种不平衡使预测模型偏向多数类别,降低了其对罕见但关键受伤信号的敏感性。此外,现有的受伤预测成果主要集中在特定领域,如脑损伤预测[10]或NBA球员的肌肉损伤诊断[11],跨不同类型受伤、运动项目和团队的泛化能力和鲁棒性较弱,阻碍了实际应用和更广泛的采用。上述挑战突显了需要强大的数据整合、先进的特征表示和专门的建模策略,以确保受伤预测模型在现实体育环境中既准确又具有泛化能力。

随着来自不同来源的受伤记录量持续增长,对更准确且基于大数据的运动员受伤风险预测系统的需求日益增长[12]。考虑到高维受伤记录的统计特性,近期研究旨在开发专门的模型来捕捉潜在模式[13][14][15]。众所周知,循环神经网络(RNN)在处理高维序列数据和捕捉内在时间依赖性方面表现出色,这对于建模训练负荷和既往受伤对未来风险概率的累积效应特别有利[16]。与传统卷积神经网络(CNN)相比,基于RNN的解决方案(如长短期记忆(LSTM)模型在学习长期依赖性和不同因素之间的非线性交互方面表现更好[17][18]。然而,在实际数据中,不平衡的物理受伤记录、多模态因素和强非线性关系可能会破坏基于RNN的解决方案的预测准确性。具体来说,罕见的受伤记录可能导致特定类别的性能偏差,异构输入增加了模式识别的复杂性,个体化特征偏差阻碍了泛化能力,因此需要更强大和可靠的基于DL的模型[18]。

受受伤预测领域令人印象深刻的成就和上述挑战的启发,本文介绍了一种基于特征嵌入和注意力机制的混合卷积神经网络与长短期记忆(FAHC-LSTM)模型,用于一般性预测跑步者的受伤风险。我们首先采用基于UMAP的非线性流形嵌入来构建紧凑且结构感知的表示,明确保留了变量间的潜在关系。在此基础上,我们设计了增强注意力的CNN-BiLSTM架构。注意力机制主要用作面向性能的时间加权机制,以提高受伤预测的准确性。这种设计使FAHC-LSTM能够同时处理高维性和数据不平衡问题,这是现有CNN、LSTM或其他混合框架无法有效处理的。本文的主要贡献总结如下:
- 为了实现强大可靠的运动员受伤预测,本文引入了FAHC-LSTM,这是一种结合了基于非线性UMAP的特征嵌入和基于上下文时间注意力的混合预测模型的特征-注意力混合CNN-LSTM框架。在公共跑步者数据集上的实验表明,其准确率为81.2%,超过了最先进的基线。消融研究显示,特征嵌入提高了22.3%,注意力集成提高了4.67%。因此,该模型为不平衡记录的受伤预测提供了高效且可靠的解决方案。
- 为了从复杂因素中识别有价值的模式,我们引入了基于均匀流形逼近与投影(UMAP)的特征嵌入模型作为数据嵌入和特征提取模块。与直接特征连接和静态编码不同,UMAP提取了异构工作负荷、恢复和心理变量之间的潜在关系,并自适应地突出受伤前的关键时间模式。结果表明,该预测模型在处理后的数据集上训练更快、更稳定,性能更好。
- 为了实现超越传统方法的可靠预测性能,我们设计了一种基于注意力的混合模型,将传统的CNN层与双向LSTM(Bi-LSTM)网络相结合,以有效捕捉时空特征和周期性特征。CNN和LSTM的结合有助于全面理解多变量时间序列,识别短期统计特征并识别长期趋势,从而实现更可靠的风险预测。整合的注意力机制提高了对受伤相关模式的敏感性。这种新颖的结构成为一种强大且可靠的运动员受伤预测解决方案。

**2. 相关工作**
在本节中,我们总结了与运动员受伤风险预测相关的最新成果,并讨论了它们的优缺点。

**2.1. 运动员特征分析**
运动员受伤预测系统的目标是提供有关受伤风险和预警信号的实用见解,以促进运动员福利。如前所述,运动员受伤记录的多模态、高维和非线性特性限制了深度学习在受伤预测任务中的有效应用。为了全面评估受伤概率,各种研究通过整合实时训练日志、环境条件和健康监测数据来调查潜在的风险因素。尽管数据来源的丰富性增强了相关性分析的范围,但大量且有时相互冲突的因素进一步复杂化了受伤风险建模的特征工程[2]。虽然研究人员经常强调身体状态、训练负荷和心理健康在运动员状态分析中的重要性,但这些变量如何影响受伤风险的精确机制仍不清楚。例如,关于工作负荷在决定运动员状况中的作用存在相反的观点[19][20],这突显了直接将传统统计模型应用于多变量受伤风险分析的局限性。因此,研究人员试图引入数据驱动的特征提取机制以实现精确的受伤预测。UMAP已被证明是从高维医疗数据中提取有价值特征的有效工具[21][22]。受受伤观察特征的启发,我们引入UMAP来嵌入原始数据以进行高效预测。

**2.2. 运动员受伤预测**
运动员受伤预测在最近的运动领域中对于保护身体素质和设计训练负荷起着至关重要的作用[23]。基于统计总结和教练直觉的传统受伤预测方法不足,因为它们在整合大量异构的身体、心理和环境记录方面的分析能力较弱。因此,这些方法往往产生延迟的、反应性的见解,而不是准确和主动的受伤预测[17]。一些基于机器学习(ML)的解决方案引入了统计模型来利用可用观察数据中的受伤模式。Lu等人引入了XGBoost模型,用于大规模流行病学特征描述NBA球员的下肢肌肉拉伤(LEMSs),并强调了数据驱动方法在专业篮球中更准确和实用的受伤风险评估中的价值[11]。考虑到复杂的受伤因素和混乱的模式,一些数据驱动技术被推荐用于揭示运动员记录的基本属性。PMin-Max算法利用数据挖掘机制,基于对个人信息的更细致理解来预测最佳和最差的运动员受伤概率,实现了个性化的受伤预防策略和改进的预测性能[24]。然而,基于ML的方法在处理非线性关系时遇到建模复杂性。

体育行业的丰富成果表明,基于DL的方法是解决非线性、高维医疗数据的有效解决方案[6]。Lv等人提出了基于堆叠自编码网络的智能深度学习模型,用于大规模、噪声较大的体育数据中的特征嵌入和风险评估,与传统方法相比,具有更好的抗噪能力和预测准确性。特征工程显著提升了DL解决方案的性能,Ali等人将特征融合机制引入了一种新颖的集成深度学习框架,用于提取Framingham风险因素、基于信息增益的特征选择、LogitBoost元学习和本体驱动的建议,实现了心脏病预测的准确性和超越现有方法的效果[25]。实际应用表明,基于DL的受伤预测系统在运动员推广方面高效可靠。提出了一个深度学习辅助系统(DLS),用于在物联网(IoT)传感器网络上分布式部署受伤预测。云计算方案的参与有助于准确和及时的体育受伤诊断,以及医疗康复的可扩展和全面支持[10]。Gupta等人开发了基于身体测试、可穿戴传感器数据和有说服力的指标的改进受伤风险预测模型,用于定制预防策略、改进任务分配和降低工作场所受伤成本[26]。尽管取得了广泛的成功,传统的DL方法未能捕捉未来受伤风险中的时间依赖性,这突显了需要序列导向的预测模型。

**2.3. 长短期记忆模型**
LSTM模型是专门的循环神经网络(RNN),能够捕捉长距离时间依赖性,而不会出现梯度消失或爆炸的问题。其出色的连续模式识别在医学场景中的序列数据预测方面取得了多种成功[27]。Sadr等人强调了基于LSTM的循环神经网络在体育受伤预测中的优越性,其性能优于CNN和GRU,突显了先进序列建模在运动员健康管理中的价值[28]。Padmanandam等人提出了一种基于生物力学和训练数据的综合损伤预测程序,用于竞技跑步者,该程序结合了支持向量机(SVM)、XGBoost决策树、多层感知(MLP)和LSTM模型的自适应训练机制,以提高损伤识别性能[29]。然而,LSTM在处理多变量输入时通常效率较低,需要全面分析相关性和瞬态特征。一些混合模型被提出,将传统的深度学习(DL)模型集成到普通的LSTM中,以在微观和宏观层面上获得更好的性能。一种结合了CNN和LSTM的模型被提出,用于根据可穿戴设备预测运动员的健康状况,并在大型生理数据集上表现出色[30]。Chen引入了Transformer-LSTM来捕捉全局特征交互和局部时间依赖性。仿真结果表明,在多模态运动表现的输入下,混合结构表现更好[31]。混合架构在医学数据分类、人类活动识别和风险预防领域展示了最先进的性能,这些领域与运动员损伤预测类似。

3. 方法论
在本节中,我们提出了FAHC-LSTM框架。具体来说,我们首先对常见的运动员损伤预测任务进行了数学定义,为模型开发提供了严格的基础。然后,我们介绍了一种特征嵌入机制,旨在捕获信息因素的同时防止敏感信息泄露。在此基础上,我们引入了一种基于注意力的混合CNN-LSTM架构,该架构结合了空间和时间学习,以准确预测损伤记录,随后详细描述了系统算法和工作流程。

下载:下载高分辨率图像(302KB)
下载:下载全尺寸图像
图1. 提出的运动员损伤预测解决方案的系统结构,名为FAHC-LSTM。

3.1. 问题陈述
设D={di}i=1s∈RS×N×T表示运动员损伤数据集,包含来自S个个体的T个时间段的记录,涉及N个不同的因素。每个运动记录di=[xi,yi]∈RN×T包括影响因素xi∈RN?1×T和历史损伤记录yi∈R1×T。基于连续、时间不变和因果输入的基本假设,我们的损伤预测模型旨在构建一个模型MD,Θ,该模型表示真实预测模式f:[x,y]→yt+1的无偏映射。为了有效建模和私有计算,我们将原始损伤记录D嵌入到特征矩阵Z∈RS×n×T中,以探索特征之间的潜在相关性,其中n表示低维中间特征。然后,使用嵌入的特征Z和时间损伤记录y训练预测模型Mp[Z,y],Θp。所提出系统的流程如图1所示。

3.2. 特征嵌入
本节介绍了一种基于均匀流形逼近和投影(UMAP)的特征嵌入算法,用于压缩原始数据。UMAP是一种用于下游建模的降维技术[32]。其可扩展的性能、高维模式识别能力、非线性容忍度和高计算效率使其成为处理多变量运动员损伤记录的可靠数据预处理方法。给定原始数据集D=[xi,yi]∈RS×N×T,嵌入的数据集Z∈RS×N×T作为压缩后的特征,满足接近di的点也接近zi[33]。嵌入将原始数据重构为低维且易于计算机处理的矩阵,以便进一步学习。理论上,嵌入流形旨在为数据点找到一个模糊的拓扑结构,并尝试使用低维图来表示它[22]。首先,UMAP为原始数据构建一个有向拓扑结构G={V,E},其中V={dti}表示记录点的空间映射,E表示两个数据之间的关系。边中的权重决定了数据相似性的可能性,这引入了指数概率来评估。(1)Pr(i,j)=exp?‖di?dj‖2?ρiσi,其中‖di?dj‖2表示di和dj之间的欧几里得距离。ρ表示di与其第k个(k是超参数)最近邻居之间的距离。σi是局部连接参数,作为适合数据点di的高斯分布核的标准差。UMAP为双向表达式设计了一个全局概率,如(2)pij=Pr(i,j)+Pr(j,i)?Pr(i,j)×Pr(j,i)。基于全局概率,UMAP构建了高维图来描述高维损伤数据。这种混合架构在医学数据分类、人类活动识别和风险预防领域展示了最先进的性能,这些领域与运动员损伤预测类似。

3.3. 混合损伤预测模型
基于注意力的混合CNN-LSTM模型是长期趋势识别和当前相关性分析的主要组成部分。通过嵌入输入 {[zi,yi]}∈RS×(n+1)×T,所提出的混合模型的结构如图1所示,包括多个CNN层和两个Bi-LSTM层。CNN模块专注于相关性分析、非线性拟合和当前特征的统计特性。Bi-LSTM识别长期趋势和周期性信息,以推断未来的损伤概率。具体来说,给定批量大小(与CNN的核大小相同)B,第t步的训练输入Zt∈RB×(n+1)×B是从嵌入数据中采样的。CNN层在局部感知域提取和有价值特征挖掘方面具有优势。CNN层的一个常见形式是:(5)Yt=σW?Zt+b,其中神经网络参数W,b分别表示节点的权重和偏置。?表示卷积操作,σ是众所周知的激活函数sigmoid函数。层输出Yt表示从短期邻居记录和特征相关性中提取的信息。深层结构增强了提取更高层次抽象的能力,拟合非线性关系,并在跑步者损伤风险预测方面表现出色。CNN的输出表示K层的迭代结果。Yt,1=σW?Zt+b…(6)Yt,K=σW?Yt,K?1+b。

如前所述,损伤风险总是依赖于历史损伤记录和相关观察结果的时间依赖性。LSTM执行了一种实用方案,以从多个因素中捕捉长期相关性。普通的LSTM单元引入了门机制来选择有价值的信息,其中部分训练参数将由遗忘门重新初始化[27]。LSTM神经元的结构如图2(a)所示。对于输入Yt,K和输出Y?t,K,LSTM神经元引入了一个状态中间变量Ct来存储训练收益。LSTM引入了遗忘门来丢弃之前的信息。输入门决定允许输入的新信息,输出门根据状态变量Ct构建神经元输出ot。理论上,所有门都设计为普通的CNN层。遗忘门首先确定要保存的有价值记忆ft并更新状态变量ft⊙Ct?1。输入门决定允许输入的信息,输出门根据状态变量Ct构建神经元输出ot。LSTM神经元的数学公式如下。(7)ft=σWf?[Y?t?1,K,Yt,K]+bf,(8)it=σWi?[Y?t?1,K,Yt,K]+bi,(9)C?t=tanhWC?[Y?t?1,K,Yt,K]+bC,(10)Ct=ft⊙Ct?1+it⊙C?t,(11)ot=σWo?[Y?t?1,K,Yt,K]+bo,(12)Y?t,K=ot⊙tanh(Ct),其中σ(?)表示sigmoid激活函数,tanh(?)表示双曲正切函数,⊙表示逐元素乘法。由于历史损伤记录在周期性训练计划中通常显示重复特征,因此某个时间段的损伤风险取决于之前的模式和即将发生的损伤概率[29]。对于模糊的病理背景,所提出的模型结合了Bi-LSTM网络来捕获更丰富的特征,以进行更精确的预测。Bi-LSTM模块包含两个相同的LSTM神经元,同时向前和向后处理输入序列,如图2(b)所示。输出指的是神经元的双向输出的集中。

然而,当应用于多变量损伤预测任务时,混合CNN–LSTM模型可能会表现出不稳定的优化行为和有限的性能。为了更好地捕捉长期依赖性和序列损伤记录中的多尺度时间关系,我们引入了一个基于注意力的时间聚合模块,该模块可以自适应地加权不同时间步长的Bi-LSTM输出。(13)Ht=∑i=1τβiY?t?(i?1),K。其中τ表示历史知识的回溯长度。加权参数βi=esi∑esj表示τ间隔相关性的注意力值。注意力分数由可学习参数si=V?tanh(W1Yt,k+W2Y?t,k)定义。注意力模块通过允许更灵活地整合历史和近期训练信息,增强了时间表示学习的稳定性和有效性。考虑到不平衡的记录,预测模型的准确性通过加权Focal损失函数来衡量。(14)L=?∑l1?β1?βnl(1?p?l)γlogp?l,其中p?l是混合预测模型的输出分布,l表示二进制标签正常或损伤,nl表示类别l中的样本。权重参数β有助于不平衡标签的平滑,γ控制对稀有样本的关注度。

FAHC-LSTM的损伤风险预测训练过程包括三个步骤。首先,模型嵌入原始数据以压缩潜在特征,而不破坏其结构特性。然后这些表示通过CNN层进行处理,以执行局部多尺度模式并获得输出值。CNN输出由Bi-LSTM结构计算,以通过累积工作负载效应和跨时间的相关性来捕捉长期时间依赖性。在整个前向传播过程之后,所提出的模型通过损失函数计算当前预测性能,并通过CNN-LSTM结构反向传播梯度下降,直到模型收敛。

4. 实验
为了证明FAHC-LSTM的优越性,本节进行了数值实验。首先,对基准数据集进行了全面描述。其次,我们说明了原始数据的数据预处理和对重要贡献因素的全面特征分析。接下来,我们详细介绍了用于比较研究的模型设置。然后我们详细介绍了可比较的结果和消融研究,以突出所提出系统的优越性。

表1. 数据集演示。

特征
详细信息
运动员ID
跑步者索引
日期
损伤情况
完成的训练会话数
总公里数
跑步距离
公里数
冲刺完成次数
里程
力量训练
高强度训练
小时数
交替训练期
km Z3-4
无氧跑步公里数
km Z5-T1-T2
以最大心率跑步
感知到的努力程度
疲劳感
对跑步的感受
感知到的恢复情况
对恢复的感受

4.1. 数据集
在本节中,我们介绍了基线数据集[34]。该数据集包含了来自荷兰高性能跑步团队的真实世界跑步者损伤记录,这些记录在之前的损伤风险预测研究中得到了广泛认可和应用。它涵盖了74名中长距离跑步者连续七年的训练日志。这些运动员被监测了平均3.7年,重要的是,在整个数据收集期间,所有运动员都在同一教练的指导下进行训练,以确保记录信息的方法一致性和可靠性。数据集的详细描述见表1。除了跑步者索引“运动员ID”和特定时间槽“日期”外,记录的因素包括10个特征,这些特征归因于两种类型的贡献者:训练日志和关于个人状态的自我报告的心理评估以及二元“损伤”记录,表明运动员是否受伤。即,运动员的名字和实际训练时间被嵌入以保护个人敏感信息。观察到的训练记录包括:“完成的训练会话数”表示个人历史训练会话的自然数,二进制记录“力量训练”描述了记录的训练模式是否包含耗尽的锻炼,“总公里数”表示当时覆盖的训练公里数(km),其中包括冲刺训练公里数“sprint training”、在跑步强度区三和四的训练负荷“km Z3-4”以及在跑步强度区五的训练负荷,包括较长和较短的重复锻炼“km Z5-T1-T2”。具体来说,“km Z3-4”定义为耐力锻炼的训练负荷或略高于无氧阈值。“km Z5-T1-T2”表示接近最大心率的锻炼或高强度跑道区间。自我评估的心理因素是对当天训练的个人感受的评估,包括对身体和心理疲劳的个人评价,以及训练后的休息是否充足。在统计正常和损伤记录的数量后,我们发现损伤案例仅占整个数据集(41645条记录)的1.4%(583条记录)。不平衡的原始数据集迫切需要适当的数据预处理机制。

4.2.数据预处理
为了确保批量计算的一致性和模型训练的效率,原始数据集中的所有跑步者记录序列都被标准化为固定的时间长度T=512,超出这个长度的残余数据将被丢弃。输入中的缺失值通过在线性插值的方式在每个运动员的时间序列中进行填补。我们引入了一个长度为W=64的滑动窗口,滑动步长为W/2,用于滚动输入,下一个时间段的受伤记录代表受伤标签。因此,我们构建了一个输入-W-输出的预测问题。鉴于原始数据集的庞大体积以及记录会话中存在的大量时间冗余,需要进行大量的数据预处理和分析,以消除冗余信息、对齐序列维度,并促进输入表示的统一性。考虑到关于受伤记录和正常记录的高不平衡性,我们在训练过程中引入了重采样机制,以加强带有受伤标签的模式识别。图3(a)展示了运动员间观察到的特征的均值和方差。多模态特征呈现出不同的统计特性,只有基于心理的记录、“总公里数”和“会话次数”分布较广,而其他特征则较为稀疏或模糊,这突显了运动员间特征轮廓的异质性。图3(b)可视化了选定跑步者的训练日志和受伤记录之间的关系,表明大多数受伤发生在持续高训练负荷期间,尤其是在耐力和极限跑步强度增加时,这突显了工作负荷峰值与受伤风险升高之间的强烈关系。图3(c)展示了自我报告的心理状态与受伤风险之间的关系。值得注意的是,几次受伤事件与感知恢复较低和努力程度较高的时期相吻合,这表明心理恢复不足和累积的心理疲劳可能会增加受伤的脆弱性。
为了分别分析训练负荷和心理状况对受伤风险的贡献,我们对原始数据进行了相关性分析。图5(a)和图5(b)显示,大多数与训练相关的特征和心理特征与受伤风险(分别为标签7和标签3)的相关性相对较弱,这表明需要采用特征提取策略来提高学习性能。

下载:下载高分辨率图像(66KB)
下载:下载全尺寸图像(a)。运动员特征的统计特性。
下载:下载高分辨率图像(178KB)
下载:下载全尺寸图像(b)。运动员的训练负荷样本。
下载:下载高分辨率图像(227KB)
下载:下载全尺寸图像(c)。运动员的心理记录样本。
图3. 关于跑步者受伤数据集的特征分析。

4.3. 实验设置
实验在基于Linux 20.04.6操作系统的服务器上进行,该服务器配备了Intel Xeon Gold 6230R CPU和四个Tesla V100-SXM2 GPU。处理后的数据集被分为7:1:2的比例用于训练、验证和测试。特征嵌入模块使用UMAP参数确定,包括15个最近邻、0.02点的密度、11维输入和2维输出。我们设计了两个带有卷积核的CNN层用于多变量相关性分析,以及两个Bi-LSTM层用于预测。注意力模块采用加性注意力机制来计算时间输入的重要性权重。参数设置如表2所示。我们设计了不同的训练周期[5,40]和学习率[0.1,0.0001]来评估模型在各种计算环境下的性能。模型使用Adam优化器进行优化,参数为β1=0.9,β2=0.999,权重衰减为0.00001。为了比较,我们设置了相同的层维度256和批量大小64,以获得相似的内存成本,并寻找最佳学习率:MLCNN-GRU 0.005, TCNN 0.01, B-HDNN 0.001, FAHC-LSTM 0.001和dropout MLCNN-GRU 0.03, TCNN 0.02, B-HDNN 0.01, FAHC-LSTM 0.02。

为了评估跑步者受伤预测模型的性能,我们报告了学习过程中的测试准确率和AUC-ROC值、测试集中收敛模型的召回率和F1分数,以及计算指标FLOPs、参数、训练和推理时间以进行效率分析。AUC-ROC衡量模型在所有分类阈值下区分受伤和非受伤案例的能力,因此比准确率对类别分布的偏斜不那么敏感,更适合评估罕见类别的检测性能。这些指标在可穿戴设备或边缘设备上的实时监控场景中尤为重要,因为内存占用和计算效率直接决定了实际部署的可行性。选定的指标直观地衡量了模型在训练数据中区分受伤和非受伤案例的能力。

表2. FAHC-LSTM的超参数设计。

4.4. 特征嵌入
庞大而复杂的原始数据集需要大量的数据预处理方法来减少数据维度并提取有价值的特征。不适当的特征嵌入模块可能导致模式识别偏差和学习性能不稳定。为了提高预测过程的效率和安全性,我们引入了UMAP算法来降低输入维度并提取潜在特征。UMAP算法以折叠方式对分割后的训练集进行训练。为了获得最佳的UMAP基特征嵌入,探索了2、4、8、16、32的嵌入维度,以平衡表示能力和鲁棒性。最小距离参数在0.05、0.1、0.2之间进行了测试。优化后,UMAP算法采用11维输入和2维嵌入输出,最小距离确定为0.01。对于2维嵌入特征,UMAP有助于保持数据点之间的结构关系,这代表了计算机更容易理解的更可接受的特征。我们展示了UMAP与另一种著名特征嵌入方法——主成分分析(PCA)的性能比较。图4(a)和图4(b)分别展示了嵌入数据的空间分布。为了评估特征提取能力在受伤数据集上的表现,我们引入了Calinski–Harabasz (CH)指数[35]来评估UMAP空间和PCA空间中特征点的集中度。UMAP的CH指数为205.72,高于PCA的CH指数0.65,表明UMAP嵌入方法更好地分离了正常数据和受伤数据簇。因此,基于UMAP嵌入提取有价值的特征用于受伤识别是可靠的。嵌入的输入还保证了隐私计算,不会泄露敏感的训练或心理信息。

上述实验深入评估了基于UMAP的特征嵌入,并证明了其在处理跑步者受伤数据集内在特征方面的有效性。通过将高维时间记录投影到紧凑的潜在空间中,UMAP增强了相关模式的可分性,并促进了后续CNN–LSTM框架的建模。这种嵌入过程不仅提高了计算效率,还增强了后续CNN–LSTM框架的预测能力,证实了在处理复杂的多变量时间序列数据以预测受伤风险时降维的重要性。

下载:下载高分辨率图像(159KB)
下载:下载全尺寸图像(a)。UMAP嵌入的特征。
下载:下载高分辨率图像(79KB)
下载:下载全尺寸图像(b)。PCA嵌入的特征。
图4. 嵌入特征的可视化。
下载:下载高分辨率图像(304KB)
下载:下载全尺寸图像(a)。受伤记录和训练日志的相关性热图。
下载:下载高分辨率图像(140KB)
下载:下载全尺寸图像(b)。受伤记录和心理记录的相关性热图。

4.5. 主要结果
为了理解学习过程和所提出模型的有效性,我们在运动员受伤数据集上测试了不同的模型进行比较。复制的模型包括令人印象深刻的机器学习和深度学习方法,用于跑步者受伤预测,如XGBoost决策树、SVM、普通CNN和LSTM [29]。我们还使用相关方法评估了受伤预测性能,如基于贝叶斯的层次深度神经网络(B-HDNN)[36]、带有双门循环单元的多层CNN(MLCNN-BiGRU)[37]和时间卷积神经网络(TCNN)[38]。表3总结了在类似实验设置下这些方法在荷兰跑步者受伤记录上的性能。正如所承认的,基于机器学习的方法在不同拟合设置下收敛时表现相似,显示出相同的准确率。表格显示,传统的机器学习模型作为受伤风险的预测器较弱,这突显了它们在处理复杂和长期多变量输入时的局限性。B-HDNN在处理多模态受伤特征时表现出困难。CNN和Bi-LSTM在这方面有所改进,但仍存在准确率提升的瓶颈,表明单独使用CNN或LSTM不足以进行稳健的受伤预测。同样,TCNN虽然收敛速度更快,但在收敛时的提升有限。MLCNN-GRU通过与混合结构的结合取得了有竞争力的结果,优于其他基准模型。所提出的FAHC-LSTM在每种训练情况下都表现优于其他基线模型。即使在仅5个周期后,FAHC-LSTM也达到了可区分的预测性能。完全训练后,FAHC-LSTM实现了卓越的受伤识别能力。为了评估鲁棒性,我们进行了交叉验证,并计算了FAHC-LSTM与最强基线(MLCNN-GRU)之间的配对Wilcoxon符号秩检验,采用1尾假设和0.05的显著性水平。结果显示统计上显著改进,w=18,Z=3.25。这些发现与关于混合模型的现有研究一致,揭示了基于个体优势的出色性能[31]。

我们还记录了关于比较研究的训练细节,如图6所示。在整个训练过程中,FAHC-LSTM始终实现了最高的验证准确率,明显优于所有其他模型。尽管MLCNN-BiGRU在开始时表现出相对较快的学习速度,但其收敛后的性能仍比FAHC-LSTM低10个百分点。良好的性能证实了模型设计的改进。嵌入的特征输入减轻了在高维序列上进行特征提取的难度。FAHC-LSTM的性能提升来自三个互补组件:基于UMAP的特征嵌入用于紧凑表示学习、CNN–LSTM骨干用于联合局部和长期时间建模,以及基于注意力的时间聚合模块用于序列信息的稳健整合。这些设计选择共同使得从高维多变量受伤记录中有效学习成为可能,同时在长期依赖设置下保持稳定性。尽管FAHC-LSTM通常需要更多的周期才能收敛,这表明模型复杂性更高、参数空间更大,但在体育场景中这不是一个严重问题。由于预测模型通常是离线开发的,并且重新训练模型的需求较少,因此在运动受伤预测背景下,准确性和鲁棒性远比快速收敛更为关键。因此,FAHC-LSTM为稳健和更准确的运动员受伤风险预测提供了一个潜在的解决方案。

下载:下载高分辨率图像(264KB)
下载:下载全尺寸图像
图6. 各种方法的测试准确率及95%置信区间。
下载:下载高分辨率图像(242KB)
下载:下载全尺寸图像
图7. 模型改进的测试准确率及95%置信区间。

表3. FAHC-LSTM与基线模型的性能比较。值为测试数据集的平均值±标准差。最佳结果以粗体显示。*和**表示统计显著性(Wilcoxon检验),分别在p<0.05和p<0.01时,与最强基线(MLCNN-GRU)相比。
模型 周期 = 5 周期 = 40
空单元 ACC (%) AUC-ROC (%) F1 (%) 召回率 (%)
SVM 60.26±0.37 2.44±0.96 2.36±0.36 4.52±0.5
XGB 59.85±0.67 2.87±2.46 1.63±0.75 9.75±1.0
CNN 58.62±1.66 3.64±1.46 0.91±1.86 1.27±1.86 3.70±1.47 1.33±1.26 4.31±1.66 2.95±1.6
Bi-LSTM 57.69±3.76 3.17±4.55 8.72±4.65 2.13±6.46 9.76±0.57 6.49±1.37 0.22±0.56 8.38±0.7
TCNN 54.81±2.55 9.97±3.35 3.51±3.45 0.8±4.16 2.41±0.27 0.24±0.65 9.81±0.26 0.35±0.4
B-HDNN 53.57±1.35 2.21±1.25 4.13±1.35 5.27±1.05 3.44±0.35 6.23±1.05 4.41±0.25 6.87±0.3
MLCNN-GRU(基线) 64.91±2.27 1.33±1.16 4.88±2.76 1.83±3.27 3.15±0.48 4.13±1.07 5.94±0.47 8.21±0.3
FAHC-LSTM(我们的) 69.03 ± 2.2 ? 77.43 ± 3.6 ? 70.02 ± 2.9 ? 66.14 ± 1.8 ? 82.13 ± 0.2 ? ? 89.12 ± 0.4 ? ? 80.44 ± 0.2 ? ? 79.67 ± 0.3 ?

表4. FAHC-LSTM及其变体的消融研究。ACC、AUC-ROC、F1和召回率以平均值±标准差报告。参数:可训练参数的数量。FLOPs:每次前向传递的浮点运算次数。训练和推理延迟按批次测量。

表4. FAHC-LSTM及其变体的消融研究。ACC、AUC-ROC、F1和召回率以平均值±标准差报告。参数:可训练参数的数量。FLOPs:每次前向传递的浮点运算次数。训练(ms/批次)和推理(ms/批次)的延迟。
模型 ACC (%) AUC-ROC (%) F1 (%) 召回率 (%)
参数(M) FLOPs(G) 训练(ms/批次) 推理(ms/批次)
CNN-LSTM(基线) 60.4±1.7 78.2±2.5 57.32±1.4 5.91±3.1 1.04 0.37 4.8 0.54
FHC-LSTM 76.76±0.88 4.2±1.27 5.33±1.07 5.91±0.6 1.14 0.42 4.1 0.47
AHC-LSTM 72.13±1.58 3.5±1.77 4.85±1.37 8.09±1.1 1.2 10.4 5.1 0.53
FAHC-LSTM(完整) 82.13±0.28 9.12±0.48 0.44±0.27 9.67±0.3 1.3 0.53 5.1 0.46

4.4. 特征嵌入
庞大而复杂的原始数据集需要大量的数据预处理方法来减少数据维度并提取有价值的特征。不适当的特征嵌入模块可能导致模式识别偏差和学习性能不稳定。为了提高预测过程的效率和安全性,我们引入了UMAP算法来降低输入维度并提取潜在特征。UMAP算法在分割后的训练集上以折叠方式进行训练。为了获得最佳的基于UMAP的特征嵌入,探索了2、4、8、16、32的嵌入维度,以平衡表示能力和鲁棒性。最小距离参数在0.05、0.1、0.2之间进行了测试。优化后,UMAP算法采用11维输入和2维嵌入输出,最小距离确定为0.01。对于2维嵌入特征,UMAP有助于保持数据点之间的结构关系,这代表了计算机更容易理解的更可接受的特征。我们展示了UMAP与另一种著名特征嵌入方法——主成分分析(PCA)的性能比较。图4(a)和图4(b)分别展示了嵌入数据的空间分布。为了评估特征提取能力在受伤数据集上的表现,我们引入了Calinski–Harabasz (CH)指数[35]来评估UMAP空间和PCA空间中特征点的集中度。UMAP的CH指数为205.72,高于PCA的CH指数0.65,表明UMAP嵌入方法更好地分离了正常数据和受伤数据簇。因此,基于UMAP嵌入提取有价值的特征用于受伤识别是可靠的。嵌入的输入还保证了隐私计算,不会泄露敏感的训练或心理信息。

上述实验深入评估了基于UMAP的特征嵌入,并证明了其在处理跑步者受伤数据集内在特征方面的有效性。通过将高维时间记录投影到紧凑的潜在空间中,UMAP增强了相关模式的可分性,并促进了下游建模。这种嵌入过程不仅提高了计算效率,还增强了后续CNN–LSTM框架的预测能力,证实了在处理复杂多变量时间序列数据以预测受伤风险时降维的重要性。由于贡献因素之间的相关性是运动员损伤预测中的一个重大挑战,我们寻求一种更高效的结构来全面理解多变量的影响,同时减少资源消耗。我们引入了FLOPs(浮点运算次数)、Params(模型参数数量)、训练和推理延迟等指标用于模型评估。表4总结了所提出的FAHC-LSTM及其变体的资源分析结果。基线模型CNN-BiLSTM由于特征冗余而表现出有限的预测能力,而加入基于UMAP的嵌入技术后,通过提取紧凑且具有区分性的特征显著提升了性能,并降低了计算成本。完整的FAHC-LSTM模型结合了UMAP嵌入和注意力机制,仅参数数量和延迟略有增加,就实现了最高的准确率(81.2%)和AUC-ROC值(86.9%)。这些结果证实,我们的改进在预测性能和计算效率之间取得了平衡。

5. 结论
本研究提出了FAHC-LSTM,这是一种基于特征嵌入和注意力的混合CNN-BiLSTM框架,用于运动员损伤预测,有效解决了高维性和时间依赖性问题。通过将基于UMAP的非线性特征嵌入与混合预测架构相结合,该模型能够有效捕捉异构跑步者数据中的潜在特征关系和延迟的损伤相关模式。在公共跑步者数据集上的实验结果表明,其性能优于现有的最佳技术(SOTA)基线模型,而消融分析进一步证实了特征嵌入和混合结构的贡献。从工程和管理角度来看,FAHC-LSTM支持主动的训练负荷管理。尽管目前的评估仅限于一个运动领域且数据来源单一,但这为未来的验证以及在可穿戴系统上的实时部署提供了动力。

CRediT作者贡献声明:
胡梦琪:撰写原始草案、验证、资源管理、方法论设计、数据整理。
宋志强:撰写与编辑、验证、监督、方法论设计、数据分析、概念化。
冯晓玲:撰写与编辑、数据分析。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号