用于生理信号领域适应的多查询频率提示方法

《The Knee》：Multi-Query Frequency Prompting for Physiological Signal Domain Adaptation

本研究针对生理信号血压预测中的标注数据有限、域分布差异和样本代表性不足三大挑战，提出基于频率域嵌入的多查询提示框架MQFP。通过将可学习嵌入插入预训练模型频率域，有效捕捉信号时变性、周期性和局部特征，增强对时间域和分布域偏移的鲁棒性，同时减少98.4%可训练参数。实验表明MQFP在PPG和ECG数据集上实现21.3%的MAE降低，验证了其在少样本跨域场景下的有效性。

　　这项研究致力于解决在从生理信号中预测血压时面临的三个关键挑战：有限的标记数据、源人群与目标人群之间的领域偏移，以及高血压和低血压群体的代表性不足。我们提出了一种名为多查询频率提示（Multi-Query Frequency Prompting, MQFP）的提示学习框架，该框架在冻结的预训练模型中插入一个小型、可学习的嵌入模块，并且该嵌入模块是基于频率域构建的。通过捕捉信号的关键特征，如变异性、周期性和局部性，频率域提示能够增强模型对分布偏移和时间偏移的鲁棒性，同时在少样本设置中减少过拟合的风险。在三个PPG（光电容积描记）和两个ECG（心电图）数据集上进行的实验表明，MQFP在不增加太多可训练参数的情况下，可以显著提升血压估计的精度。具体而言，MQFP相比其基础模型，实现了高达21.3%的平均绝对误差（MAE）降低，同时可训练参数减少了高达98.4%。这些结果展示了MQFP作为一种轻量级且高效的方法，在实际应用场景中对血压估计的有效性。

随着机器学习技术的不断进步，深度学习模型在处理各种生理信号数据方面的应用也变得越来越广泛。其中，一个备受关注的领域是利用PPG信号来预测血压。PPG信号因其对生理变化的高度敏感性，使得数据的采集受到一定限制，从而难以积累足够数量的数据集。此外，在预处理阶段，大量数据会被剔除，进一步加剧了数据的稀缺性。由于这些生理信号数据的获取难度较高，迁移学习已经成为一种广泛采用的方法，用于利用预训练模型进行下游任务。然而，现实世界中的挑战，如分析高风险人群（例如低血压或高血压患者）以及在数据量有限的情况下处理少样本场景，仍然缺乏深入研究。

为了解决这些问题，我们从视觉提示学习中获得启发，该方法在少样本场景中以其高效性和参数节省而著称。我们将这种思想扩展并应用于信号提示学习，从而开发出一种针对信号数据的新型提示方法。然而，与视觉提示不同，信号提示必须应对由时间偏移带来的独特挑战。时间偏移指的是在信号测量过程中，即使微小的时间误差也可能导致信号的显著变化，使得相同的信号呈现出完全不同的形态。为此，我们提出了一种在频率域中进行信号提示学习的框架，从而有效缓解时间偏移带来的问题。

在图1中，我们展示了原始脉搏信号X在时间偏移情况下的三种不同表现形式，分别标记为X0、X1和X2。虽然这些信号本质上是相同的，但它们仅在脉搏的起始点发生了偏移。需要注意的是，这里的“时间偏移”特指信号起始点的变化，而不是预训练数据与下游数据之间的分布偏移。当使用快速傅里叶变换（FFT）将这些信号转换到频率域时，它们都会表示为同一个频率信号F。由于它们是相同的原始信号，因此无论时间偏移如何，转换后的频率信号都是一致的。

当直接对原始信号域应用提示学习，即所谓的“朴素提示”方法，会得到不同的提示信号，这些信号在图1中以橙色部分呈现，分别表示为X0^、X1^和X2^。这种方法在提示的不同位置提供不同的信息，使得学习过程变得复杂，进而影响预测性能。因为不同的X^信号可能映射到同一个标签Y，导致模型难以准确学习信号的特征。然而，当提示学习应用于频率域，即得到F^信号时，可以稳定地学习低频到高频的特征信息。此外，这种方法增强了模型对时间偏移的鲁棒性，使得标签映射更加稳定，从而提升标签预测的学习效果。在第4.2.2节中，我们提供了在真实数据上验证这一假设的示例。

基于上述考虑，我们提出了多查询频率提示（MQFP）。MQFP通过利用生理信号的关键特征，如变异性、周期性和局部性，采用多种标准在提示选择过程中整合包含相关信息的多个提示。这种多查询策略不仅能够提升模型的泛化能力，还能增强其对时间偏移的适应性。

在实验验证中，我们将收缩压（SBP）和舒张压（DBP）的分布划分为四个组，假设每个组都处于少样本学习场景中。此外，我们还在三种具有固有偏移的基准数据集上进行了迁移学习实验，包括BCG、PPGBP和Sensors数据集，以测试模型对领域偏移的鲁棒性。我们还使用了从MIMIC-III和VitalDB中提取的ECG子集，以评估模型在不同生理模态下的泛化能力。在最佳情况下，我们的方法将平均绝对误差（MAE）从基础模型的20.21降低到了15.90，显示出21.33%的性能提升，这表明我们的方法能够有效应对上述问题。

在第4.1节中，我们通过消融实验验证了特定方法的必要性。我们还比较了我们方法中的参数数量与传统完全微调方法的参数数量，结果显示我们的方法可以将可训练参数减少高达98.4%，从而确认了其高效性。在第4.2节中，我们通过分析每个提示的特征偏好，并将频率域提示与原始信号域提示进行比较，验证了我们的多查询方法在可靠性和有效性方面的优势。我们还通过分析最坏情况下的表现，进一步理解了模型的优势所在。我们的代码可以通过链接访问：https://anonymous.4open.science/r/MQFP-0F23。

本研究的主要贡献包括以下几点：首先，我们引入了新颖的频率域提示学习方法，以解决信号中的时间偏移问题；其次，我们提出了基于生理信号的周期性、变异性以及局部性进行多查询提示选择的方法；最后，我们在少样本迁移场景下，展示了模型在三个PPG和两个ECG数据集上的稳健泛化能力。这些贡献不仅丰富了信号提示学习的理论基础，也为实际应用提供了有效的解决方案。

在实际医疗场景中，准确预测血压对于早期发现高血压、监测心血管健康以及优化个性化医疗方案至关重要。然而，由于生理信号的采集过程受到诸多限制，例如设备的可用性、信号的稳定性以及数据的标注难度，使得构建高质量的血压预测模型面临挑战。此外，由于个体差异的存在，同一信号在不同人群中的表现可能不同，导致模型在目标人群中的泛化能力受限。因此，开发一种能够在少样本情况下，依然保持较高预测精度的模型，具有重要的现实意义。

为了提升模型的泛化能力和预测性能，我们设计了多查询频率提示（MQFP）方法。该方法的核心思想是利用频率域中的特性，将信号的特征信息以一种更稳定、更高效的方式进行编码。在频率域中，信号的周期性、变异性以及局部性可以被更清晰地捕捉和表示，从而减少因时间偏移带来的不确定性。通过将多个提示信息整合到频率域中，我们能够在不显著增加模型复杂度的情况下，提高模型的预测能力。

在实验中，我们使用了三个PPG数据集和两个ECG数据集进行测试。这些数据集分别来自不同的研究项目，涵盖了不同的采样率和信号长度。通过选择这些不同条件下的数据集，我们假设存在分布偏移的情况。实验结果显示，MQFP在这些数据集上实现了显著的性能提升，特别是在少样本设置下，其预测精度明显优于传统方法。此外，我们还对模型的参数效率进行了评估，结果显示MQFP在保持模型性能的同时，大大减少了可训练参数的数量，从而提升了计算效率。

在迁移学习实验中，我们使用了BCG、PPGBP和Sensors三个数据集，分别代表不同的生理信号采集条件。这些数据集在预训练阶段和下游任务阶段存在一定的分布偏移，因此需要一种能够有效应对这种偏移的方法。通过将提示学习应用于频率域，我们能够在不显著改变模型结构的情况下，提升其在不同数据集上的适应能力。实验结果表明，MQFP在这些数据集上的表现优于传统方法，显示出其在处理领域偏移方面的有效性。

在实际应用中，MQFP方法具有广泛的适用性。它不仅适用于PPG和ECG信号，还可以扩展到其他生理信号的处理。例如，在睡眠监测、运动状态分析以及长期健康跟踪等场景中，MQFP方法可以提供更准确的预测结果。此外，该方法还能够适应不同设备和传感器的信号输入，从而提升其在不同应用场景下的通用性。

在本研究中，我们还对模型的可解释性进行了分析。通过观察模型在不同提示位置上的响应，我们能够更好地理解模型如何捕捉信号的特征信息。这种可解释性对于医学领域的应用尤为重要，因为它有助于医生和研究人员更好地理解模型的决策过程，从而提升其在临床实践中的可信度。此外，我们还通过可视化方法展示了模型在不同频率域中的表现，进一步验证了其在处理时间偏移方面的有效性。

在少样本迁移学习场景中，模型的泛化能力是衡量其性能的重要指标。由于目标数据集中的样本数量较少，模型需要依赖预训练阶段的特征信息进行有效的预测。通过将提示学习应用于频率域，我们能够在不显著增加模型复杂度的情况下，提升其在目标数据集上的预测能力。实验结果表明，MQFP方法在这些场景中表现出良好的泛化能力，显示出其在实际应用中的潜力。

此外，我们还对模型的鲁棒性进行了评估。在不同时间偏移和分布偏移的情况下，模型的预测性能是否稳定是衡量其可靠性的关键。通过将提示信息编码到频率域中，我们能够提升模型对这些偏移的适应能力，从而减少预测误差。实验结果表明，MQFP方法在这些情况下能够保持较高的预测精度，显示出其在实际应用中的优势。

在实际医疗系统中，MQFP方法可以用于实时血压监测。通过将PPG或ECG信号转换到频率域，并结合多查询提示，可以实现对血压的实时预测。这种方法不仅能够减少计算资源的消耗，还能提升预测的准确性。此外，由于MQFP方法在频率域中进行提示学习，因此可以适应不同设备和传感器的信号输入，从而提升其在实际应用中的灵活性。

在本研究中，我们还对模型的优化策略进行了探讨。通过引入多查询频率提示，我们能够在不显著增加模型复杂度的情况下，提升其在不同数据集上的适应能力。此外，我们还对提示的选择策略进行了优化，以确保每个提示能够准确捕捉信号的特征信息。这些优化策略不仅提升了模型的性能，还增强了其在实际应用中的稳定性。

在实际应用中，MQFP方法可以用于个性化医疗方案的制定。通过分析不同个体的生理信号特征，可以为每个患者提供更准确的血压预测结果。这种方法不仅能够提升医疗决策的准确性，还能减少对大量标记数据的依赖，从而降低数据采集的难度。此外，由于MQFP方法在频率域中进行提示学习，因此可以适应不同设备和传感器的信号输入，从而提升其在实际应用中的灵活性。

在医疗设备和传感器的发展过程中，数据采集的难度和成本一直是制约因素。因此，开发一种能够在少样本情况下依然保持较高预测精度的模型，具有重要的现实意义。MQFP方法通过将提示学习应用于频率域，能够有效缓解数据稀缺性带来的影响，同时提升模型的泛化能力。这种方法不仅适用于PPG和ECG信号，还可以扩展到其他生理信号的处理，为未来的医疗应用提供了新的思路。

在本研究中，我们还对模型的可扩展性进行了评估。通过将提示学习应用于频率域，我们能够提升模型在不同生理信号上的适应能力。这种方法不仅适用于PPG和ECG信号，还可以扩展到其他类型的生理信号，如脑电图（EEG）和肌电图（EMG）。通过分析这些信号的特征信息，可以为不同类型的生理信号提供统一的处理框架，从而提升模型的通用性。

在实际应用中，MQFP方法可以用于远程医疗和健康监测。通过将PPG或ECG信号转换到频率域，并结合多查询提示，可以实现对血压的远程预测。这种方法不仅能够减少对医疗设备的依赖，还能提升患者的健康监测效率。此外，由于MQFP方法在频率域中进行提示学习，因此可以适应不同设备和传感器的信号输入，从而提升其在实际应用中的灵活性。

在医疗数据的处理过程中，数据的多样性和复杂性是不可忽视的因素。因此，开发一种能够在不同数据条件下保持较高预测精度的模型，具有重要的现实意义。MQFP方法通过将提示学习应用于频率域，能够有效缓解数据多样性带来的影响，同时提升模型的泛化能力。这种方法不仅适用于PPG和ECG信号，还可以扩展到其他类型的生理信号，为未来的医疗应用提供了新的思路。

在实际应用中，MQFP方法可以用于医疗设备的优化。通过将提示学习应用于频率域，可以提升设备在不同环境下的适应能力，从而提高其在实际应用中的稳定性。此外，由于MQFP方法在频率域中进行提示学习，因此可以适应不同设备和传感器的信号输入，从而提升其在实际应用中的灵活性。

在本研究中，我们还对模型的可靠性进行了评估。通过将提示学习应用于频率域，我们能够提升模型在不同数据集上的预测能力。此外，由于MQFP方法在频率域中进行提示学习，因此可以适应不同设备和传感器的信号输入，从而提升其在实际应用中的灵活性。实验结果表明，MQFP方法在这些场景中能够保持较高的预测精度，显示出其在实际应用中的优势。

综上所述，MQFP方法为生理信号中的血压预测提供了一种新的思路。通过将提示学习应用于频率域，我们能够有效缓解时间偏移和分布偏移带来的影响，同时提升模型的泛化能力和预测精度。这种方法不仅适用于PPG和ECG信号，还可以扩展到其他类型的生理信号，为未来的医疗应用提供了新的可能性。此外，MQFP方法在保持模型性能的同时，大大减少了可训练参数的数量，从而提升了计算效率。这些优势使得MQFP方法在实际应用中具有广泛的适用性。