《Spectrochimica Acta Part A: Molecular and Biomolecular Spectroscopy》:A hybrid variable selection method based on uninformative variable elimination and discretized wild horse optimization algorithm in quantification of complex samples
编辑推荐:
摘要光谱分析技术已成为现代分析化学领域中一种有效的分析方法。然而,光谱数据具有高维特性,使用单一变量选择方法存在局限性。本研究提出了一种基于无信息变量消除法(UVE)和离散化野马优化器(DWHO)的混合策略,以实现高效精确的光谱变量选择。首先通过UVE消除噪声变量,再由DWHO对
摘要 光谱分析技术已成为现代分析化学领域中一种有效的分析方法。然而,光谱数据具有高维特性,使用单一变量选择方法存在局限性。本研究提出了一种基于无信息变量消除法(UVE)和离散化野马优化器(DWHO)的混合策略,以实现高效精确的光谱变量选择。首先通过UVE消除噪声变量,再由DWHO对剩余变量进行精细筛选。随后利用UVE-DWHO筛选出的变量子集构建偏最小二乘法(PLS)模型。研究采用了橙汁、柴油、葡萄酒和血液样本的四组数据来验证该方法。与全谱PLS相比,UVE-PLS、蒙特卡洛-UVE-PLS(MC-UVE-PLS)以及随机化检验-PLS(RT-PLS)的结果显示,UVE-DWHO-PLS使选中的变量数量减少了85%以上。同时,四种数据集的预测均方根误差均有所降低,R值均高于0.95,表明该方法能够用更少的变量建立稳定且精确的预测模型。因此,UVE-DWHO为复杂样品的光谱分析提供了一种有价值的新变量选择方法。
引言 由于具备无损检测、检测速度快以及操作简单等优点,光谱分析已成为现代分析化学领域的关键技术。在食品领域,该技术可实现对农药残留及食品变质程度的实时分析[1]、[2]、[3]、[4]。在制药行业,它被广泛应用于关键的质量控制环节,比如检测活性药物的纯度以及评估制剂的成分含量[5]、[6]、[7]。此外,它还在农业、环境监测等领域得到广泛应用[8]、[9]、[10]。常见的光谱技术包括傅里叶变换红外光谱法(FTIR)[11]、拉曼光谱法[12]、紫外-可见光谱法(UV–Vis)[13]以及荧光光谱法[14]。不过,由于光谱带之间存在大量重叠,通过光谱技术直接对样品进行定量分析往往面临困难[15]。
化学计量学是用于复杂样品定量分析的重要工具[16]、[17],通常用于建立校准模型[18]、[19]。多元校准方法包括支持向量回归法(SVR)[20]、人工神经网络法(ANN)[21]、[22]、极端学习机法(ELM)[23]以及偏最小二乘法(PLS)[24]、[25]等。其中,PLS因其在解决多重共线性问题方面的出色表现而成为一种非常重要的方法[26]。
光谱数据具有高维特性,通常包含数百甚至数千个波长点[27]。大量的光谱变量之间往往存在高度共线性,这不仅会增加模型过拟合的风险,还会提升模型计算的复杂性[28]、[29]。因此,变量选择对于数据简化以及理解模型所反映的规律而言至关重要[30]。
常见的变量选择方法包括基于统计学的方法[31]、[32],以及基于智能优化算法的方法[33]、[34]、[35]。基于统计学的方法有无信息变量消除法(UVE)[36]、蒙特卡洛-UVE法(MC-UVE)[37]以及随机化检验法(RT)[38]。这些方法依赖预设的阈值,可能会出现误删关联较弱的变量或保留冗余变量的情况。而基于智能优化算法的方法则包括灰狼优化算法(GWO)[39]、鲸鱼优化算法(WOA)[40]、蜉蝣算法(MA)[41]、野马优化算法(WHO)[42]等等[43]、[44]。这类方法主要是通过模拟生物种群中的协同行为,将变量选择转化为组合优化问题。但智能优化算法在全面搜索时容易陷入局部最优解,过多的迭代还会增加计算时间。因此,单独使用这两种方法都存在一定的局限性。
将两种或多种变量选择方法结合使用的策略效果更为优异[45]。Wu等人[46]提出了一种基于UVE和逐次投影算法(SPA)的两步混合变量选择方法。首先通过UVE消除噪声变量,再由SPA对剩余变量进行进一步筛选。实验结果表明,在2756个近红外变量和3727个中红外变量中,分别有18个近红外变量和18个中红外变量被确定为预测铁含量的最佳变量;而在预测锌含量时,则分别有17个近红外变量和12个中红外变量被选中。为了解决高维激光诱导击穿光谱数据影响定量分析精度的问题,Yan等人[47]提出了一种混合的V-WSP-PSO方法。该方法首先使用V-WSP初步去除无关且冗余的光谱变量,再通过PSO进行二次筛选,最终确定了114个关键特征。随后,他们基于核极值学习机建立了煤炭热值预测模型。与传统变量选择方法相比,V-WSP-PSO方法减少了冗余变量并降低了计算时间,有效提升了LIBS多元校准模型的预测精度和计算效率。
本研究提出了一种将UVE与离散化野马优化器(DWHO)相结合的混合策略,旨在实现高效精确的光谱变量选择。UVE通过向原始光谱中添加随机噪声来评估每个变量的稳定性,从而快速剔除大部分噪声较大的变量。DWHO则基于群体智能搜索机制,从剩余变量中精准选出最具信息量的波长点。元启发式算法在复杂的多维搜索空间中具备可靠的收敛稳定性以及系统化的参数校准能力[48]、[49],DWHO也继承了这些优势,从而能够在光谱特征范围内实现稳健的优化。将这两种方法相结合,既可以发挥UVE在降维方面的优势,又能利用DWHO强大的全局优化能力。为验证所提方法的有效性,本研究选择了四组不同的数据集作为研究对象,并将UVE-DWHO-PLS模型与全谱PLS、UVE-PLS、MC-UVE-PLS以及RT-PLS进行了比较。
章节节选 无信息变量消除法(UVE) UVE是一种基于统计显著性分析的变量选择方法,已被广泛用于变量选择任务中。它是一种统计技术,通过分析回归系数的稳定性来识别有效变量和噪声变量。在本研究中,在使用DWHO进行变量选择之前,首先采用UVE对原始变量进行初步筛选,以减少无关特征的干扰。
离散化野马优化器(DWHO) WHO能够形成多维位置
橙汁样本的近红外光谱 橙汁样本的数据集可在以下网址获取:
http://www.ucl.ac.be/mlg/ 。该数据集被划分为包含149个样本的训练集和包含67个样本的测试集。近红外光谱的记录范围为1100–2500纳米,间隔为2纳米,共计700个数据点。这些光谱存在明显的基线偏移现象,这主要是由于悬浮的果肉和胶体物质引起的光散射所致,这也是浑浊液体体系的典型物理特征[50]、[51]。
PLS中的潜变量数量 潜变量是PLS建模中唯一且重要的参数。在训练集上,通过500次随机分割为子训练集和子验证集的蒙特卡洛交叉验证方法来确定PLS的最优潜变量数量。在每次迭代中,都会针对不同数量的潜变量所建立的模型计算预测残差平方和。通常情况下,会选择在全部500次迭代中平均预测残差平方和最小的对应潜变量数量作为最优值
结论 本研究提出了一种基于UVE-DWHO的混合变量选择方法,将其与PLS模型结合用于光谱定量分析。同时,还对最优潜变量数量和DWHO的迭代次数进行了优化。基于这些最优参数,设计出了两步变量选择策略:第一步使用UVE筛选变量,建立PLS模型,剔除噪声变量并从原始数据中选出一定数量的变量;之后再将DWHO应用于这些筛选后的变量子集
CRediT作者贡献说明 Wei Shaohan: 方法论、软件工具、可视化呈现、论文撰写——初稿撰写。Wang Ruoxin: 实验研究、结果验证、论文撰写——初稿撰写。Gong Meijiao: 方法论、实验研究、论文撰写——审阅与修改。Liu Peng: 数据整理、可视化呈现、论文撰写——审阅与修改。Bian Xihui: 研究构思、软件工具、资金申请、研究指导、论文撰写——审阅与修改。
利益冲突声明 作者声明,他们不存在任何可能影响本文研究结果的已知财务利益关系或个人关系。
致谢 本研究得到了四川大学过程分析与控制重点实验室 (编号GCFX2024003)、天津市高校大学生创新创业训练计划 (编号202510058078)以及国家大学生创新创业训练计划 (编号202610058020)的支持。
Wei Shaohan|Wang Ruoxin|Gong Meijiao|Liu Peng|Bian Xihui
中国天津市300387,天津工业大学化学工程与技术学院