《Lubricants》:A Review of Nanofluid Minimum Quantity Lubrication Technology Applications in Various Machining Processes
Tai Ma,
Jie Yang,
Jielin Chen,
Jiaqiang Dang,
Qinglong An and
Ming Chen
编辑推荐:
当前的面部表情识别方法通常不加区分地提取面部特征,包含与表情无关的信息,从而损害识别精度。为克服这一问题,研究人员提出了一种新颖模型——多阶段特征稀疏约束(Multi-stage Feature Sparse Constraints, MFSC),该模型集成了
当前的面部表情识别方法通常不加区分地提取面部特征,包含与表情无关的信息,从而损害识别精度。为克服这一问题,研究人员提出了一种新颖模型——多阶段特征稀疏约束(Multi-stage Feature Sparse Constraints, MFSC),该模型集成了基于多尺度注意力的稀疏窗口选择(Multi-scale Attention-based Sparse Window Selection, MSAWS)机制与关键区域图学习。值得注意的是,MFSC无需依赖预提取的面部关键点,从而实现了更灵活的部署。MSAWS机制通过多阶段稀疏注意力逐步过滤冗余特征,自适应地选择最具判别性的面部块。所选令牌被构建为动态图,通过图神经网络(Graph Neural Networks, GNNs)对区域关系进行建模。关键的是,该框架进一步引入了一个全局引导融合模块,该模块通过交叉注意力,将来自IR50骨干网络的细粒度局部特征与GNN的全局拓扑特征有效整合。这种整合实现了互补优势,即局部细节通过全局语义上下文得到增强。在RAF-DB、FER2013和AffectNet-7数据集上的全面实验证明了MFSC的优越性能,分别达到了92.31%、76.21%和67.35%的最先进准确率。这些结果验证了该方法在将计算资源聚焦于表情显著区域的同时保持轻量高效架构的有效性。
**论文解读:基于多阶段稀疏特征约束与关键区域图学习的面部表情识别方法**
**研究背景与问题**
面部表情识别(Facial Expression Recognition, FER)技术在人机交互、情感计算等领域具有重要应用价值。当前主流方法基于卷积神经网络(Convolutional Neural Network, CNN)或视觉Transformer(Vision Transformer, ViT)进行特征提取,但普遍存在一个共性挑战:在特征提取过程中,图像中大量与表情无关的信息(如头发、背景)被包含进来,导致冗余特征干扰关键面部区域(如眉毛、眼角、嘴角)的表征能力。CNN受限于局部感受野,难以建模全局上下文;ViT虽然能捕获全局依赖,但采用固定均匀的块划分策略,将计算资源均匀分配到所有区域,包括非信息性区域。基于图神经网络(Graph Neural Network, GNN)的方法虽然能建模非欧几里得结构关系,但通常基于整个特征图构建图结构,缺乏对表情相关区域的精确定位,或依赖预定义关键点,难以适应动态变化。现有架构无法同时实现三个关键目标:动态筛选稀疏且关键的表情区域、对筛选区域进行深度结构化建模、将细粒度局部特征与全局语义上下文深度融合。因此,研究人员提出了一种集成多阶段特征稀疏约束与关键区域图学习的FER模型,旨在弥补这一系统性能力差距。
**研究内容与结论**
研究人员提出了MFSC(Multi-stage Feature Sparse Constraints)模型,该模型由三个协同模块组成:多尺度注意力稀疏窗口选择(MSAWS)模块、关键区域图学习模块和全局引导局部特征增强(Global-Guided Local Feature Enhancement, GGLFE)模块。MSAWS模块通过四阶段渐进的窗口划分和稀疏注意力,从原始196个图像块中逐步筛选出最具判别性的关键令牌,消除冗余信息。关键区域图学习模块将这些筛选出的高注意力令牌作为图节点,基于余弦相似度和K近邻(K-Nearest Neighbors, KNN)算法构建邻接矩阵,并采用图注意力网络(Graph Attention Network, GAT)进行结构化关系建模。GGLFE模块通过交叉注意力机制,将GNN输出的全局结构特征与IR50骨干网络提取的局部细节特征融合,实现互补增强。最终,融合特征经多层感知机(Multilayer Perceptron, MLP)分类,并采用标签平滑损失函数优化。在RAF-DB、AffectNet和FER2013三个公开数据集上的实验表明,MFSC分别达到了92.31%、67.35%(七类)/64.28%(八类)和76.21%的准确率,超越了多数现有方法。同时,MFSC仅需39.8M参数和7.6G FLOPs,推理速度达112.4 fps,在计算效率上具有优势。消融实验验证了各模块的有效性:MSAWS使计算效率提升约10.7%,GNN对于建模局部语义关系至关重要。可视化分析显示,模型能自适应聚焦于眼睛、嘴巴等判别性区域,并产生更可分离的特征表示。该研究成果发表在《Lubricants》期刊上。
**关键技术与方法**
研究人员采用了以下关键技术方法:①多尺度注意力稀疏窗口选择(MSAWS)机制:通过四阶段窗口划分和局部稀疏注意力,逐步压缩令牌数量,从196个初始令牌筛选至最终64个关键令牌,同时保持位置索引追踪,实现粗到细的聚焦。②图注意力网络(GAT)建模:将MSAWS输出的高注意力令牌作为图节点,基于余弦相似度构建K近邻邻接矩阵,利用GAT动态学习邻居节点权重,进行结构化特征更新。③全局引导局部特征增强(GGLFE)模块:以GNN输出的全局特征作为查询(Query),IR50骨干网络提取的局部特征作为键值(Key-Value),通过交叉注意力(Cross-Attention)实现融合,保留局部细节并融入全局结构关系。④实验数据集来源:RAF-DB(Real-world Affective Face Database)、AffectNet(含七类和八类标注)、FER2013。所有实验在NVIDIA RTX 4090 GPU上使用PyTorch框架实现,骨干网络IR50预训练于Ms-Celeb-1M数据集。
**研究结果**
**4.1 Generally Setting**:研究人员在RAF-DB、AffectNet和FER2013三个基准数据集上系统评估MFSC性能。RAF-DB包含7类基本表情,AffectNet覆盖8类情绪,FER2013提供35,887张标准化图像。采用准确率作为评估指标,并在统一配置下进行五次独立实验取均值。
**4.2 Comparison Methods**:将MFSC与14种现有方法(如PSR、ARM、DAN、MA-Net、TransFER、POSTER++等)进行对比,这些方法涵盖了CNN改进、Transformer、图网络等多种技术路线。
**4.3 Accuracy Analysis**:在RAF-DB上,MFSC准确率达92.31%,超过POSTER++(92.21%),且无需依赖外部关键点网络。在AffectNet上,七类任务准确率67.35%,八类任务64.28%,展现良好的泛化能力。在FER2013上,准确率76.21%,优于大多数方法。通过实验验证,MFSC在不使用辅助关键点的情况下仍达到领先性能。
**4.4 Computational Efficiency Comparison**:与MA-Net、FST-MWOS、TransFER、POSTER、POSTER++等方法相比,MFSC在参数数量、FLOPs和推理时间上均具有优势。例如,相比POSTER,MFSC参数减少32.036M,FLOPs减少8.1G,推理时间减少16.8ms;相比POSTER++,参数减少3.946M,FLOPs减少0.8G,推理时间减少0.2ms,达到准确率与计算效率的更优平衡。
**4.5 Ablation Study**:设计了四种消融配置:Baseline-ViT(仅ViT)、MFSC w/o MSAWS(移除MSAWS)、MFSC w/o GNN(移除GNN)、完整MFSC。实验表明,移除GNN导致三个数据集上准确率普遍下降;移除MSAWS虽在FER2013上略有提升,但RAF-DB和AffectNet上准确率下降,且FLOPs显著增加。完整MFSC以7.6G FLOPs取得最佳或次佳准确率,验证了MSAWS提升计算效率约10.7%,GNN对局部语义关系建模不可或缺。
**4.6 Visualization**:通过注意力热图可视化,显示MSAWS前三阶段逐步聚焦于眉毛、嘴角等判别性区域,同时有效剪除冗余区域。UMAP聚类分析表明,集成MSAWS和GNN的模型在特征空间中表现出更紧凑的类内聚集和更清晰的类间边界,印证了特征判别能力的提升。
**结论与讨论**
研究人员在结论部分总结:MFSC是一种新颖的FER框架,集成多阶段特征稀疏约束与图基关键区域学习,无需外部关键点或地标检测模块,部署灵活。三个核心组件(MSAWS、GNN、交叉注意力融合)协同工作,在三个基准数据集上取得最先进或高度竞争力的准确率,同时保持高效性(39.8M参数、7.6G FLOPs、112.4 fps)。消融和可视化分析验证了每个模块的贡献。然而,模型仍存在局限性:MSAWS的动态令牌选择引入额外开销,整体模型大小对超低功耗设备仍有挑战;MSAWS中的固定稀疏阈值缺乏自适应性,可能在不同输入条件下非最优;模型对少数类别的召回率有待优化。未来研究方向包括:开发可学习的动态稀疏化策略、探索神经架构搜索或知识蒸馏以构建轻量版本,以及引入类平衡训练机制或自适应阈值调整模块以提升在复杂现实环境中的整体性能。