基于代理模型管理的数据驱动进化优化方法用于复杂中文文本分析

《Applied Sciences》:A Data-Driven Evolutionary Optimization Approach for Complex Chinese Text Analysis via Surrogate Model Management

【字体: 大 中 小 】 时间:2026年06月27日 来源:Applied Sciences 2.5

编辑推荐:

  随着中文社交媒体数据的快速增长,许多语言驱动的分析任务(如情感分析和恶意账号检测)日益被形式化为计算昂贵的优化问题,尤其是在深度学习模型的超参数调优背景下。由于中文文本的内在特性,包括隐式词边界、强上下文依赖性和高语言变异性, resulting featur

  
随着中文社交媒体数据的快速增长,许多语言驱动的分析任务(如情感分析和恶意账号检测)日益被形式化为计算昂贵的优化问题,尤其是在深度学习模型的超参数调优背景下。由于中文文本的内在特性,包括隐式词边界、强上下文依赖性和高语言变异性, resulting feature representations往往呈现高维、稀疏且异质分布的特点。从优化视角来看,这些特性诱导出高度不规则、非光滑且多模态的目标地貌,对传统代理辅助数据驱动进化算法(DDEAs: Data-Driven Evolutionary Algorithms)构成重大挑战。为解决这一问题,本研究提出了一种基于正态选择的数据驱动进化算法(NSEA: Normal Selection-based data-driven Evolutionary Algorithm),旨在改善复杂条件下的代理辅助优化性能。具体而言,研究人员开发了基于正态分布的选择策略(NSS: Normal distribution-based Selection Strategy),通过概率化方式选择代理模型,以平衡对高性能模型的利用与对备选模型的探索,从而缓解多模态搜索空间中的过早收敛问题。此外,研究引入指数加权集成(EWE: Exponential Weighting Ensemble)方法,基于代理模型的相对排名性能进行聚合,以增强搜索空间不同区域上适应度近似的稳定性与泛化能力。在基准函数上的大量实验表明,所提出的NSEA在优化精度和鲁棒性方面持续优于多种最先进的DDEAs。进一步地,研究开展了中文社交媒体平台作弊官方账号(COA: Cheating Official Account)检测的真实应用场景,将异构图变换器(HGT: Heterogeneous Graph Transformer)模型的超参数优化形式化为EOP(Expensive Optimization Problem)。结果进一步证明了NSEA在复杂数据驱动场景中的有效性和实际应用价值。总体而言,本研究为处理具有复杂多模态特性的EOPs提供了有效的优化框架,并为与大规模中文文本数据相关的任务提供了可行的计算方法。
本研究聚焦于中文社交媒体文本分析所引发的高维、异质优化问题,提出基于正态选择的数据驱动进化算法(NSEA),通过改进代理模型管理机制提升复杂多模态优化地貌下的搜索性能。

**一、研究背景与问题提出**

数据驱动进化算法(DDEAs)已成为求解昂贵优化问题(EOPs)的有效范式,其核心在于通过构建代理模型(Surrogate Model)近似底层目标函数,显著降低对真实适应度评估的依赖。然而,中文社交媒体文本具有独特的语言学特性:强意合特征使得逻辑关系常通过语序、功能词和语义语境隐式传达;缺乏显式词边界标记及丰富的屈折形态变化;语义表征高度依赖上下文,且易受新兴网络俚语、新词及快速演变的在线表达影响。这些特性导致文本特征表征呈现稀疏、异质和噪声干扰的特点,显著增加了下游学习与优化任务的复杂度。

在此背景下,基于深度神经网络的文本分析框架中超参数优化问题涉及高维、非凸且计算昂贵的搜索空间。现有优化方法在处理不规则多模态地貌时往往面临搜索多样性不足、过早收敛或代理参与不稳定等问题。具体而言,传统DDEAs存在三方面局限:单一代理模型泛化能力不足;确定性或贪婪式模型选择策略过度集中于少数高性能模型,限制探索并增加过早收敛风险;基于绝对误差度量的传统集成方法难以充分反映代理模型在搜索空间不同区域的相对性能差异。

**二、核心贡献与技术方法**

为应对上述挑战,研究人员提出NSEA框架,集成两项核心机制:正态分布选择策略(NSS)与指数加权集成方法(EWE)。该论文发表于期刊《Applied Sciences》。

NSEA的关键技术方法包括:采用拉丁超立方采样(LHS: Latin Hypercube Sampling)生成初始候选解集;基于伯努利采样构建多个径向基函数神经网络(RBFNN: Radial Basis Function Neural Network)代理模型;通过NSS概率化选择代理模型;运用EWE基于排名性能进行加权聚合;以进化计算(EC: Evolutionary Computation)范式驱动搜索过程。在应用场景中,研究使用WeChat平台提供的真实数据集,包含32,021个合法官方账号和5,391个COA,数据集按70:15:15比例分为训练集、验证集和测试集。

**三、研究结果**

**基准函数实验。** 研究在EOP1-EOP5五个经典基准问题上进行测试,维度设置涵盖10、30、50和100维。结果表明:10维情形下NSEA与对比算法性能相当,在EOP1上显著优于DDEA-SE、DDEA-PES和BDDEA;30维时优势更为明显,对DDEA-PES和BDDEA分别取得4/1/0和5/0/0的优/平/劣结果;50维时几乎在所有问题上均达最佳性能;100维时仍保持强竞争力,对DDEA-SE和DDEA-PES均取得5/0/0的优/平/劣记录。

**消融实验。** 为验证NSS和EWE的有效性,研究构建了NSEA-w/o-N(移除NSS,采用贪婪选择)和NSEA-w/o-E(移除EWE,采用平均加权)两个变体。结果显示:NSEA在所有维度设置的所有测试问题上均显著优于NSEA-w/o-N,且维度越高性能差距越大,表明NSS对改善模型选择质量至关重要;NSEA对NSEA-w/o-E在多数情形下显著更优或相当,尤其在50维问题上EWE提升明显。

**参数敏感性分析。** 研究比较了K=20, 100, 200, 300, 400时NSEA的性能,发现默认设置K=300在各类维度下均表现稳健,过小 ensemble 规模限制模型多样性,过大则冗余且增加计算开销。

**COA检测应用。** 研究将HGT模型超参数优化形式化为EOP,优化目标为最大化分类性能。对比结果表明:默认HGT配置macro-F1为43%、micro-F1为88%;NSEA-HGT达macro-F1 52%、micro-F1 94%,较基线提升9和6个百分点,且优于所有对比DDEA方法,尤其在minority class检测上优势显著。

**复杂问题验证。** 在IEEE CEC 2025 Competition Benchmark的29个复杂问题上,NSEA对比DDEA-SE、DDEA-PES、BDDEA分别取得10/19/0、4/23/2、8/19/2的优/平/劣记录,验证了其处理高度复杂优化地貌的有效性。

**四、讨论与结论**

**讨论。** NSEA的性能提升源于NSS与EWE的互补设计:NSS通过维持模型选择多样性缓解过早收敛,EWE通过排名加权提升搜索空间不同区域的聚合一致性。本研究的探索-利用讨论主要源于算法设计原理和经验优化行为,而非显式行为地貌分析。研究的局限性包括:验证场景限于基准函数和单一真实任务;主要基于RBFNN代理集成,其他代理架构(如高斯过程、深度代理模型)的适用性待验证;应用领域集中于中文社交媒体分析。

**结论。** 本研究针对DDEAs中代理模型训练样本有限导致的过拟合问题,提出集成NSS和EWE的NSEA框架。NSS通过联合考虑预测精度与多样性实现代理模型的概率化选择,平衡利用与探索;EWE通过排名加权集成所选模型,增强适应度估计的稳定性与可靠性。大量基准函数实验与COA检测真实应用验证了该方法的有效性和鲁棒性,证明其能够处理高维异质文本特征引发的优化问题。未来工作将拓展至更广泛的异质多模态数据优化任务,并探索与更先进深度学习架构及自适应在线优化策略的融合。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号