《Engineering Applications of Artificial Intelligence》:Surrogate activated leaky integrate and fire neurons for electricity theft detection
编辑推荐:
研究人员提出一种计算高效的代理激活脉冲神经网络(SSNet)用于窃电检测(ETD)。SSNet采用带代理梯度的漏积分放电(LIF)神经元来捕获离散用电(EC)测量值中的时间模式,同时与传统深度神经网络相比大幅降低计算开销。为缓解类别不平衡,集成邻近加权合成过采
研究人员提出一种计算高效的代理激活脉冲神经网络(SSNet)用于窃电检测(ETD)。SSNet采用带代理梯度的漏积分放电(LIF)神经元来捕获离散用电(EC)测量值中的时间模式,同时与传统深度神经网络相比大幅降低计算开销。为缓解类别不平衡,集成邻近加权合成过采样(ProWSyn)技术以生成信息丰富的少数类样本。此外,利用时间序列特征提取库(TSFEL)提取一组判别性时间序列特征,以解决高维性问题并增强窃电与非窃电画像的可分离性。研究人员在若干深度学习基线模型上评估了SSNet并展现出优越性能,实现了96.64%的准确率、99.34%的曲线下面积(AUC)以及93.28%的马修斯相关系数(MCC)。此外,SSNet每秒操作数(OPs)与传统深度网络每秒浮点运算次数(FLOPs)的对比表明了所提网络的稀疏性与能效。结果凸显了脉冲神经架构作为大规模ETD高效高性能解决方案的潜力。
研究背景方面,窃电是配电网络中非技术损失的主要来源,对全球公用事业造成显著运营与财务影响,每年全球估计损失893亿美元。传统ETD依赖现场巡检与人工核验,劳动密集、成本高且难以规模化。现代数据驱动方法利用智能电表(AMIs)采集的大规模用电(EC)数据,但面临类别不平衡、高维特征空间与过拟合风险等挑战。现有方法包括经典机器学习与集成模型、循环神经网络(RNN)变体、卷积与混合CNN-RNN架构、图基与元启发式混合系统,但均存在计算成本高、对超参数敏感、冗余特征提取或忽视图拓扑等问题。为此,研究人员开展本研究,提出SSNet以兼顾时序建模能力与计算效率,并在国网福建省电力有限公司相关的SGCC数据集上验证其有效性与能效优势。该研究发表于《Engineering Applications of Artificial Intelligence》。
研究人员开展研究用到的主要关键技术方法包括:采用SGCC公开用电数据集(2014年1月至2016年10月,共42372个数据点,其中非窃电38757条、窃电3615条),对缺失值进行线性插值处理并采用标准缩放标准化;使用邻近加权合成过采样(ProWSyn)缓解类别不平衡;调用时间序列特征提取库(TSFEL)中预构建的OhShuLih模型(结合1D CNN与LSTM的轻量特征提取模块)进行降维与判别特征提取;构建代理激活漏积分放电(LIF)脉冲神经网络(SSNet),以代理Sigmoid函数替代Heaviside阶跃函数实现可微训练,并将阈值Pth与重置电位Vrest设为可学习参数;以Optuna优化基线模型超参数,SSNet初始设置阈值0.1、重置0、衰减率5并动态调整;按6:4划分训练与测试集,采用早停策略,并以准确率、精确率、召回率、F1分数、曲线下面积(AUC)、马修斯相关系数(MCC)及计算时间、突触操作数(SOPs)等指标进行评估。
研究结果部分,首先为4.1 窃电用户分类性能比较。研究人员在特征降维后的数据集上对比SSNet与LSTM、GRU、RNN-LSTM、RNN-GRU、CNN-LSTM、CNN-GRU等基线模型,SSNet分别达到96.68%准确率、97.50%精确率、95.82%召回率、96.65% F1分数、99.34% AUC与93.30% MCC,优于所有基线。训练与验证集上的准确率与损失曲线平滑收敛,无过拟合现象。混淆矩阵显示SSNet正确识别15082个非窃电与14872个窃电样本,仅误分类621个窃电与421个非窃电样本,表明其在不平衡用电数据上具有可靠判别能力。
其次为4.2 计算时间比较。研究人员统计各模型收敛时间、推理时间与总计算时间,SSNet分别为282.71秒、0.94秒与283.65秒,较次优的RNN-LSTM与GRU分别提升约26.92%与28.45%,得益于脉冲神经元事件驱动计算降低计算负担。
再次为4.3 能效与稀疏性比较。研究人员以每秒浮点运算次数(FLOPs)衡量传统深度学习网络,以突触操作数(SOPs)衡量脉冲神经网络,并引入操作数(OPs)进行对比。LSTM与GRU总操作数分别为233601与174561,而SSNet仅为9802,其中第1层为常规FLOPs(6400),后续层依赖稀疏二进制脉冲,层2、层3与输出层稀疏度分别为33.42%、32.38%与20.80%,其余神经元处于非激活状态,体现显著稀疏与能效优势。
接着为4.4 文献对比。研究人员在SGGB数据集上将SSNet与已有文献方法对比,包括SSA–GCAE–CSLSTM(92.25%准确率、71.13% AUC)、TLENET(94%准确率、93% AUC、87% MCC)、iHGB(93%准确率、98% AUC)、MLP-GRU(93.33%准确率、95% AUC、85% MCC)、TCN-LSTM-DCNN(94.7%准确率、98.6% AUC)、DAL(93.02%准确率、81.91% AUC)、TL-BiGRU-BiLSTM(86%准确率、91% AUC)。SSNet以96.68%准确率、99.34% AUC与93.30% MCC取得显著提升,较最优文献方法MCC提升约6.7%,归因于事件驱动脉冲计算、TSFEL特征提取与ProWSyn平衡采样共同优势。
随后为4.5 消融研究。研究人员分别以ProWSyn、SMOTE与随机欠采样(RUS)平衡数据集训练SSNet,结果显示ProWSyn下准确率为0.9668、MCC为0.9330、召回率为0.9582、AUC为0.9934,较SMOTE(0.8756、0.7544、0.9218、0.9415)与RUS(0.7778、0.5588、0.8342、0.8557)明显更优,证明基于样本邻近权重的合成过采样能更好保留类别边界与结构信息。研究人员进一步在代理斜率α=[10,15,20,25]范围内测试SSNet,准确率在96.53%至96.68%间波动,MCC与精确率保持稳定,表明SSNet在该范围内对α不敏感,无需大量调参。研究人员指出局限在于仅在SGCC单一数据集验证,未来需在多数据集评估泛化性。
讨论与结论翻译部分,研究人员在本研究中提出一种用于窃电检测(ETD)的脉冲神经网络SSNet。所提SSNet利用带代理激活的漏积分放电(LIF)脉冲神经元来捕获用电(EC)数据的复杂数据模式。采用邻近加权合成过采样(ProWSyn)技术,通过基于样本邻近信息合成生成少数类样本来缓解类别不平衡问题,在保留关键信息的同时克服过拟合。此外,通过实施预构建轻量深度学习网络克服了数据维度灾难,该网络利用CNN学习变量间空间相关性,再利用循环层捕获时间依赖性。研究人员在降维特征集上训练SSNet与基线方法,SSNet记录到优越性能,达到96.64%准确率、97.25%精确率、95.99%召回率与96.62% F1分数;所提方法因基于能效脉冲神经元的计算,报告的计算负担与操作数(OPs)少于基线深度学习技术,操作数从LSTM基线的233601减少至9802;此外,通过文献对比体现研究稳健性,不同报道方法与SSNet对比凸显SSNet通过显著提升ETD效能的潜力;消融研究表明,基于ProWSyn平衡数据集训练的SSNet较基于SMOTE与随机欠采样(RUS)数据集训练的网络分别提升19.14%与40.17%。在未来工作中,研究人员旨在探究不同脉冲神经架构,如自适应漏积分放电与脉冲响应模型;此外,计划通过集成联邦学习或边缘计算框架来探索基于数据隐私的脉冲神经网络用于窃电检测(ETD)。