编辑推荐:
自动调制分类中,传统DNN方法因训练与测试数据分布不一致导致性能下降。本文提出一致性正则化训练方法,构建CRCNN模型,通过一致性正则化损失函数约束子模型与全模型输出分布的一致性,解决Dropout带来的输出分布不一致问题,有效提升 incomplete signal pattern条件下AMC模型的分类性能。
陈阳|吴远峰|熊帅|王俊晓|杨书媛|冯志曦|杨一文|孙杰
西安电子科技大学人工智能学院,中国西安 710071
摘要
深度神经网络为自动调制分类提供了创新的解决方案。然而,深度神经网络(DNN)的性能受到信号模式不完整情况的显著影响,这主要是由于训练样本数量有限以及调制信号多样性所致。现有的深度学习模型通常采用正则化方法来增强模型的泛化能力和鲁棒性。但这些方法存在训练和测试输出分布不一致的问题,从而导致模型在测试阶段的性能下降。为了解决这个问题,本文提出了一种适用于信号模式不完整情况下的自动调制分类(AMC)的一致性正则化训练方法。该方法利用设计的一致性正则化损失函数,明确地在子模型输出和完整模型输出之间引入正则化约束,从而减轻由Dropout引起的输出分布不一致性,最终提升模型的泛化能力。实验结果表明,我们的方法有效提高了DNN在信号模式不完整情况下的AMC任务性能。
引言
自动调制分类(AMC)是指在信息未知的情况下对非协作信号进行调制类型的盲识别[1]。它在军事和民用领域都有广泛的应用[2]。近年来,以DNN为代表的深度学习技术已成为信号处理领域中最常用的方法之一,例如卷积神经网络(CNN)[3]、[4]、循环神经网络(RNN)[5]、[6]和Transformer[7]。然而,现有的深度学习方法大多基于训练数据分布与测试数据分布一致的假设[8]。如果测试数据的分布发生变化,模型的性能将会受到影响[9]。在真实的电磁环境中,训练数据很难全面覆盖所有信号分布,从而导致信号模式不完整[10]。
为了减轻信号分布变化对分类性能的影响,深度学习领域通常采用正则化方法来增强模型的泛化能力和鲁棒性[11]、[12]、[13]。其中,在深度神经网络中添加Dropout层[14]是一种常用的正则化方法,用于减轻过拟合并提高网络的泛化能力。Dropout的基本思想是在每次训练迭代中随机“丢弃”一部分神经元(即将它们的输出设置为0),从而使模型在训练过程中不依赖于特定的神经元,从而增强模型的泛化能力并抑制过拟合[15]。尽管Dropout已被证明可以有效减轻网络过拟合并提高泛化能力,但训练过程中引入的随机性会导致训练和推理阶段的输出分布不一致,严重影响网络的推理性能[16]。
为了解决上述问题,本文提出了一种一致性正则化训练方法,并基于该方法构建了一个用于AMC的一致性正则化卷积神经网络(CRCNN)。CRCNN在子模型输出之间以及完整模型输出与完整模型输出之间明确添加了正则化约束,并使用一致性正则化损失函数(Consistency Regularized Loss)进行优化。这种方法解决了由Dropout引起的输出分布不一致性问题,同时增强了模型在信号模式不完整情况下的泛化能力。本文的主要贡献如下:
•提出了一种基于一致性正则化训练方法的CRCNN,可以在信号模式不完整的情况下提高现有AMC模型的分类性能。
•设计了一种具有一维残差结构的一维残差特征提取网络,通过平衡模型参数数量和特征提取性能,能够高效地从一维信号中提取深度特征。
•在三个基准数据集上的广泛实验结果表明,所提出的方法在信号模式不完整的情况下有效。
章节片段
信号模式不完整情况下的AMC方法
为了解决AMC领域中信号模式不完整的问题,之前的研究人员已经进行了相关研究。Kuzdeba等人[17]使用模拟数据和实际数据探讨了训练数据和目标数据之间样本分布差异对模型性能的影响,为未来的工作提供了指导。Bu等人[18]针对AMC模型在测试过程中面临的信号模式不完整问题,提出了一种基于对抗性迁移学习的方法
方法
本节的组织结构如下。首先描述了信号模式不完整的问题。接着介绍了基于传统Dropout的神经网络,并分析了训练和推理阶段之间输出分布不一致的问题。随后介绍了基于一致性正则化训练方法的CRCNN,以及一致性正则化损失函数的构建。最后介绍了
数据集和实验设置
我们首先介绍RadioML 2016.10a、RadioML2016.04c和RadioML2018数据集。
RadioML 2016.10a [31]。RadioML 2016.10a数据集使用GNU Radio合成,包含11种调制类型:BPSK、CPFSK、GFSK、4-PAM、16-QAM、64-QAM、QPSK、8PSK、WBFM、AM-DSB和AM-SSB。该数据集包含总共220,000个信号样本,信噪比(SNR)范围从-20 dB到+18 dB,以2 dB为间隔。数据集包含了多种真实的信道损伤
结论
在本文中,我们提出了一种基于一致性正则化训练方法的新型CRCNN模型,用于信号模式不完整情况下的自动调制分类。该模型在保持低计算开销的同时有效增强了特征表示能力。为了解决由于标记数据有限导致的信号模式不完整问题,我们引入了一种一致性正则化训练方法。该方法采用了一种专门设计的一致性正则化
CRediT作者贡献声明
陈阳:撰写——原始草稿,验证,方法论。吴远峰:资金获取。熊帅:形式分析。王俊晓:撰写——原始草稿,形式分析。杨书媛:撰写——审阅与编辑,方法论。冯志曦:撰写——原始草稿,形式分析。杨一文:撰写——原始草稿,可视化。孙杰:撰写——原始草稿,验证。
利益冲突声明
作者声明他们没有已知的可能会影响本文所述工作的财务利益或个人关系。
致谢
本工作得到了中国国家自然科学基金的支持,项目编号为U22B2018、62276205和62506274。