GaN HEMT S参数建模中机器学习模型与超参数优化方法的系统比较研究

《IEEE Access》：Benchmarking Hyperparameter Optimization Techniques for ML-Based Small-Signal Modeling of GaN HEMTs

　　

摘要：

近年来，机器学习（ML）已成为氮化镓高电子迁移率晶体管（GaN HEMTs）小信号建模的一种有效方法。尽管已经研究了各种机器学习模型和超参数优化技术，但在一致的基准测试框架下对其性能和计算成本进行系统比较的研究仍然有限。本文展示了一项全面的比较评估，将基于树的算法和人工神经网络（ANNs）与八种不同的超参数优化方法相结合，旨在建立一个用于 GaN HEMT S 参数建模的准确且高效的框架。优化和建模框架是在 Python 编程环境中开发的，涵盖了基于搜索、概率和元启发式策略。具体而言，基于树的模型使用了 Scikit-learn 的随机搜索（RS）、网格搜索（GS）和减半网格搜索（HGS）进行优化；Optuna 的树结构帕兹恩估计器（TPE）和高斯过程（GP）采样器；粒子群优化（PSO）、灰狼优化器（GWO）以及 PyGAD 的遗传算法（GA）。对于基于 ANN 的模型，使用 RS、PSO、TPE 和 GWO 进行超参数优化。模型性能使用均方误差、决定系数和计算成本进行评估。结果显示，尽管底层机制存在差异，但在大多数优化技术中，优化后的模型都能达到可比的预测准确性。然而，当同时考虑预测准确性和计算成本时，出现了明显的区别，其中 RS 和 GP 提供了最有利的权衡。