《Heliyon》：STEM employment in Spain: An explainable machine learning analysis from a national survey
编辑推荐：
本研究利用2019年西班牙大学毕业生劳动力市场插入调查（Survey on the Labour Market Insertion of University Graduates, EILU），考察与STEM（科学、技术、工程与数学）就业相关的变量。因变量将毕
本研究利用2019年西班牙大学毕业生劳动力市场插入调查（Survey on the Labour Market Insertion of University Graduates, EILU），考察与STEM（科学、技术、工程与数学）就业相关的变量。因变量将毕业约五年后从事STEM职业的毕业生与所有其他毕业生（无论从事非STEM职业或未就业）加以区分。通过采用可解释机器学习方法（特征选择、贝叶斯优化决策树及关联规则挖掘），研究发现，在毕业时即已确定的特征中，持有STEM学位是STEM就业的最强预测因子，其次为性别：仅基于上述特征的决策树可简化为对STEM学位的单一划分，能够正确分类77%的STEM就业毕业生与84%的其他毕业生。2019年报告的 advanced ICT（信息通信技术）技能以及毕业生对其学位有助于求职的回顾性评价亦与STEM就业相关。性别差异与女性在STEM学位中参与率较低及其在STEM学位持有者中STEM就业率较低相一致，且当分析仅限于已就业毕业生时，主要结果依然稳健。
## 一、研究背景与问题
欧洲高等教育扩张增加了高学历劳动力的供给，但毕业生层级岗位的增长相对缓慢且国别差异明显。既有研究记录了教育资质与劳动力市场需求之间的错配，包括过度教育与技能错配，以及毕业生所学专业与其职业之间的不一致。这表明获得大学学位与获得与学业训练相匹配的就业属于两类不同的劳动力市场结果。STEM教育在技术创新、生产率与专业技能需求的讨论中占据突出位置，但选择STEM学科并不必然意味着随后从事STEM职业，从教育到职业结果的过渡因而构成独立的研究问题。
在西班牙，2019年大学毕业生劳动力市场插入调查（EILU）的官方数据显示，2013—2014学年毕业生在2019年的就业率在工程与建筑领域达92.4%，科学领域为83.9%，全体毕业生为86.1%。这些数据反映的是按学习领域划分的就业，而非STEM职业就业。性别是另一重要维度：西班牙与欧盟女性在STEM专业中的代表性不足，Valdés与Solga提供了西班牙从STEM教育向STEM职业过渡中性别差距的直接证据，女性STEM毕业生在首份工作及毕业后四至五年从事STEM职业的可能性低于男性。此外，数字能力对包含ICT专业人员的STEM职业可能尤为重要，但教育资质、自报能力与对学位有用性的回顾性评价属于概念上不同的信息类型，其与就业结果的关联不应被解释为时间先后或因果效应。既有研究虽已广泛探讨STEM学习选择、毕业生劳动力市场错配与STEM职业中的性别不平等，但鲜有研究运用机器学习方法分析西班牙大学毕业生从事STEM岗位的特征，且难以识别与毕业生进入STEM就业关联最强的变量。本研究即以此为目标，采用可解释机器学习模型以避免多数机器学习模型的黑箱性质，同时保留合理的预测性能并捕捉非线性关系与交互作用。需要强调，该分析为预测性与关联性分析，并不识别因果效应。
## 二、研究设计与主要结论
研究人员使用EILU 2019数据，该调查由西班牙国家统计研究所（Spanish National Statistics Institute, INE）实施，于毕业后约五年访谈2013—2014学年毕业生，样本为31651名毕业生、40个变量，涵盖人口学变量（性别、年龄、国家、婚姻状况、与伴侣同居）、学术变量（STEM学位、大学类型（公立或私立）、ICT技能、外语水平、学位满意度（以是否愿意再读同一学位衡量，仅询问愿意再次上大学者）以及学位有用性（以是否认为学位有助于求职衡量））与经济变量（STEM职业、当前工资、首份工资、社会保障缴费）。预测目标为二元变量STEM职业，将访谈时从事STEM职业的毕业生（类别1）与所有其他毕业生（类别0，即从事非STEM职业者与未就业者（失业或非在业））区分。样本中6217名毕业生（19.64%）从事STEM职业，20907名（66.05%）从事非STEM职业，4527名（14.30%）未就业。分析文件保留32个预测变量。EILU产生以校准至人口总数为权重的总体估计，但本分析未使用抽样权重，故所有比例、模型与性能指标均指未加权分析样本。STEM学位依据与ISCED-F 2013一致的西班牙教育领域分类（CNED-2014）识别，涵盖自然科学、数学与统计学、信息与通信技术、工程制造与建筑等课程，以及少量归入其他宽领域的工程导向课程；STEM职业依据西班牙职业分类（CNO-11）识别，涵盖科学、工程与ICT专业人员及技术人员以及相关管理、监督与数学辅助职业；医学与其他健康学位和职业被排除，但保留生物医学工程与光学与验光学两个例外。研究人员还按预测时点（毕业时）对32个预测变量进行时间分类：组(i)为毕业前或毕业时确定的特征；组(ii)为2019年自报、不指向特定工作的技能与学位评价；组(iii)为毕业后劳动力市场经历；组(iv)为与结果同期或针对当前工作测量的变量。为控制信息泄漏，研究人员以仅用训练集预处理的方式重新估计全部预测分析，并以时间标准定义的预测变量集A（仅毕业前或毕业时特征）与集B（A加2019年报告的技能与评价）提供不依赖筛选步骤的检验，还将分析限于27124名已就业毕业生以严格比较STEM与非STEM就业。
## 三、主要技术方法
研究采用三类机器学习方法以兼顾可解释性与预测性能。其一为特征选择，包括互信息（mutual information）、随机森林特征重要性、逻辑回归系数、卡方检验与XGBoost特征重要性五种互补方法，经分层五折交叉验证重复100次或1000次自助重抽样计算，各方法重要性向量归一化后等权平均排序。其二为贝叶斯优化的决策树，采用scikit-optimize库的BayesSearchCV，调优分裂准则、最大深度（1—20）、分裂与叶节点最小样本数、代价复杂度剪枝参数，迭代20次、五折交叉验证，以准确率为评分指标，并按70/30分层划分训练集与测试集。其三为关联规则挖掘，对类别变量进行独热编码后用Apriori算法挖掘频繁项集，报告最小支持度0.02、最小置信度0.5、按提升度（lift）排序的规则，并进行变量排除分析。数据来源为INE公开发布的EILU 2019匿名微观数据。
## 四、研究结果
**4.1.1 特征选择**。研究人员区分出两类与STEM职业相关的变量：劳动力市场（经济）变量与教育/人口学变量。首份STEM就业排名第一，当前就业、工作日程、职业身份与当前工资等其他劳动力市场变量亦进入前十，但这些变量描述就业轨迹本身且在毕业后或与结果同期测量，其高重要性反映的是与结果的邻近性而非毕业时可用的预测信息，故未用作决策树预测变量。在教育与人口学变量中，STEM学位排名最高（总体第二），其次为ICT技能、性别与学位有用性；指向当前工作的ICT因素亦排名靠前。就就业条件而言，从事STEM职业的已就业毕业生更多拥有永久合同（67.5%对54.4%）与全职工作（96.3%对83.1%），月收入2000欧元及以上者比例更高（31.4%对19.2%）。
**4.1.2 贝叶斯优化决策树**。剪枝后的决策树使用三个变量：根节点为STEM学位，无STEM学位毕业生分支使用ICT技能，有STEM学位毕业生分支使用学位有用性。无STEM学位毕业生不太可能从事STEM工作（训练集6.2%），但具有高级ICT技能者比例（15.3%）高于基本或中级技能者（5.0%）；该划分仅细化预测概率而不改变预测类别。在有STEM学位者中，报告学位有助于求职者从事STEM职业的比例为60.4%，报告无帮助或无有效回答者为33.9%。该树中仅STEM学位与学位有用性改变预测类别。在测试集上，剪枝树准确率为0.846（多数类基线为0.804），平衡准确率0.774；贝叶斯优化所得最佳模型准确率略高，为0.858；剪枝模型宏观精确率0.756、召回率0.774、F1值0.764，STEM类别精确率0.598、召回率0.656、F1值0.626，ROC-AUC为0.837。
**4.1.3 关联规则挖掘**。提升度最高的规则（4.027）表明，同时具备男性、STEM学位、高级ICT技能、愿意再读同一学位、报告学位有助于求职且认为ICT培训对获得当前工作贡献"很大"的毕业生中，79.1%从事STEM职业，约为全样本比例（19.6%）的四倍。其他高提升度规则略有变化（如以实践技能贡献"很大"替代高级ICT技能），但均包含STEM学位、男性与ICT培训对获得当前工作的强贡献。由于ICT、实践、语言与理论因素指向当前工作，含这些因素的规则部分描述的是STEM工作的特征而非STEM就业的前因。将前件限于集A特征时，最强规则（提升度3.045，置信度0.598）组合男性、STEM学位、奖学金与因未来就业前景选择该学位，且不含STEM学位的集A特征组合均未达到0.5的最低置信度；加入集B的技能与评价后，最强规则（提升度3.603，置信度0.708）组合STEM学位、高级ICT技能、英语为主要外语、无语言证书与愿意再读同一学位。变量排除分析确认STEM学位的核心作用：排除它使规则数由154降至35，平均置信度由0.645降至0.584，平均提升度由3.284降至2.974，最大提升度由4.027降至3.532；排除ICT因素产生次大降幅（平均提升度3.181，最大提升度3.895），而排除其他任何变量（包括学位有用性）对平均提升度的改变小于0.05。
**4.1.4 敏感性分析**。以仅训练集预处理重新估计时，原编码下重新估计的深度三树与图2树预测完全相同（准确率0.846），重新估计的贝叶斯优化树准确率为0.858，与前述值几乎一致；采用显式编码亦基本不改变结果（贝叶斯优化树0.856，深度三树0.855）。按时间定义的预测变量集分析显示，仅用毕业前或毕业时确定的特征（集A）时，STEM学位是后续STEM就业的主导预测因子（平均归一化重要性0.836），其次为性别（0.077）；集A的贝叶斯优化树简化为对STEM学位的单一划分，正确分类77.2%的STEM就业毕业生与83.8%的其他毕业生（准确率0.825，平衡准确率0.805）。若进一步剔除访谈时记录的年龄组、残疾与国家，树与预测完全相同，STEM学位与性别仍为最重要的两个变量（0.871与0.081）。纳入2019年报告的技能与评价（集B）后，ICT技能成为第二重要变量（0.116），其次为性别（0.052），贝叶斯优化树准确率0.834（平衡准确率0.745，ROC-AUC 0.852），但这些技能为回顾性测量，不能假定毕业时已可获得。随后期信息加入，准确率与ROC-AUC上升：集A为0.825，集B为0.834，集C为0.856（ROC-AUC 0.874），集D（全部预测变量）为0.912（ROC-AUC 0.910）；集D的提升主要归因于排名第一的首份STEM就业（0.355），其次为STEM学位（0.136）。由于集A的单一划分将全部STEM学位持有者归入STEM类别，其平衡准确率（0.805）与STEM类别F1值（0.634）高于集B与集C，代价是准确率较低且STEM类别精确率较低（0.538）。最后，仅限已就业毕业生时结果非常相似：集A树仍简化为对STEM学位的单一划分（准确率0.830，多数类基线0.771，平衡准确率0.809），STEM学位仍为最重要预测因子（0.818），其次为性别（0.085）；集B中ICT技能排名第二（0.106）；基于主要分析预测变量的深度三树仍先按STEM学位划分，再按ICT技能与学位有用性划分；集C与集D准确率分别为0.840与0.900。
## 五、讨论与结论
讨论部分指出，三种方法得到的结果一致表明持有STEM学位是与STEM职业就业关联最强的因素。决策树中，认为学位有助于求职的STEM毕业生更常从事STEM职业（60.4%对33.9%）；由于学位有用性是毕业约五年后的回顾性评价，这一关联可能部分反映毕业生的劳动力市场经历。相反，STEM学位的主导地位不依赖毕业后信息：仅用毕业时确定的特征，对STEM学位的单一划分即可正确分类77.2%的STEM就业毕业生与83.8%的其他毕业生，且仅在已就业毕业生中亦成立。性别变量虽未出现在剪枝树中，却在特征选择、敏感性分析（毕业时确定特征中的第二预测因子）与关联规则中被识别。数据显示，40.4%的男性与19.0%的女性持有STEM学位，在STEM学位持有者中57.6%的男性与47.9%的女性从事STEM职业，这与西班牙文献记录的进入劳动力市场时的"漏水的管道"（leaky pipeline）模式一致；性别因而明显与STEM就业相关，此结果应主要结合STEM学位选择及随后进入劳动力市场中持续存在的性别差距来解读，而非视为性别本身的直接因果效应。研究局限包括：EILU未记录毕业生早期与数学的关系；数据集缺乏可能影响STEM职业轨迹的若干背景与心理变量，如家庭背景、父母教育、社会经济地位、学校过程、社区环境、早期STEM活动接触、榜样、动机、自我效能或对未来职业结果的期望；全部信息在单一调查波次中回顾性收集，部分技能与评价可能受毕业后经历影响。未来研究可将全国调查数据与纵向教育记录、学校层面与家庭背景信息以及深度访谈等定性证据三角互证。
结论部分译文如下：基于决策树的模型与关联规则为与STEM劳动力市场结果相关的因素提供了互补视角。决策树的层次分析突出表明，持有STEM学位是与该领域就业关联最强的变量，而在STEM毕业生中，报告学位有助于求职者从事STEM职业的比例更高。同时，关联规则强调STEM教育、性别与ICT技能等因素的重要性。将预测变量限于毕业时确定的特征并将样本限于已就业毕业生后，STEM学位居首、性别其次的主导地位依然稳健。大多数从事STEM职业的毕业生（77.2%）持有STEM学位。此外，STEM学习选择与获得STEM职位中的性别差距已被广泛记录，本研究数据中亦可见。西班牙已实施专门计划以提高女性在工程与ICT领域的参与，例如瓦伦西亚理工大学高等工程技术学院（ETSE-UV）自2011年起实施促进女性参与学士、硕士与博士层次的项目，其ICT学位女性入学率持续高于同期下降的西班牙平均水平，一项探索性评估表明该项目部分促成了女性毕业率的提高。尽管ICT技能及语言与ICT相关因素亦出现在关联规则中，其贡献小于STEM学位。国家、大学类型、奖学金、海外学习与语言证书在预测变量集分析中重要性较低，尽管奖学金与语言证书在与STEM学位组合的部分高提升度规则中出现。展望未来，公共政策与教育机构可着眼于对STEM领域的早期引导（尤其针对女性）以及ICT技能的发展——如2019年所报告，ICT技能即使对无STEM学位的毕业生也与STEM就业相关（15.3%对5.0%），尽管本研究数据无法确定该关联的方向。学位满意度相对较高：愿意再次上大学的毕业生中72.0%会选择同一学位（STEM毕业生70.0%，其他毕业生72.8%），相当于全部毕业生的61.5%；该变量对STEM就业的预测价值很小。尽管如此，加强大学课程与就业机会之间的联系仍可能帮助毕业生（尤其是学位未能帮助其求职者）更好地利用其所受训练。
