《Machine Learning with Applications》:Probability-based Technical Efficiency Analysis through Machine Learning
编辑推荐:
研究人员提出了一种融合机器学习(ML)与数据包络分析(DEA)的概率化效率评估框架,用于克服传统确定性DEA模型在边界估计中易受数据噪声影响、缺乏不确定性量化及无法提供可解释改进路径的问题。该方法首先利用加法DEA模型生成决策单元(DMU)的效率标签,随后针对
研究人员提出了一种融合机器学习(ML)与数据包络分析(DEA)的概率化效率评估框架,用于克服传统确定性DEA模型在边界估计中易受数据噪声影响、缺乏不确定性量化及无法提供可解释改进路径的问题。该方法首先利用加法DEA模型生成决策单元(DMU)的效率标签,随后针对类别不平衡问题,提出一种适配于生产前沿几何结构的改进合成少数类过采样技术(SMOTE),在保留前沿非重叠特性的同时生成合成样本。通过神经网络(NN)分类器预测各DMU属于高效类别的概率,并结合SHAP(SHapley Additive exPlanations)值确定输入输出的相对重要性,进而构建数据驱动的方向距离函数(DDF)向量,用于测算达到指定效率概率所需的最小投入产出调整量(β*)。实证部分采用西班牙食品工业917家企业2023年SABI数据库样本,结果表明:该方法能有效识别传统DEA误判的高效单元,在不同概率阈值(0.75、0.85、0.95)下提供差异化效率排名与改进目标,行业层面需在总资产平均降低35.32%、固定资产降低43.93%的同时将营业收入提高61.11%,方可达到0.85效率概率水平。研究为效率分析提供了兼具统计推断能力与可解释性的新范式。
研究背景与意义
传统数据包络分析(Data Envelopment Analysis, DEA)作为一种确定性非参数效率评估方法,长期面临边界估计对极端值敏感、缺乏不确定性量化、难以处理高维小样本数据及无法提供可解释改进路径等问题。尤其在食品工业等实际场景中,效率评估需兼顾数据噪声与现实管理约束,而现有研究多依赖刚性前沿假设,导致结果易出现过拟合与误导性标杆选择。为此,研究人员整合机器学习(Machine Learning, ML)的分类与推理能力,构建概率化DEA框架,旨在实现效率状态的不确定性量化、稳健标杆识别及可解释的改进目标设定,为行业资源配置提供更科学的决策依据。该研究成果发表于《Machine Learning with Applications》。
关键技术方法
研究采用四阶段技术路线:① 效率标签生成:应用加法DEA模型(模型6)计算各决策单元(DMU)的松弛变量,以所有松弛为零作为高效判定标准;② 类别平衡处理:针对高效单元占比仅3.16%的极端不平衡问题,提出适配生产前沿几何结构的改进SMOTE算法——若少数类为高效单元,则通过对m+s个真实高效单元进行凸组合生成合成样本,并利用DEA筛选保留帕累托高效点;若为低效单元,则按低效得分分位数均匀生成合成样本;③ ML模型训练与优化:以投入产出变量为特征、效率标签为因变量,采用神经网络(Neural Network, NN)构建分类器,通过k折交叉验证优化隐藏层神经元数(γ)与衰减参数(α),并以平衡准确率(Balanced Accuracy)与精确率(Precision)作为模型选择准则;④ 概率效率测算与标杆识别:利用SHAP值确定各变量的相对重要性,构建加权方向距离函数(Directional Distance Function, DDF)向量,通过反事实分析计算达到指定效率概率阈值(p?)所需的最小调整量(β*),并基于欧氏距离选择最近邻高效单元作为标杆。实证样本为西班牙食品工业917家雇员超50人的企业(2023年SABI数据库),涵盖总资产、员工数、固定资产、人员支出与营业收入五维指标。
研究结果
3.3 数值示例
通过单投入单产出模拟数据集(100个DMU)验证方法流程:传统DEA识别出7%的高效单元,经改进SMOTE平衡至15%比例后,NN模型取得0.97的平衡准确率;对比逻辑回归(LR)、随机森林(RF)与支持向量机(SVM)发现,NN能最优捕捉凹形生产前沿,避免线性边界或离散化区域的偏差;概率阈值设为0.75时,可计算出DMU 4需减少投入至4.97、增加产出至6.67(β*=0.44),并以DMU 12为最优标杆。
4.1 数据集类别平衡
西班牙食品工业样本中,初始高效单元占比3.16%。经网格搜索优化,最佳平衡比例为25%(πmin=0.25),对应NN参数为γ=3、α*=0.01,取得0.87的平衡准确率(高效类召回率0.76、低效类特异度0.98、精确率0.52);过度平衡至50%虽提升召回率,但精确率降至0.37,表明中间比例可兼顾两类识别性能。
4.2 效率概率与特征重要性
最终模型识别出34个效率概率超过0.5的企业,其中25个达到p?=0.75阈值。SHAP分析显示:营业收入(35.62%)>固定资产(25.44%)>总资产(20.25%)>员工数(10.44%)>人员支出(8.24%),表明行业效率更依赖资产利用与营收创造而非人力成本控制。
4.3 技术效率与标杆
在p?=0.85阈值下,399家企业未达标,需平均降低总资产35.32%、固定资产43.93%,并提高营业收入61.11%。企业#83(概率0.7754)仅需微调投入产出即可达标(β*=0.0208),而企业#54(概率0.0063)受限于员工数不低于50人的现实约束,最大可达概率仅为0.82,无法实现0.85阈值。研究提出三区划分法:p≥0.95为高效区,0.75≤p≤0.95为模糊区(建议暂缓定论并补充验证),p≤0.75为低效区(需执行DDF改进目标)。
4.4 行业层面资源再配置
若全行业达到p?=0.85,需累计减少总资产35.32%、员工17.7%、固定资产43.93%、人员支出14.32%,同时增加营业收入61.11%;效率概率每提升0.1,平均β*增加约0.04,证实更高置信度要求更大调整力度。
讨论与结论
研究成功将DEA从描述性工具转化为概率化评估框架,解决了传统方法的前沿脆性与过拟合问题。通过引入ML分类器与XAI技术,实现了效率状态的不确定性量化、可解释改进路径生成及动态标杆选择。实证结果表明:西班牙食品工业效率提升应聚焦于资产利用率优化与营收增长,而非单纯压缩人力成本;概率阈值机制可有效规避不切实际的改进目标,为管理者提供分阶段的实施路线图。未来研究可探索集成学习算法优化、跨行业适用性验证及实时数据动态建模,并进一步检验该框架下规模收益、单位不变性等经典DEA性质的保持情况。