一种受数据包络分析启发、结合生产公理软正则化的生产前沿估计神经网络

《Computers & Operations Research》：A data envelopment analysis-informed neural network for production frontier estimation with soft regularization of production axioms

　　

# 摘要

估计生产前沿是技术效率分析中的基本任务，数据包络分析（DEA）是其中最广泛采用的方法之一。然而，由于DEA具有确定性和非统计特性，往往容易过拟合且泛化能力有限。人工神经网络（ANN）是估计生产前沿的一种有前景的替代方法，但现有的基于ANN的模型大多纯粹由数据驱动，缺乏理论基础，导致估计结果可能存在理论上的不一致或不合理之处。为解决这一局限，我们提出了一种名为数据包络分析驱动神经网络（DEAINN）的新型模型，该模型通过软正则化机制，将DEA的核心假设——单调性、凹性和包络性——嵌入到神经网络的训练过程中。蒙特卡洛模拟表明，DEAINN在多种场景下相比DEA、修正凹非线性最小二乘法（C2NLS）、DEA-ANN以及最小二乘提升（LSB）-多变量自适应前沿样条（MAFS）具有具有竞争力的估计误差和优异的泛化性能。在大规模设置中，随着样本量的增加，DEAINN显著降低了相对于基准方法的计算时间。最后，本研究提出的方法被应用于评估282个中国城市的能源利用效率，结果证明了其实际适用性。

# 引言

生产前沿最初由Farrell（1957）提出，为评估决策单元（DMU）的技术效率提供了理论基准（Simar and Wilson, 2000; Coelli et al., 2005）。因此，准确估计该前沿是任何有意义的效率分析的核心（Olesen and Ruggiero, 2022）。从广义上说，估计方法可分为两类：参数方法和非参数方法。参数方法对生产函数施加特定的函数形式（如柯布-道格拉斯函数或超越对数函数），并使用统计技术估计未知参数（Wang, 1996）。虽然这些模型在统计推断和噪声处理方面具有优势，但它们对规格设定错误敏感，且在捕捉复杂或未知生产结构方面缺乏灵活性（Post et al., 2002）。相比之下，非参数方法直接从观测数据构建生产前沿，不假设特定的函数形式，而是依赖单调性和凸性等公理化性质（Kuosmanen and Johnson, 2010）。这种模型无关的特性使非参数技术能够更好地适应异质性技术和不规则的生产行为，这在现实应用中非常常见。鉴于这些优势，本研究聚焦于非参数前沿估计方法。

在非参数方法中，数据包络分析（DEA）（Charnes et al., 1978）仍然是估计生产前沿最广泛使用的技术之一，广泛应用于医疗、教育、金融和制造等行业（Du et al., 2014; Aviles-Sacoto et al., 2015; Seiford and Zhu, 1999; Chen et al., 2006）。DEA建立在强大的公理化基础之上，包括凸性、单调性（或自由处置性）以及最小外推原理，以构建紧密包络观测输入-输出数据的分段线性前沿（Banker et al., 1984）。在此情况下，凸性公理被转化为对生产前沿的附加要求：凹性（Simar and Wilson, 2000; Valero-Carreras et al., 2021）。

尽管DEA具有坚实的理论基础，但在应用于生产前沿估计时仍存在若干已记录在案的局限。首先，由于DEA的确定性本质和缺乏统计噪声建模，它容易过拟合（Simar and Wilson, 1998; Valero-Carreras et al., 2021; Espa?a et al., 2025）。估计的前沿对样本数据高度敏感，降低了其向观测DMU之外泛化的能力（Dai et al., 2025）。其次，DEA在计算上可能负担沉重，特别是在大规模数据设置中，因为它需要对每个DMU分别求解线性规划（LP）问题，且LP的维度随整个数据集规模增长（Dulá, 2008; Dulá, 2011; Shi et al., 2025; Chu et al., 2024）。这些局限凸显了对新一代前沿估计方法的迫切需求，这些方法在保留DEA理论优势的同时，提供改进的泛化能力和计算可扩展性。

为解决上述局限，近年来的研究努力利用受经济公理约束的机器学习来增强生产前沿估计（Olesen and Ruggiero, 2022; Esteve et al., 2023）。一类研究将形状约束嵌入到单个学习算法中。例如，Esteve et al.（2020）将单调性约束纳入回归树中，使用包含50、100、150和200个观测值的数据集。Valero-Carreras et al.（2021）在20到100个不等的小样本上应用了受单调性、凹性和过原点性质约束的支持向量回归模型。类似地，Espa?a et al.（2024）将单调性、凹性和最小外推原理嵌入到多变量自适应回归样条（MARS）中，使用包含50、100和150个观测值的数据集进行前沿估计。另一类研究使用提升和集成学习技术扩展了这些方法。Guillen et al.（2023b）提出了一种基于提升的方法，使用效率分析树（EAT）作为基学习器，满足自由处置性和包络性。Guillen et al.（2024）进一步将最小二乘提升（LSB）与适应性MARS相结合，嵌入包括包络性、单调性和凹性在内的关键公理。随后，Guillen et al.（2025）开发了一种随机梯度提升方法，用于在形状约束下估计凸性生产技术。这些方法在理论严谨性和机器学习灵活性之间取得了平衡，相比传统DEA展现了改进的泛化能力和减少的过拟合。然而，随着样本量的增长，将公理作为硬约束嵌入的方法面临日益增长的计算需求，这促使人们探索能够更自然地扩展到大数据集的替代方法（Valero-Carreras et al., 2021; Esteve et al., 2023）。

另一方面，人工神经网络（ANN）已成为生产前沿估计的有力工具（Athanassopoulos and Curram, 1996）。得益于万能逼近定理（Cybenko, 1989; Barron, 1993），ANN能够捕捉复杂的非线性生产关系，而无需对技术函数形式施加限制性假设（Wang, 2003）。除了建模灵活性外，ANN在计算方面也具有显著优势，特别是在大规模应用中。与标准DEA不同，后者需要为每个DMU分别求解一个LP问题，ANN只需训练一个单一模型。一旦训练完成，该模型即可在一次遍历中高效评估整个数据集。此外，现代ANN训练可通过基于GPU的并行计算加速，显著减少前沿估计所需的时间，特别是在处理大规模数据集时（Zhong et al., 2021）。然而，在此背景下直接使用ANN面临重大局限。核心问题在于，标准ANN是纯粹的"黑箱"数据驱动模型，本身不遵循对理论上有效的生产前沿所必需的基本经济公理，如单调性和凹性。这些公理对于确保估计前沿的经济可解释性和理论一致性至关重要（Karniadakis et al., 2021）。在缺乏此类经济约束的情况下，ANN确实可能实现较高的样本内拟合性能，但生成的前沿可能表现出经济上不合理的行为，例如指示某些DMU增加投入反而导致产出减少，或产生非理性的规模报酬。此类违反既削弱了模型的信誉，也降低了其在指导政策或管理决策中的实用性。

为解决这些局限，现有研究探索了将经济公理纳入基于ANN的前沿估计的不同策略。一种方法基于随机前沿分析（SFA）框架，将ANN与模型参数的形状约束相结合，以强制执行经济正则条件，如Konstantakis et al.（2025）所述。然而，此类方法需要对函数形式和无效项的分布施加参数假设，这在实践中难以验证，且在错误设定下可能导致有偏估计。另一种方法采用两阶段框架，利用DEA的理论基础。第一阶段，对观测DMU应用DEA以生成基准效率分数并估计生产前沿。第二阶段，训练ANN以在整个生产可能性集上逼近该估计前沿。采用此方法的研究包括（Zhong et al., 2021; Jauhar et al., 2024; Azadi et al., 2023; Mostafa, 2009; Emrouznejad and Shale, 2009）。最近，González-Moyano et al.（2026）将此两阶段设计扩展至概率效率分类，为每个DMU估计在给定用户定义的概率阈值下是高效的概率。该方法还通过距离函数适应了多产出技术，从而拓宽了基于ANN的效率分析的适用性。这类两阶段方法通过使训练好的ANN能够直接推断新DMU的效率，提高了计算效率，从而避免了标准DEA中所需的重复LP计算（Cakir, 2024）。然而，这些方法仍然主要将ANN视为一种后估计逼近工具。尽管ANN可以提供快速且平滑的生产前沿逼近，但它们主要被训练为复制DEA的输出，缺乏对塑造前沿的潜在经济公理（如单调性、凹性）的内在理解。因此，ANN倾向于重现已经嵌入在DEA生成前沿中的过拟合问题，而非纠正它们（Valero-Carreras et al., 2021）。这可能对可解释性和泛化能力构成挑战，特别是在应用于新数据或样本外数据时。

针对传统DEA方法和ANN方法固有的局限，本文提出了一种用于生产前沿估计的新型模型：数据包络分析驱动神经网络（DEAINN）。DEAINN将支撑DEA的经济公理直接编码为ANN学习算法中的软正则化项。单调性、凹性和包络性公理作为强大的正则化机制，引导解空间朝向可管理且理论上合理的域（Raissi et al., 2019; Wang et al., 2024）。通过嵌入此类领域知识，即使在训练数据有限或有噪声的情况下，学习过程也会被引导至理论上合理的解。

本研究的贡献有三方面：

第一，为减轻过拟合并提高泛化能力，DEAINN将DEA的核心假设作为软正则化项纳入其训练过程。具体而言，通过惩罚估计生产前沿的任何负一阶偏导数来鼓励单调性；通过惩罚海森矩阵偏离负半定性的程度来促进凹性；通过惩罚预测输出与观测输出之间的偏差来实现包络性。这种先验知识的原理性整合增强了模型的可解释性和稳健性。蒙特卡洛模拟表明，在多种场景和样本量下，DEAINN在样本内和样本外设置中均实现了比DEA、修正凹非线性最小二乘法（C2NLS）、DEA-ANN以及LSB-多变量自适应前沿样条（MAFS）更低的均方误差（MSE）和平均绝对误差（MAE）。

第二，为提高大规模设置中的计算可扩展性，DEAINN通过一个同时训练所有DMU的ANN避免了标准DEA所需的分别求解LP问题，支持并行计算。将公理作为软正则化项嵌入进一步避免了硬约束公式中大量约束带来的负担。训练完成后，DEAINN可以直接对未见DMU推断前沿估计，无需重新估计。蒙特卡洛模拟表明，相比基准方法，DEAINN的计算时间随样本量增长的速率更慢。

第三，对282个中国城市能源利用效率的实证应用表明，DEAINN产生的效率分数和排名与既定基准方法一致，为估计结果的可靠性提供了实证支持。

本文结构如下。第2节介绍本文背景。第3节详细介绍DEAINN框架。第4节提供蒙特卡洛模拟证据。第5节通过评估DEAINN的稳健性扩展分析。第6节呈现使用能源数据的实证研究。最后，第7节提出我们的结论。

## 数据包络分析

考虑一个包含??个DMU的数据集，其中每个DMU??（??=1,…,??）使用一个包含??个非负输入的向量????=(?????1,…,???????)∈???+来生产一个非负产出????∈?+。根据经典经济理论（例如Hildreth, 1954; Afriat, 1972; Hanson and Pledger, 1976），生产前沿??:???+→?+通常需要满足以下基本假设：

1. **单调性（自由处置性）**：对于所有??1、??2，我们有??1≥??2???(??1)≥??(??2)，其中??1≥??2???1???≥??2???，???=1,…,??。对于

## 所提出的方法

本节提出了一种新型神经网络模型，称为DEAINN，该模型通过软正则化框架将DEA中施加的关键经济公理纳入其中。图2展示了DEAINN的端到端架构。其核心是一个多层前馈ANN和一个DEA驱动的损失函数，该损失函数促进与生产公理的一致性。具体而言，ANN被用来处理DMU的输入-输出数据并估计生产前沿。

DEA信息损失函数的蒙特卡洛证据与比较

本节在受控的蒙特卡洛模拟环境中评估所提出的DEAINN方法的性能，并将其与几种成熟的确定性基准方法进行对比，包括DEA（Banker等人，1984）、C2NLS（Kuosmanen和Johnson，2010）、DEA-ANN（Kwon，2017）和LSB-MAFS（Guillen等人，2024）。DEA和C2NLS的估计在Python中使用pystoned库完成（Dai等人，2024）。DEA-ANN采用Kwon（2017）的PyTorch实现，LSB-MAFS则……

扩展：前沿估计方法的稳健性

遵循Kuosmanen和Johnson（2010），本节在两种替代数据生成过程下评估DEAINN和基准方法的稳健性：乘法无效性和随机噪声。由于这些设置可能有利于随机方法，我们额外将标准Cobb-Douglas SFA（Aigner等人，1977）作为基准，与DEA、C2NLS、DEA-ANN和LSB-MAFS一同纳入比较。SFA基准遵循传统的复合误差设定，其中随机误差服从正态分布……

实证分析

随着快速的城市化和工业化，城市已成为能源消费的主要中心，同时面临着日益严峻的环境压力。从绝对量来看，中国是世界上最大的能源消费国和碳排放国（国际能源署，2021）。因此，在降低能源消耗和碳排放的同时提高能源效率至关重要。与此同时，中国各城市在产业结构、资源……

结论

生产前沿是评估DMU技术效率的基本基准，其准确估计对于稳健的效率分析至关重要。在现有方法中，DEA因其非参数灵活性而被广泛采用。然而，DEA容易过拟合，且计算复杂度相对较高。另一方面，由于神经网络在建模复杂非线性……

CRediT作者贡献声明

陈星越：撰写—初稿、软件、数据管理、概念化。杨敏：撰写—审阅与编辑、监督、方法论、资金获取、概念化。王子轩：撰写—审阅与编辑、验证、概念化。梁亮：撰写—审阅与编辑、监督、资金获取。

致谢

本研究得到国家自然科学基金（72188101，72371092）和中央高校基本科研业务费专项资金（JZ2025HGTG0282）的支持。

陈星越 | 杨敏 | 王子轩 | 梁亮

合肥工业大学管理学院，中国合肥，邮编230009