《Frontiers in Physics》:Machine learning analysis of cross-industry innovation efficiency: evidence from Chinese listed companies (2006–2023)
编辑推荐:
摘要
背景:上市公司如何将研发(R&D)支出转化为专利产出,是创新管理与应用计量经济学中的核心问题。研究将 InnoEff1 视为一种约化形式(reduced-form)的创新转化指标,而非数据包络分析(DEA)/随机前沿分析(SFA)意义上的前沿效率评分。
摘要
背景:上市公司如何将研发(R&D)支出转化为专利产出,是创新管理与应用计量经济学中的核心问题。研究将 InnoEff1 视为一种约化形式(reduced-form)的创新转化指标,而非数据包络分析(DEA)/随机前沿分析(SFA)意义上的前沿效率评分。
方法:基于覆盖20个行业板块的40,706个中国上市公司—年份观测值(2006–2023年),研究优先采用受限变量的梯度提升(Gradient Boosting)模型设定,该设定排除了与结果变量分子部分重叠的当期专利存量变量。模型验证结合了按公司分组的五折 GroupKFold、严格的2019–2023年时间留出检验、DEA/SFA 风格基准比较,以及行业均衡子样本检验。
结果:在 GroupKFold 条件下,受限模型的 R2 约为0.414,而时间留出检验下约为0.144;相比之下,若保留专利重叠变量,R2 分别约为0.989与0.978,这量化揭示了机械性拟合膨胀。列示的跨行业平均 InnoEff1 介于0.088范围内(表1);Kruskal–Wallis 检验拒绝各组分布相等假设(H ≈ 2133,P < 10?10),且表1中的45组两两比较中,经 Holm–Bonferroni 校正后仍有28组差异显著。受限模型的 SHAP(Shapley 加性解释)归因结果显示,滞后研发强度与财务协变量占据主导地位。
结论:本文的贡献在于经验证的机器学习实践——包括泄漏控制、可解释性分析以及透明的基准比较——而不在于接近1的 R2 诊断值。预测模式仅体现相关性(associative),不足以支持“广泛适用型政策优于行业特定创新支持政策”的因果性主张。
本文发表于《Frontiers in Physics》,研究聚焦于中国上市公司在2006–2023年间的跨行业创新转化效率差异,并尝试回答一个在创新管理与应用计量经济学中都极具现实意义的问题:企业如何将研发(R&D)投入有效转化为专利产出。现有研究虽然长期关注创新效率测度,但传统投入—产出比、数据包络分析(DEA)与随机前沿分析(SFA)等方法各有局限。简单比率难以充分处理偏态分布、时滞与质量差异;DEA 对离群值敏感,且属于确定性前沿方法;SFA 虽能区分随机噪声与无效率,但依赖较强的分布假设与函数形式设定。在机器学习(ML)逐渐进入创新研究后,尽管其能够处理高维、非线性关系,但也面临严重的过拟合与数据泄漏风险,尤其是在面板数据中,同一企业不同年份样本若同时出现在训练集与测试集中,极易导致虚高的预测表现。因此,开展一项兼顾预测性能、方法透明性与严格验证框架的研究,具有明确的学术与实践价值。
围绕上述问题,研究人员以中国上市公司为对象,构建了覆盖20个行业板块、40,706个公司—年份观测值的大样本数据库,数据来源包括中国证券市场与会计研究(CSMAR)数据库、中国国家知识产权局(CNIPA)专利数据、公司年报中的研发支出信息以及中国证监会(CSRC)行业分类。样本构建过程中,研究排除了 ST/PT 企业、金融机构(CSRC 中 J 类)以及关键变量缺失观测,并在稳健性分析中使用1.5×四分位距(IQR)规则对 InnoEff1 进行裁剪。论文提出的核心被解释变量 InnoEff1,并非前沿意义上的“效率”,而是一个对数比率形式的创新转化指标,即以专利产出相对于研发投入的对数化比值来刻画企业在观察期内的创新转化强度。研究特别强调,该指标属于约化形式(reduced-form)指标,不估计最优生产前沿,也不分离随机误差与真实无效率,因此其功能更适合用于面板回归、机器学习预测及跨行业比较,而不是替代 DEA/SFA。
为避免构念重叠(construct overlap)导致的机械性高拟合,研究人员在监督学习中区分了“受限模型”与“非受限模型”。由于 InnoEff1 的分子本身包含专利产出,如果再将同期专利存量作为预测变量纳入模型,就会人为抬高预测效果。因此,研究将专利相关变量从主要预测设定中剔除,仅保留研发强度、杠杆率、企业规模、资产收益率以及滞后研发强度等结构性协变量,并把包含同期专利变量的模型仅作为诊断性基准,用于展示构念重叠对拟合优度的膨胀程度。
作者为开展研究主要使用了以下关键技术方法:基于中国上市公司2006–2023年面板样本,构建创新转化指标 InnoEff1、InnoEff2 与 Quality Efficiency;采用线性回归、Ridge、Lasso、随机森林(Random Forest)、梯度提升(Gradient Boosting)、XGBoost、LightGBM 及支持向量回归(SVR)等模型进行比较;在验证策略上使用按企业分组的五折 GroupKFold 与严格时间留出法(2006–2018训练,2019–2020验证,2021–2023测试)以控制泄漏;使用 Kruskal–Wallis、Welch 方差分析、Mann–Whitney U 检验及 Holm–Bonferroni 多重校正进行行业差异推断;并借助 SHAP 与 LIME 进行模型解释,同时引入 DEA/SFA 风格基准作为参照。
在研究结果部分,论文首先围绕“机器学习能否在控制构念重叠和企业层面泄漏后可靠预测未来创新效率”展开分析。
Descriptive statistics
描述性统计结果表明,样本中的 InnoEff1 平均值为0.135,标准差为0.073,中位数为0.150,说明企业间与行业间创新转化强度存在较为明显的异质性。InnoEff2、研发强度、专利总量、加权专利量与质量效率指标也显示出较大离散程度,为后续建模提供了必要的统计基础。
Machine learning model performance
在模型比较中,研究将受限预测设定作为主分析框架。结果显示,在按企业分组的 GroupKFold 验证下,梯度提升模型表现最佳,样本外 R
2 约为0.414;在更为严格的时间留出检验中,测试集 R
2 下降至约0.144。这说明结构性财务变量与滞后研发变量确实能够捕捉一定的创新转化信号,但预测能力总体属于“中等且可信”的水平,而非极高精度。与之相对,若将与结果变量分子重叠的同期专利存量纳入模型,GroupKFold 下 R
2 可升至约0.989,时间留出下亦达到约0.978。论文据此明确指出,这种接近1的拟合优度主要源于机械性重叠,而不是模型真正具备了高水平泛化能力。研究因此将高 R
2 非受限结果限定为“诊断用途”,不用于实质性解释或政策推断。
Cross-industry innovation efficiency analysis
在跨行业比较方面,研究利用清洗后的估计样本,对表1列示的十大行业组进行均值排序。结果显示,E—建筑业的平均 InnoEff1 最高,为0.192;N—水利、环境与公共设施管理业为0.170;C—制造业为0.166;而合并后的其余非金融残差行业组均值最低,为0.103。表1所示最高与最低行业均值之间的差距为0.088。Kruskal–Wallis 总体检验显著拒绝各行业分布相同的原假设,统计量 H 约为2133.1,P < 10
?10。进一步两两比较中,经 Holm–Bonferroni 校正后,45组比较中仍有28组显著。这意味着行业间差异在统计上是稳健存在的,否定了早期草稿中“行业差异普遍不显著”的判断。不过,作者同时强调这些差异在经济量级上属于中等水平,且制造业样本占比极高,因此在解释行业排序时需保持审慎。行业均衡抽样子样本仍然保留约0.110的均值跨度,表明异质性并非单纯由制造业样本主导所致。
Empirical benchmarks for the log-ratio index
为增强 InnoEff1 的可解释性,研究将其与两类经典前沿风格指标进行比较。结果显示,InnoEff1 与基于自由处置壳(FDH)的 DEA 风格包络基准具有较高相关性,相关系数约为ρ ≈ 0.924;与基于 ln 专利对 ln 研发并加入年份和行业固定效应回归所得的 SFA 风格残差亦保持较强一致性,|ρ| ≈ 0.798。这说明虽然 InnoEff1 并不等同于严格的前沿效率估计,但它能够较好反映创新投入向产出转化的相对强度,是一种透明、低数据要求且适合大规模稀疏面板的替代性指标。
Alternative outcomes and metrics
在替代结果指标的稳健性分析中,研究采用 InnoEff2、Quality Efficiency、专利引用强度(LnCit2)等指标重新估计关键结论。结果显示,InnoEff2 与以发明专利为核心的质量效率指标,与 InnoEff1 的排序相关系数均超过0.90,说明结论不依赖单一指标设定。行业均衡样本下仍保留明显行业差异,进一步支持跨行业异质性的稳健性。
Cross-industry inference (reconciled)
论文进一步对行业间推断结果进行校正性整合。在完整清洗样本上,Kruskal–Wallis 与 Welch 异方差单因素方差分析都支持行业间存在显著差异。作者据此明确区分了三层含义:第一,统计显著性确实广泛存在;第二,经济差异虽不极端,但并非可以忽略;第三,小样本行业中部分不显著结果可能反映统计功效不足,而不是行业间真正没有差别。
Statistical analysis and model validation
统计分析与验证部分显示,不同创新效率指标之间具有较强正相关,支持指标体系内部一致性。训练表现与交叉验证表现之间的接近,也说明在受限设定和阻断式验证框架下,过拟合证据有限。尤其是随机森林、梯度提升、XGBoost 和 LightGBM 等集成模型,其训练集与验证集性能差距较小,表明通过正则化、样本分块和合理调参,机器学习可在创新研究中实现相对稳健的泛化。
Temporal trends in innovation efficiency
时间趋势分析表明,2006–2023年间,中国上市公司创新转化强度总体呈逐步上升趋势,平均年增长幅度约为0.1个百分点。同期,研发投入强度与专利申请数量也均稳步增长。这一结果与中国创新驱动发展战略背景相一致,但作者同时指出,增速并不高,说明制度与资源配置层面的结构性约束依然存在。
Advanced statistical analysis and model diagnostics
模型诊断结果显示,最佳表现模型梯度提升的残差围绕零值随机分布,未呈现明显系统性偏差;Q-Q 图显示残差近似服从正态分布,从而支持推断的有效性。模型复杂度与性能关系分析则表明,更复杂模型通常带来更高拟合度,但收益递减与过拟合风险并存,因此本文所选择的模型设定体现了性能与泛化之间的折中。
Model interpretability: SHAP and LIME analysis
在可解释人工智能(XAI)分析中,论文特别区分了受限模型与非受限模型。对于具有实质解释意义的受限梯度提升模型,SHAP 全局结果显示,滞后研发强度指标(如 LRDsz、LRDincome)、当前研发强度(RDsz)、杠杆率和企业规模是最重要的预测变量;LIME 的局部解释也表明,较高的滞后研发收入强度会提高某一企业—年份观测的预测创新转化值。相比之下,在纳入专利变量的非受限诊断模型中,Patent1、patent_total 等变量占据 SHAP 排名主导地位。作者明确指出,这种“重要性”主要反映构念重叠造成的机械贡献,不能作为经济机制解释,也不能作为政策建议的依据。
讨论部分主要强调了三方面内容。其一,在方法论层面,论文的主要贡献不在于简单应用机器学习,而在于建立了严格的验证框架,包括企业分组的 GroupKFold、时间阻断检验、构念重叠控制、受限/非受限双轨报告及 DEA/SFA 基准比较,从而为创新研究中机器学习的可靠使用提供了可复制模板。其二,在实质发现层面,研究证明行业间创新转化强度差异是存在的,且具有统计稳健性,但差距总体为中等规模,企业内部异质性仍然非常大,因此不能用单一行业标签替代企业层面判断。其三,在解释层面,论文反复提醒读者,InnoEff1 是“创新转化指标(innovation-conversion indicator)”,而不是严格意义上的“前沿效率”;同样,机器学习模型所揭示的是预测关联,而非因果效应,因此不能据此推断“提高研发投入必然导致创新效率提升”,也不能据此断言普适性政策优于行业定向政策。
论文结论部分可概括并翻译如下:本研究利用经严格验证的机器学习方法,分析了2006–2023年中国上市公司(n = 40,706)的跨行业创新转化模式。作为主要模型的受限梯度提升设定,在 GroupKFold 验证下取得 R
2 ≈ 0.414,在时间留出检验下取得 R
2 ≈ 0.144;而接近1的非受限 R
2 ≈ 0.989 仅被视为诊断性结果。跨行业平均 InnoEff1 差异在经济上可见(表1范围约0.088),并在统计上稳健(45组两两比较中有28组经 Holm 校正后显著)。本文对创新管理与可解释机器学习实践的贡献,在于记录并展示了泄漏控制、双重 XAI 报告以及 DEA/SFA 基准比较(ρ ≈ 0.924)。关于政策因果结论,研究将其保留给未来的准实验研究;当前发现的预测性关联更适合用于监测与评估,而不应被直接转化为对广泛型或行业特定创新政策的无保留处方。