《Connection Science》:An explainable hybrid AI architecture for operations research in industry 4.0: deep learning and interpretable modelling for intelligent decision support
编辑推荐:
本研究提出了一种扩展深度神经网络-逻辑回归(Extended Deep Neural Network-Logistic Regression, EDNN-LR)架构,作为工业4.0环境中管理科学(Management Science, MS)和运筹学(Oper
本研究提出了一种扩展深度神经网络-逻辑回归(Extended Deep Neural Network-Logistic Regression, EDNN-LR)架构,作为工业4.0环境中管理科学(Management Science, MS)和运筹学(Operations Research, OR)应用的预测-规定性决策支持模型。该扩展架构集成了卷积-池化层、条件随机场(Conditional Random Field, CRF)模块和一个逻辑回归校准头,以提高收敛稳定性、可解释性和优化性能。该模型通过两项基于CoinMarketCap(2013?2021)数据的互补实验进行评估。第一项实验在MATLAB R2024a中针对高流动性子集(AVAX-BTC-ETH)进行,评估了预测性能,实现了98%的分类准确率和0.846的AUC。第二项实验在Python 3.12中使用TensorFlow 2.17实施,评估了包含约444万条记录、涵盖8927种加密货币的完整数据集上的计算可扩展性。尽管大规模判别性能有限(AUC ≈ 0.50),但该模型在处理高度异质的市场数据时表现出稳定的收敛性和高效的处理能力。比较分析表明,EDNN-LR比基线深度神经网络(Deep Neural Network, DNN)收敛更快,同时通过其逻辑回归组件保持了可解释性。通讯作者开发了一个可复现的软件实现,该实现附属于本研究,并在补充的《Software Impacts》文章中进行了记录。研究结果表明,EDNN-LR作为一种可解释的决策支持框架,在复杂、数据密集型环境下的预测和优化方面具有潜力,而其在物流、能源和供应链系统中的跨领域应用仍是未来研究的方向。
论文解读
一、研究背景与问题
随着通信和信息技术的全球扩散,金融系统和在线交易结构发生了根本性变革,重塑了预测、风险管理和决策的动态机制。在线市场的激增不仅降低了交易成本和时间,也带来了与数据管理、信息不对称和网络风险相关的复杂挑战。例如,英国大型企业在重大数据泄露后的平均恢复成本高达140万美元,平均恢复期为九个月。这些系统性脆弱性促使研究人员将机器学习和深度学习方法应用于复杂经济环境,以提升预测准确性、鲁棒性和韧性。
在此背景下,加密货币市场被视作工业4.0的类比物,因为它们展现出网络物理生产系统的关键结构性特征:持续的高频数据生成、数字信号与物理行为之间的实时反馈循环、类似于供应链冲击的随机扰动,以及分布式工业生态系统特有的多智能体交互。然而,现有深度学习模型普遍存在三个局限:(1)由于网络参数不透明而缺乏可解释性;(2)在高噪声、高维数据中收敛不足;(3)概率推理与深度架构的整合较弱。因此,亟需一种能够平衡预测深度和统计可解释性的统一框架。
二、研究目标与方法
为解决上述问题,研究人员提出了扩展深度神经网络-逻辑回归(Extended Deep Neural Network-Logistic Regression, EDNN-LR)混合架构。该架构旨在提高加密货币和外汇市场时间序列的预测可靠性,并将预测输出转化为不确定性下的最优交易策略。
研究使用了来自CoinMarketCap的2013至2021年历史数据集,包含超过8927种加密货币的约444万条每日观测记录。数据预处理包括缺失值剔除、异常值去除以及[0,1]区间的Min-Max归一化,并按70:30比例进行严格的时间顺序划分以避免数据泄漏。
关键技术方法主要包括:
- 1.
EDNN架构:在传统前馈深度神经网络基础上扩展了三个结构组件——卷积-池化前端用于分层时序特征提取、条件随机场(Conditional Random Field, CRF)层用于潜在市场状态的上下文平滑、以及逻辑回归校准头施加最大熵正则化。
- 2.
逻辑回归精炼:在EDNN嵌入之上提供可解释的概率校准,通过最大似然估计在最大熵原则下估算参数,实现降维和可解释的概率映射。
- 3.
联合目标函数:结合EDNN重建损失(均方误差)、逻辑回归交叉熵损失和CRF负对数似然损失,通过权衡系数控制可解释性和上下文正则化的影响。
模型在MATLAB R2024a中实现(GPU加速),并在TensorFlow 2.17中进行了大规模可扩展性验证。
三、研究结果
实验一:MATLAB实施——高流动性子集预测性能
研究人员在MATLAB R2024a中对AVAX-BTC-ETH高流动性子集进行了预测性能评估。模型架构包含128-64-32神经元的隐藏层,训练2000个周期。结果显示,EDNN-LR实现了98%的分类准确率、0.846的AUC和90.6%的召回率。训练曲线显示均方误差在前100个周期内迅速下降并稳定在约0.0042附近,梯度轨迹平稳下降,验证检查保持为零,学习率呈现受控的周期性调整。误差直方图显示残差紧密集中在零附近,回归分析显示相关系数R ≈ 0.99,证明预测值与实际值高度一致。
实验二:TensorFlow实施——全数据集可扩展性
研究人员在TensorFlow 2.17中使用完整的CoinMarketCap数据集(约444万条记录)评估了计算可扩展性。模型采用简化的密集架构(512-256-128-64-1神经元),在第142个周期达到最佳验证准确率0.5434,交叉熵损失为0.082,AUC ≈ 0.50。训练过程展示了强大的数值稳定性,GPU内存利用率约41%,每周期平均训练时间约4.6秒。研究人员指出,全数据集与高流动性子集之间的性能差异反映了数据异质性而非算法不一致性——全数据集包含8927种具有不同流动性、交易频率和市场微观结构的加密货币,引入的大量噪声导致接近随机的判别性能(AUC ≈ 0.50)。
对比分析:EDNN-LR与CNN、LSTM的波动性压力测试
研究人员将EDNN-LR与传统CNN和LSTM架构在噪声扰动和制度转换场景下进行了对比。由于Windows原生限制无法使用CUDA/cuDNN GPU加速,CNN/LSTM基线模型只能使用CPU或TensorFlow-DirectML插件执行,导致训练速度较慢和数值不稳定(包括CNN模型的NaN损失行为)。在所有模型均出现性能退化的情况下,EDNN-LR在评估的波动条件下保持了更高的稳定性。但研究人员强调,由于CNN和LSTM基线模型出现了退化预测和近乎随机的判别性能,直接定量比较不被认为是结论性的。
交易策略设计
基于模型的预测输出p?t = ?(ΔPt > 0 | Ft),研究人员设计了三种不确定性下的交易策略:
- •
策略I:单资产方向性策略:基于预测回报生成多头/空头信号,通过置信阈值和交易成本优化期望收益。
- •
策略II:双配对比较配置:在约束优化模型下对两种资产进行交易,通过预测均值-方差效率推导最优权重。
- •
策略III:同步多市场执行:使用随机动态规划在预测范围内优化多资产组合,包含状态转移方程和惩罚过度激进交易的协方差矩阵。
四、讨论与结论
讨论部分总结
研究人员讨论了研究的行业4.0和管理科学含义。EDNN-LR框架的混合设计——结合深度非线性映射能力和逻辑回归的可解释正则化——使其特别适用于数据异构、高波动和高维不确定性的网络物理决策环境。该模型不仅在金融预测中展现了潜力,还可被视为嵌入更广泛工业4.0网络物理架构中的实时决策支持机制,将预测优化与运营韧性和系统级适应性联系起来。研究人员指出,2013-2021年的数据窗口选择是有意为之,排除了2022-2025年的结构性断裂事件(如稳定币脱锚、交易所倒闭和监管干预),从而提供了一个相对同质的环境用于方法论验证。然而,这也意味着模型在极端市场条件下的鲁棒性仍有待未来研究。
研究结论
本研究表明,EDNN-LR作为一种可解释的决策支持框架,在复杂、数据密集型环境下的预测和优化方面具有潜力。该混合架构通过集成逻辑正则化实现了可解释的收敛加速,这种双层设计同时增强了高维工业4.0系统中的预测稳定性和透明度——这一能力此前尚未在百万级金融数据集上得到实证验证。研究发现,EDNN-LR在相对同质的高流动性市场中表现优异(AUC = 0.846),但在高度异质的全市场数据中仅达到接近随机的判别性能(AUC ≈ 0.50),这突显了数据质量对模型有效性的关键作用。未来的研究方向包括将该框架应用于物流、能源和供应链系统等跨领域场景,以及在极端市场转型条件下评估泛化能力。