一种基于认知启发的特征级融合框架：集成极端梯度提升机、人工神经网络与注意力机制模型的可解释零售销售预测

《Frontiers in Big Data》：A cognitively inspired feature-level fusion framework for interpretable retail sales forecasting using integration of extreme gradient boost machine, artificial neural network and attention mechanism model

　　

引言：现代数据密集型环境下的准确零售销售预测要求模型不仅具备高预测精度，还能随数据量与特征复杂度增加高效扩展。本研究提出一种新颖的认知启发混合框架XGB–ANN–Attn，用于可解释且可扩展的零售分析。方法：该模型通过集成XGBoost派生的叶嵌入（leaf embeddings）与深度神经表示实现特征级融合，联合建模低阶统计依赖与高阶非线性特征交互。轻量级注意力机制动态分配实例特定特征重要性，在保持关于特征维度线性计算复杂度的同时提升预测性能与可解释性。不同于在决策级操作的常规集成方法，所提框架在表示级集成表征，降低冗余并提升计算效率。模型设计兼顾可扩展性，结合梯度提升的对数线性复杂度与神经网络及注意力机制的线性扩展特性。结果：在BigMart与Walmart数据集上的实验评估显示优于前沿模型，BigMart上RMSE=0.1584、R2=0.9946，Walmart上RMSE=0.8652、R2=0.9568。框架支持并行化与分布式部署，适用于大规模零售系统。讨论：注意力权重与SHAP解释的吻合提供透明且可操作的洞察。结果确认所提方法为大数据零售环境下AI驱动决策支持系统提供可扩展、可解释和高性能的解决方案。

研究背景与动机：现代零售环境数据快速增长，传统统计与机器学习模型（如线性回归、树模型）虽具鲁棒性与可解释性，但难以捕捉结构化数据中的复杂高阶关系；深度学习模型在表格数据上面临可解释性弱、对数据特性敏感及计算开销大等限制。现有混合方法多依赖决策级集成，未能在表示层融合树模型与神经网络的互补表征，且多数缺乏实例级自适应特征加权与透明解释能力。为此，研究人员在《Frontiers in Big Data》发表该研究，提出XGB–ANN–Attn框架，以特征级融合联合XGBoost叶嵌入与ANN潜表示，并引入认知启发（类人选择性注意）的轻量级注意力机制，对齐注意力权重与SHAP（SHapley Additive exPlanations）解释，兼顾精度、可扩展性与可解释性。

主要关键技术方法：研究人员采用公开二级数据集BigMart销售库（Kaggle）、Walmart销售预测集及M5沃尔玛零售商品集；预处理含分组中位数填补Item_Weight、监督分类填补Outlet_Size、类别标准化（如Item_Fat_Content归并）、z-score归一化、IQR（Interquartile Range）异常保留策略、80:20划分与k折交叉验证；核心建模分三路并行——XGBoost学树结构并将叶节点索引嵌为稠密向量z_i^(xgb)∈R^d1，ANN编码器输出连续潜表示z_i^(ann)∈R^d2，二者拼接后经线性复杂度注意力层得实例特定权重α_i进行特征重标定，最终由输出层预测Item_Outlet_Sales。技术关键为表示级融合而非决策级集成、轻量注意力（O(d)复杂度）、注意力–SHAP一致性解释。

研究结果

1 Introduction：指出零售预测受非线性需求、异质特征交互与动态运营条件挑战；明确传统ML与纯深度学习各自局限，提出以认知启发注意力桥接性能与可解释性，列述五大贡献（特征级融合、线性复杂度注意力、近线性扩展架构、注意力–SHAP对齐、跨数据集验证）。

2 Related works：综述TabNet、NODE、FT-Transformer、SAINT、DeepGBM等表格深度模型，指其或依赖纯神经表征、或自注意力计算重、或仅决策级耦合树与网络；以此凸显XGB–ANN–Attn在表示级融合、线性注意力、分布式可部署上的差异。

2.1 Distinction from existing deep tabular models：详述本框架相对已有表格模型在融合层级、注意力复杂度、SHAP对齐、分布部署四方面区别。

2.2 Theoretical motivation for feature-level fusion：从归纳偏置互补性论证——XGBoost作局部齐次区划分擅长结构表格与缺失值，ANN作连续分层表征擅捕平滑高阶交互，表示级融合使树结构与潜特征在统一隐空间交互，减冗余增泛化。

3 Method：给出数据获取（三数据集来源URL）、预处理方程（式1–3类别/数值填补、式4均值、式5 Pearson r、式6 Outlet_Age、式7 MRP分箱、式8可见性零值替均值、式9独热、式10 z-score、式11–12 IQR、式13训练测试划分、式14 CV）、EDA相关矩阵发现Item_MRP与Item_Outlet_Sales正相关0.57；XGB表示学习（式16加法模型、式17叶嵌入）、ANN编码器、注意力计算、融合与输出层。

3.1–3.4节覆盖数据获取、缺失填补、EDA、特征工程（Outlet_Age、Price Binning、Visibility Adjustment）与编码缩放。

3.5节形式化D={(x_i,y_i)}_i=1ⁿ，x_i∈R^d，给出XGB叶嵌入与ANN潜表示融合及注意力权重公式。

结果节（Results）：在BigMart得RMSE=0.1584、R²=0.9946；Walmart得RMSE=0.8652、R²=0.9568，均优于对照SOTA；框架支持并行与分布式。

讨论（Discussion）总结：注意力权重与SHAP全局/局部重要性一致，证实认知启发注意力可提供透明可操作洞察；框架在大数据零售决策支持中同时满足可扩展、可解释、高性能，弥补精度–透明权衡。结论部分译文：本研究提出XGB–ANN–Attn，一种认知启发的特征级融合框架，将XGBoost叶嵌入与ANN表示在表示层融合，并以线性复杂度注意力动态加权特征，对齐SHAP解释。在BigMart、Walmart及M5数据集验证其预测精度（R²最高0.9946）、近线性扩展性与跨场景泛化力。结果表明，该框架为大规模零售AI决策系统提供兼具可解释性与计算效率的解决方案，未来可拓展至实时流式零售数据与多模态特征融合。