《Applied Sciences》：Academic Performance Forecasting via Data Imputation and Bayesian Neural Networks
编辑推荐：
本研究旨在通过提出一个明确考虑缺失数据和不确定性的机器学习框架，来准确预测学生大学入学考试的学业表现轨迹。模拟考试数据因考生参与程度不同而存在大量缺失值，并且由于考试内容和考生状况的变化而具有固有的随机性。传统的单值插补方法无法在避免引入强偏差的情况下充分重建
本研究旨在通过提出一个明确考虑缺失数据和不确定性的机器学习框架，来准确预测学生大学入学考试的学业表现轨迹。模拟考试数据因考生参与程度不同而存在大量缺失值，并且由于考试内容和考生状况的变化而具有固有的随机性。传统的单值插补方法无法在避免引入强偏差的情况下充分重建因这种异质性参与而产生的缺失值，而现有基于确定性公式的教育预测模型未考虑考试分数中固有的随机性和不确定性，从而限制了其预测的可靠性。为了应对这些挑战，研究人员采用GP-VAE和SAITS这两种最先进的时间序列插补方法来重建不完整的模拟考试数据。此外，研究人员构建了一个贝叶斯神经网络（BayesNN）来预测未来的学业表现，同时显式地建模不确定性。通过将时间感知的插补与概率性预测相结合，所提出的框架旨在提供比现有方法更准确和可靠的性能预测。研究人员通过涉及多种插补技术和预测模型组合的对比实验，评估了所提出方法的有效性。实验结果表明，所提出的框架达到了有竞争力的预测精度：深度插补方法与BayesNN的组合产生了最低的平均估计误差15.98分，而均值插补与线性回归的传统组合误差为16.75分。本研究的贡献不在于提出新的深度学习模型本身，而在于利用具有缺失值的真实模拟考试序列数据，系统地比较了时间序列插补方法和不确定性感知预测模型的组合，从而为教育数据分析提供了有效的设计指南。
**论文解读：基于数据插补与贝叶斯神经网络的学生学业表现预测**
**1. 研究背景与问题**
在日本，每年有大量学生参加大学入学考试，例如2025年大学入学共通测试的报考人数达495,171人。在高度竞争的环境下，私立预备机构组织的模拟考试发挥着关键作用，通过标准化指标（如偏差值）和基于大规模历史数据的分数分布，为学生提供模拟录取判定，帮助其选择目标大学和制定学习策略。然而，利用模拟考试记录进行可靠的学业表现预测面临重大挑战。首先，模拟考试数据因学生参与考试的异质性而存在大量缺失值——并非所有学生都参加同一套模拟考试，这导致“块状缺失”而非随机缺失；其次，考试成绩受考试内容、考生身体状况和心理状态等不确定因素影响，包含显著随机性。现有教育预测模型（如贝叶斯知识追踪、深度知识追踪、项目反应理论）通常假设密集的序列记录或项目级日志，无法同时处理这两种数据特性。传统单值插补方法（如均值、中位数插补）会引入强偏差并低估方差，而确定性预测模型无法量化不确定性，导致预测可靠性受限。因此，需要一种能同时处理缺失数据和不确定性的框架，以提升预测准确性和可靠性，进而支持个性化学习指导和教学策略优化。
**2. 研究内容与结论**
研究人员提出了一种应用驱动的机器学习框架，该框架组合了现有深度插补方法与贝叶斯神经网络，用于预测学生大学入学考试（National Center Test）的最终成绩。框架分为两个阶段：首先，使用时间序列插补方法（GP-VAE和SAITS）重建不完整的模拟考试数据；其次，基于插补后的完整数据，使用贝叶斯神经网络（BayesNN）进行带有不确定性量化的最终分数预测。通过系统性比较六种插补方法（均值、中位数、众数、k近邻、GP-VAE、SAITS）与六种回归模型（线性回归、贝叶斯线性回归、高斯过程回归（线性核、RBF核、线性+RBF核）、BayesNN）的组合，研究人员发现：深度插补方法（GP-VAE、SAITS）与不确定性感知回归模型（BayesNN）的组合取得了最佳预测性能，平均估计误差为15.98分，优于传统均值插补与线性回归组合的16.75分。消融实验表明，使用BayesNN进行回归预测始终优于直接使用插补值作为最终预测。该研究的贡献不在于提出新模型，而在于基于真实模拟考试序列数据（含约24%缺失值）系统比较了不同插补-预测组合，为教育数据分析提供了实证设计指南。论文发表在《Applied Sciences》。
**3. 主要技术方法**（不超过250字）
研究人员使用来自多所高中397名高一至高三学生（男生230人，女生167人）的Benesse模拟考试数据，包含五次统一考试（高一7月、11月、1月，高二7月、11月）的三门核心科目（日语、数学、英语）成绩，以及其中111名学生的最终National Center Test成绩。数据缺失比例约24%，呈块状缺失模式。插补方法包括：均值、中位数、众数、k近邻（kNN）以及两种深度学习方法——GP-VAE（高斯过程变分自编码器，在VAE中嵌入高斯过程先验以捕捉时间动态和不确定性）和SAITS（基于自注意力机制的时间序列插补，利用Transformer架构捕捉时间依赖和变量间关系）。预测模型包括：线性回归、贝叶斯线性回归、高斯过程回归（线性核、RBF核、线性+RBF核）以及贝叶斯神经网络（BayesNN，对权重参数设定先验分布，通过马尔可夫链蒙特卡洛（NUTS采样器）进行后验推断）。10折交叉验证评估性能。
**4. 研究结果**
**4.1 实验设置**
使用397名学生的模拟考试数据，其中111人有最终考试分数。10折交叉验证，286名无最终分数的学生仅用于训练插补模型，有分数的学生用于训练和评估预测模型。
**4.2 其他回归方法**
线性回归、贝叶斯线性回归、高斯过程回归（RBF核、线性+RBF核）作为对比基线。
**4.3 实验结果**
表5显示：引入预测不确定性（贝叶斯线性回归 vs 线性回归）可提升估计精度；简单插补方法（均值、中位数、众数）下，RBF核回归模型误差最低；深度插补方法（GP-VAE、SAITS）与BayesNN组合达到所有框架最低误差（平均15.98分），且两者性能接近，表明深度插补能捕捉复杂关系，而BayesNN有效处理了插补带来的方差。
**4.4 统计显著性与置信区间分析**
Wilcoxon符号秩检验表明，SAITS+BayesNN在整体平均误差和最大误差上显著优于线性回归和GP线性；按科目分析，英语平均误差和日语最大误差差异显著。95%置信区间显示，在显著情况下区间完全为负，表明BayesNN稳定抑制极端误差。
**4.5 插补结果**
图2可视化比较：均值插补使缺失样本坍缩至中心点，kNN插补产生噪声估计，而GP-VAE和SAITS能近似真实联合分布，保留自然波动，为后续不确定性感知回归提供有效输入。
**4.6 回归消融实验**
表7显示，所有插补方法下，使用BayesNN进行回归均优于直接使用插补值作为最终预测，验证了预测模块的必要性。
**5. 讨论与结论**
**讨论部分总结**：
研究结果对教育数据科学和学习分析具有重要意义。通过显式处理缺失数据和不确定性，该框架能够提供更可靠和可解释的预测，支持数据驱动的个性化学习支持系统。不确定性感知预测可作为额外指标辅助教育决策：例如，预测分数低且不确定性高的学生应优先获得额外评估或辅导；而低不确定性预测可增强资源分配信心。但具体干预阈值需依赖机构政策，这是未来研究方向。
**研究结论（翻译自5.1 Summary of the Proposed Framework）**：
在本研究中，研究人员在一个机器学习框架内系统比较了现有深度插补方法与预测方法的组合，该框架用于预测学生的学业表现轨迹，并显式考虑了教育数据集的基本特征——缺失数据和不确定性。具体而言，所提出的方法将最先进的深度插补模型（SAITS和GP-VAE）与贝叶斯神经网络（BayesNN）相结合，用于最终分数预测。这种设计能够一致地处理教育数据分析中的两个关键挑战：不完全观测和学业表现的随机变异性。通过分离插补和预测阶段同时保持概率一致性，该框架使每个组件能够有效捕捉数据的不同方面。插补模块专注于从部分观测序列中重建合理的时间模式，而贝叶斯预测模块则对最终估计过程中的不确定性进行建模。这种模块化且具有概率基础的设计增强了灵活性和鲁棒性。
