基于神经可塑性视角的中学英语学习异质性结果的层级化与不确定性感知建模

《Frontiers in Molecular Neuroscience》：Neuroplasticity-informed hierarchical and uncertainty-aware modeling of secondary-school english learning

　　

引言：本研究构建了一个以神经可塑性（neuroplasticity）为理论视角的计算框架，用于建模中学（secondary-school）教育情境中异质性的英语学习结果。研究并未将神经可塑性视为可直接观测的神经量，而是将其作为一种理论视角，用以将学习相关行为概念化为适应性的、经验敏感的，并在学习者与情境之间表现出异质性。方法：研究人员提出层级因子化不确定性（HierarchicalFactorizedUncertainty）这一统一的预测框架，该框架整合了多层级层级化表示学习（hierarchical representation learning）、稀疏低秩学习–情境交互建模（learning–context interaction modeling）以及偶然–认知不确定性建模（aleatoric–epistemic uncertainty modeling）。层级组合映射器（Hierarchical Composition Mapper）从学习者–语言证据中学习结构化表示，因子化关系投影器（Factorized Relation Projector）建模潜在表示与所记录任务或情境信息之间的紧凑关联。不确定性传播解析器（Uncertainty Propagation Resolver）采用异方差预测（heteroscedastic prediction）与随机模型推断（stochastic model inference）来表示依赖观测的预测变异性和模型不确定性。稀疏低秩正则化（sparse low-rank regularization）进一步抑制微弱或冗余的交互因子并提升表示紧凑性。该框架在四个互补的学习者语料库——CSEE、ELLIPSE、SEEFLEX与LOCSE——上进行评估，涵盖书面与口语英语表现、异质性任务或情境条件，以及横断面与纵向观测。结果与讨论：在受控数据划分与重复训练运行条件下，相对于传统统计、循环神经网络以及预训练Transformer基线，层级因子化不确定性在所有报告的预测指标上均取得最佳的平均性能，尽管改进的统计强度因数据集与指标而异。消融分析（ablation analyses）表明，在所有四个数据集上，移除层级组合映射器在架构与正则化相关消融中产生最大的平均性能下降。因子化关系投影器提供额外且一致的预测贡献，在SEEFLEX上效果相对更为显著，而所实现的偶然不确定性与认知不确定性机制的相对贡献因数据集而异，且在二者同时保留时最强。这些发现支持对可观测英语学习结果进行结构化、情境敏感且不确定性感知的建模，同时保持行为预测与神经可塑性变化直接证据之间的明确区分。因此，层级因子化不确定性旨在作为一种具有英语评估与教师复核潜在决策支持价值的预测框架，而非作为教学有效性或神经重塑（neural restructuring）的因果模型。

**一、研究背景与问题提出**

青春期伴随持续的神经认知发展，学习者行为对变化目标与环境需求的适应存在显著个体差异。发展研究表明，青少年可塑性嵌入社会与环境情境之中，使该时期学习对经验与机会差异较为敏感。在第二语言（L2）研究中，神经认知研究显示语言经验与熟练度同学习过程中神经募集模式及语言加工模式的变化相关。然而，关于神经可塑性变化的直接实证主张通常基于结构、功能或电生理测量，而非仅凭行为性语言表现。因此，本研究将神经可塑性作为理论视角，把学习相关行为概念化为适应性的、异质的、经验敏感的，同时将实证主张限定于可观测英语学习结果与从教育数据推断的潜在计算表示。

中学英语教育提供了研究此类变异性的理想场景，因为学习者表现通过多个可观测维度表达，包括书面产出、口语表现、熟练度评估以及对异质语言任务的反应。学习者语料库研究日益将真实L2产出与二语习得、外语教学、统计分析和自然语言处理（NLP）相联系，并强调学习者多样性、元数据与生态化语言证据的重要性。更广泛地，教育预测研究日益采用机器学习与深度学习方法表示学习者特征、观测表现与教育情境间的复杂关系，同时将可解释性与教学相关性视为持续挑战。

自然语言处理进展显著扩展了学习者语言建模工具。自动作文评分研究已从人工设计语言特征走向循环架构与预训练Transformer表示，但跨提示、人群与评估条件的稳健泛化仍是开放问题。深度学习作文评估综述进一步指出可靠分数预测、可解释性以及自动评估与有意义反馈之间联系为持续挑战。这些问题对中学英语数据尤为相关，因为观测在任务类型、学习者背景、熟练水平、语料规模、情境信息以及是否有重复测量方面可能不同。面向此类场景的计算模型因此需表示结构化异质性，避免假设单一潜在表示或点预测能完全刻画教育观测中的变异性。

预测不确定性为应对该局限提供了一种机制。现代不确定性感知学习区分与观测依赖变异性相关的偶然不确定性和与有限模型知识与有限训练证据相关的认知不确定性。这一区分在教育预测用于决策支持时尤为重要，因为相似的点预测在伴随不同水平或来源的预测不确定性时可能具有不同含义。同时，学习分析与教育人工智能中以人为本的研究强调，计算输出纳入教育实践时可靠性、透明性、利益相关者能动性与适当的人类控制至关重要。因此，面向英语学习评估的有用模型不仅应预测学习者表现，还应表示相关情境关系并传达预测不确定性，且不将统计关联呈现为因果教学效应。

上述考虑凸显了现有语言表现预测系统与异质教育数据需求之间的方法学缺口。传统与预训练评分模型可提供学习者语言的强表示，但未必提供在统一框架内联合表示多层级预测结构、与所记录任务或情境变量的紧凑关联、稀疏交互模式以及不同形式预测不确定性的显式机制。同时，源自行为语言数据的计算表示应与关于直接测量的认知或神经变化的断言保持清晰分离。解决这两项要求——结构化预测建模与明确解释边界——对于开发技术上有用且在教育上可辩护的计算方法至关重要。

为此，研究人员提出层级因子化不确定性，一个以神经可塑性为理论视角的计算框架，用于预测异质中学场景中可观测的英语学习结果。该框架结合层级组合映射器用于多层级表示学习、因子化关系投影器用于潜在学习表示与所记录任务或情境信息间关联的紧凑建模、不确定性传播解析器用于表示偶然与认知预测不确定性。稀疏低秩正则化被进一步引入以抑制微弱或冗余交互因子并提升表示紧凑性。该框架是预测性而非因果性的：其潜在表示总结从观测学习者语言与情境证据推断的模式，不被解释为神经可塑性或神经重塑的直接测量。

实证评估使用四个互补英语学习者语料库——CSEE、ELLIPSE、SEEFLEX与LOCSE，涵盖书面与口语英语表现、横断面与重复观测以及异质任务或情境条件。框架在受控数据划分、开发集模型选择、重复训练运行与成对统计检验下，与传统统计模型、循环神经基线及预训练Transformer基线比较。组件级消融进一步考察层级表示学习、因子化学习–情境交互建模、稀疏正则化以及所实现的偶然与认知不确定性机制的预测贡献。

主要贡献包括：将中学英语学习预测表述为以神经可塑性为理论视角但实证受限的问题，明确区分可观测学习者语言与教育证据和潜在计算表示，避免直接神经测量或因果教学效应的无依据主张；开发层级因子化不确定性，将多层级层级表示学习、稀疏低秩学习–情境交互建模与显式偶然–认知不确定性建模整合于统一预测框架；在书面、口语、横断面与纵向英语学习场景进行多语料评估，采用受控数据划分、重复训练运行、与代表性基线的统计比较及系统组件消融；将模型输出表述为中学英语评估与教师复核的潜在决策支持信息，结合表现预测与情境表示及预测不确定性，同时保留人类监督并明确界定基于行为数据推断的限度。

**二、关键技术方法**

研究采用Python 3.10.13、PyTorch 2.4.1与CUDA 12.1（cuDNN 9.1），在单张NVIDIA A100 GPU（80 GB显存）与128 GB内存、Ubuntu 22.04 LTS工作站上训练，启用自动混合精度。采用预训练RoBERTa-base编码器将原始英语文本转为固定维度表示，超过最大输入长度的序列按最多512个token、64个token重叠划分窗口，窗口级表示均值池化得到768维文本向量，编码器保持固定，下游层级、因子化、融合与不确定性组件在其上训练。情境变量数值型以训练划分统计量标准化，类别型映射为学习嵌入并保留未见值类别，缺失数值以训练划分中位数插补并附缺失指示。数据划分上约20%语料特定划分单位作为留出测试集，其余80%为开发集，CSEE与ELLIPSE按作文记录层面划分并近似保持提示与目标分数分布，SEEFLEX将同一学习者全部文本划入同一划分，LOCSE按学习者层面划分并保留其全部八次纵向观测。超参数仅在80%开发集内以五折交叉验证选择，依最低平均验证预测负对数似然确定，最终模型在完整开发集重训。预测采用异方差高斯负对数似然，统一目标由预测损失、稀疏低秩正则项与参数正则项构成。潜在维度d=128，层级数L=3，四注意力头，因子化秩K=32，Xavier初始化，Adam优化器初始学习率1×10^?4，正则系数γ=1×10^?5，批大小64，最大100轮，学习率调度在连续五轮验证无改善后减半（最小1×10^?6），连续12轮无改善早停，dropout概率p=0.5。稀疏系数λ在{10^?5, 5×10^?5, 10^?4, 5×10^?4, 10^?3, 5×10^?3, 10^?2}中按数据集独立选择，选定λ_CSEE=5×10^?4、λ_ELLIPSE=10^?3、λ_SEEFLEX=5×10^?4、λ_LOCSE=10^?4。认知不确定性以Monte Carlo dropout估计，推断时M=30次随机前向传播。评估指标为平均绝对误差（MAE）、均方根误差（RMSE）、Spearman秩相关系数（ρ）与二次加权kappa（QWK）；每个最终配置以10个预定随机种子独立训练，结果以均值±标准差报告；采用双侧Welch独立样本t检验并进行Holm-Bonferroni校正。样本队列来源为四个公开学习者语料库：CSEE、ELLIPSE、SEEFLEX与LOCSE。

**三、研究结果**

**3.1 与强基线及预训练语言模型的比较** 在CSEE与ELLIPSE两个写作语料库上，层级因子化不确定性在所有报告指标上取得最佳均值。CSEE上MAE为1.10、RMSE为1.49、Spearman's ρ为0.847、QWK为0.852，相对最强基线DeBERTa-v3，MAE约降低5.2%、RMSE约降低4.5%，QWK由0.841升至0.852，这些差异经Holm-Bonferroni校正后对MAE、RMSE与QWK仍显著，而Spearman's ρ由0.838升至0.847在校正后不显著，表明其在绝对预测误差与分数一致性上的优势较秩排序更清晰。ELLIPSE上MAE为0.319、RMSE为0.445、ρ为0.756、QWK为0.748，预训练Transformer基线亦优于传统与循环基线，且由于六个分析性特质分数在整体分数为目标时被排除，增益不能归因于直接复用构成性评分标签。在SEEFLEX与LOCSE上，SEEFLEX中相对DeBERTa-v3，MAE由5.78降至5.41、RMSE由7.67降至7.21、ρ由0.714升至0.738，差异经校正后显著；LOCSE中MAE为0.451、RMSE为0.586、ρ为0.759、QWK为0.751，四项指标均优于DeBERTa-v3且差异显著。总体而言，改进的统计强度因数据集与指标而异，结果支持在固定划分、重复运行评估协议下的一致预测优势，但不意味着每个指标层面改进均统计显著。

**3.2 消融研究** 共评估六个缩减变体。在CSEE与ELLIPSE上，移除层级组合映射器在架构与正则化相关消融中造成最大平均性能下降，CSEE上MAE由1.10升至1.21、QWK由0.852降至0.831，ELLIPSE上MAE由0.319升至0.351；移除因子化关系投影器亦降低所有报告指标的平均性能但降幅较小，CSEE上MAE升至1.17、ELLIPSE上升至0.339，支持显式建模潜在学习表示与所记录提示或任务情境间紧凑关联的预测价值；移除稀疏正则化产生较小但一致的下降。不确定性相关消融呈现不同模式：CSEE与ELLIPSE上移除偶然机制比移除认知机制造成略大下降（CSEE MAE分别为1.15与1.13，ELLIPSE分别为0.337与0.332），同时移除两者下降更大，与两种机制提供互补预测收益一致。在SEEFLEX与LOCSE上，层级组合映射器再次产生最大平均贡献，SEEFLEX上移除层级组件使MAE由5.41升至6.04、移除因子化组件升至5.92，其相对显著的退化与其表示学习者语言表示与异质任务或情境信息关联的预期作用一致；不确定性机制呈现与写作语料库相反的排序，移除认知不确定性下降更大，SEEFLEX上MAE升至5.77（移除偶然为5.69），LOCSE上禁用认知不确定性使MAE由0.451升至0.501、QWK由0.751降至0.710，而移除偶然不确定性MAE为0.482、QWK为0.726，同时移除两者MAE进一步升至0.521、QWK降至0.692。消融结果表明预测优势分布于多个组件，且不应被解释为组件对应可分离的认知、神经或神经可塑性机制。

**四、讨论与结论**

讨论部分指出，跨四个语料库，层级因子化不确定性在所报告指标上均取得最佳平均性能，且消融显示该优势分布于多个组件而非单一架构要素；移除层级组合映射器在四个数据集上均造成最大平均下降，因子化关系投影器提供一致贡献并在SEEFLEX上尤为明显，不确定性机制的相对贡献因数据集而异，且二者同时保留时最强。讨论明确了神经可塑性框架的解释边界：四个语料库仅提供书面或口语英语产出、外部定义的熟练度结果、所记录任务或情境信息及LOCSE的重复观测，不提供突触修饰、神经重组或其他神经可塑性生物标志的直接测量，故潜在表示是为预测优化的计算表示而非神经状态或神经可塑性变化的直接估计；LOCSE八次测量场合的变异代表观测口语表现的纵向变化而非神经重塑的直接证据。讨论还界定因果解释边界：数据集为观察性二手数据而非随机教学干预，涉及I^(t)_i与因子化关系投影器的关联表示预测关系而非因果效应。潜在决策支持应用方面，低预测分数伴低不确定性可优先复核，低预测分数伴高不确定性宜先收集额外证据如教师评估或附加语言任务；CSEE与ELLIPSE可用于优先诊断复核单篇作文，SEEFLEX可在重复产出可用时考察任务条件间预测表现差异作为假设生成信号，LOCSE可刻画跨测量场合的预测口语熟练度及不确定性。作者还指出固定层级深度L=3的局限并提出门控自适应层级表示等扩展方向，以及情境变量范围局限与纳入社会情绪测量、隐私与公平性考量的未来方向；上述应用为前瞻性用途而非经实验验证的教学干预。

结论部分译文：本研究提出了层级因子化不确定性，一个以神经可塑性为理论视角的计算框架，用于建模中学教育情境中异质性的英语学习结果。该框架并未将神经可塑性视为可直接观测的神经量，而是对可观测的学习者语言与表现相关证据连同所记录任务或情境信息以及（若有）重复学习者观测进行建模。多层级层级表示学习、稀疏低秩学习–情境交互建模与偶然–认知不确定性建模被整合于统一的预测框架中。在CSEE、ELLIPSE、SEEFLEX与LOCSE上的实证评估显示，相对于本研究所考虑的传统统计、循环以及预训练Transformer基线，层级因子化不确定性在所有报告的预测指标上取得最佳平均性能，尽管改进的统计强度因数据集与指标而异。消融结果进一步表明预测优势分布于多个组件而非可归因于单一架构要素。在架构与正则化相关消融中，移除层级组合映射器在全部四个数据集上产生最大的平均性能下降。因子化关系投影器提供额外且一致的预测贡献，在SEEFLEX上效果相对更为显著。所实现的偶然与认知不确定性机制表现出数据集依赖的贡献，且同时保留二者在不确定性相关变体中产生最强的整体预测性能。这些结果支持对可观测英语学习结果进行结构化、情境敏感且不确定性感知建模的有用性。然而，这些发现应在若干重要边界内解释。本研究使用的数据集不提供突触修饰、神经重组或其他神经可塑性生物测量的直接证据，因此所学习的潜在表示构成面向预测优化的计算描述，而非神经状态或神经可塑性变化的直接估计。实证数据集为观察性二手数据，学习者语言表示、所记录任务或情境变量与表现之间的关系因此应解释为预测性关联而非教学策略的因果效应。本框架可为教育解释与未来决策支持应用提供有用信息，但不能确立改变某一特定教学或情境条件将导致学习者熟练度的相应变化。当前实现还依赖预定义层级深度，可能限制在结构复杂度不同的观测与情境组间的灵活性。未来研究可考察自适应层级架构，包括条件路由、学习式层加权与可变深度表示，使有效表示深度能随观测情境变化。此外，当前模型仅使用所选数据集中明确纳入的学习者语言、表现相关、任务与情境变量；未来扩展可通过额外的情境或因子化表示分支纳入明确测量的社会情绪因素，如学习焦虑、感知压力、动机或课堂归属感；在由研究问题证成时也可考虑适当收集的家庭或社会经济信息，此类扩展应伴随谨慎的隐私、公平与缺失数据分析，且不应从学习者语言数据推断未直接观测的特征。进一步方向是前瞻性课堂验证：第4.5节讨论的实际场景，如不确定性感知的写作样本优先复核或预测口语熟练度的纵向考察，代表潜在决策支持应用而非经实验验证的干预；未来研究应在前瞻性或准实验教育场景中评估该框架，由教师与模型预测及不确定性信息交互，并独立评估后续教育决策与学习者结果；此类研究可确定不确定性感知决策支持是否改善教师复核的适当性、一致性、公平性或效率，以及由此产生的变化是否与学习者结果改善相关。寻求关于神经可塑性变化直接主张的研究还应将教育观测与适当的纵向神经或生理测量（如神经影像或电生理证据）结合，而非仅从行为语言数据推断神经重塑。本研究表明，当与对预测不确定性的明确处理相结合时，关于适应性、异质性与经验敏感学习的神经可塑性视角能够激发对英语学习数据的结构化计算建模。层级因子化不确定性为跨书面、口语、横断面与纵向英语学习场景的预测提供了统一基础，同时明确了未来教育应用中应伴随的不确定性与解释边界。