人类记忆认知模型的分析与机器学习自适应

《Results in Applied Mathematics》：Analysis and machine learning adaptation of a cognitive model for human memory

　　

研究人员使用Duolingo SLAM数据集分析了多种第二语言习得的认知模型，并开发了改进性能的新方法。特别地，研究人员考虑了预测性能方程（PPE）及其部分底层幂律。利用机器学习的见解，研究人员开发了简单的单特征模型作为组合模型的构建块，这些模型在计算成本大幅降低的情况下匹配或在某些情况下优于现有模型。此外，研究人员构建了一个具有一个全连接隐藏层的神经网络，该网络在足够大的数据集上优于所有其他模型。

### 论文解读：人类记忆认知模型的分析与机器学习自适应

#### 研究背景与问题

人类记忆的精确建模对于设计基于练习的有效学习计划至关重要。现有认知模型（如幂律学习（PLL）、幂律遗忘（PLF）和间隔效应）已得到广泛验证，但预测性能方程（PPE）虽全面考虑了理论和实践标准，却存在计算成本高、参数过多等问题。此外，机器学习模型（如神经网络和梯度提升决策树）在大型数据集上表现优异，但缺乏认知模型的理论支撑，且在小数据集上可能性能不足。因此，研究人员旨在利用机器学习洞察改进现有认知模型，开发更高效、低成本的预测方法，并探究不同模型在第二语言习得数据上的表现。

#### 研究内容与结论

本研究使用Duolingo SLAM数据集（包含英语、西班牙语和法语三个语言轨道，样本来自数千名用户在30天内的练习记录），分析了多种遗忘与学习模型，并提出了新模型。主要结论包括：在充足数据下，神经网络（NN）和逻辑回归（LR）的AUC（ROC曲线下面积）最高；简单组合模型CM1在计算成本极低时接近最优性能；PPE在SLAM数据集上的表现不如PLF（幂律遗忘），且移除PLL项（N^0.1）可提升PPE性能；响应时间模型（RTM）在考虑提示和格式时表现良好，但需依赖可靠数据。该研究发表在《Results in Applied Mathematics》。

#### 关键技术方法

本研究采用Duolingo SLAM数据集，包含三个语言轨道（英语、西班牙语、法语），并针对不同实验进行数据子集筛选（如用户-词对至少出现5次训练和1次测试）。主要方法包括：最小二乘拟合用于单特征模型；L-BFGS-B算法优化逻辑回归和组合模型权重；Adam算法优化神经网络（含一个32节点全连接隐藏层，SiLU激活函数）；以及基于响应时间的双逻辑函数拟合（RTM）。研究中对数据进行了预处理，如处理缺失值、时间戳对齐和提示映射。

#### 研究结果

- **实验1（完整数据集）**：通过比较各模型在三个语言轨道上的AUC，发现ENN（PPE增强神经网络）整体最优（英语0.723，西班牙语0.682，法语0.730），NN和LR与之接近，而CM1（简单组合模型）在单用户-单词限制下性能最佳（PLF优于PPE）。移除PPE中的N^0.1项可提升其AUC。
- **实验2（随时间增加数据量）**：使用1-20天数据训练，发现所有模型随数据增加而改进，但NN和ENN的增长率高于方程模型。在60次运行中，PLF在59次中优于PPE，CM1在40次中优于NN，ENN在37次中优于CM1，LR在36次中优于ENN，显示LR和ENN平均最优。
- **实验3（含响应时间、提示和格式）**：在更严格过滤的数据集上，所有模型AUC均高于实验1。ENN2（增强神经网络）表现最佳（英语0.798，西班牙语0.780，法语0.826），CM2（结合PLF、RTM和单特征模型）次之，RTM（响应时间模型）优于PLL、PLF、PPE和CM1，说明响应时间和提示信息对预测至关重要。

#### 讨论与结论

研究表明，当有足够训练数据时，神经网络和逻辑回归可达到最高AUC，且逻辑回归和组合模型训练速度更快。若仅针对单个用户和单词，PLF是最优方程模型，而PPE在SLAM数据上不如PLF。响应时间、提示和格式等变量应被纳入模型。此外，SLAM数据遵循幂律学习规律，但PPE中加入PLL项反而降低性能。未来工作可探索更优的模型融合方式，以及细化响应时间子模型形状。结论部分翻译如下：对人类回忆的多种模型的彻底检查揭示，当提供足够训练数据时，神经网络或逻辑回归模型可获得最佳AUC分数。随着可用数据量增加到实验1水平，神经网络可能成为最大化AUC的优选。然而，逻辑回归和组合模型通常比神经网络甚至PPE训练更快。虽然CM1通常比逻辑回归快，但CM2和RTM通常较慢，因其子模型更复杂。若仅针对单个用户跨多个单词的练习计划，最佳模型是逻辑回归和CM1。若仅针对单个用户和单个单词，测试的最佳模型是PLF。尽管CM1可用于此场景，但其AUC大幅下降。PPE在SLAM数据集上的表现不如已有的PLF或新提出的CM1。模型应尽可能考虑响应时间及其影响变量。本文中RTM的成功主要归因于提示和格式的知识，这些影响响应时间。