双重解缠知识追踪：分离语义依赖与行为噪声

《Neurocomputing》：Dual-disentanglement knowledge tracing: Separating semantic dependencies and behavioral noise

　　摘要：准确建模学习者知识状态的演变是知识追踪领域的核心问题。现有方法存在局限性，无法明确处理现实学习数据中的关键纠缠问题，包括语义概念依赖性与时间动态的混淆，以及真实认知信号与随机行为噪声的混合。此外，大多数方法假设知识更新为单步过程，忽视了学习的渐进性特征。为解决这些问题，我们提出了双解耦知识追踪框架（D2KT），该框架能够明确区分语义概念依赖性与随机行为噪声。具体而言，我们设计了一种语义-时间解耦注意力机制，通过时间感知的认知衰减函数对概念关系和时间效应进行独立建模。同时，我们引入了频谱行为噪声滤波器，可在保留稳定认知模式的同时抑制频域中的高频噪声。基于这些优化后的表征，我们构建了双组件序列认知模型，用于捕捉从初始理解到知识内化的整个过程。在四个数据集上的大量实验表明，D2KT的性能始终优于现有的先进知识追踪模型。此外，所提出的频谱滤波模块可无缝集成到现有架构中，带来一致的性能提升。这些结果证明了显式解耦在提升知识追踪的稳健性和准确性方面的有效性。

引言：在智能教育系统中，准确建模学习者知识状态的动态演变对于支持个性化学习、自适应推荐和形成性评估至关重要。作为教育数据挖掘的核心任务，知识追踪旨在通过历史学习交互数据估算学习者的潜在掌握水平并预测其未来表现[1][34]，同时也是多视角层次关系学习[33]和个性化推荐[21][39][43]等下游教育应用的基础组件。近年来，智能教育领域的进展越来越重视精细化的认知建模[16]、个性化学习支持以及学习者行为分析[41]。这些发展凸显出人们对能够准确描述复杂学习过程并可靠估算学习者知识状态演变的知识追踪模型的迫切需求。尽管取得了这些进展，现有的知识追踪模型仍面临一个根本性挑战：学习者交互序列同时编码了多种异质因素，而这些因素在表征学习过程中往往会被混为一谈。第一种纠缠源于语义概念依赖性与时间动态的混淆。现有的基于注意力的知识追踪模型，如SAKT[23]和AKT[12]，虽然能够捕捉序列依赖性，但会将内容信息与时间信息混合在统一的注意力得分中。具体而言，内容嵌入和位置编码要么直接结合[23]，要么通过衰减函数共同调节[12]，这使得模型无法独立建模概念相关性和时间近期性。因此，学到的注意力权重无法区分过去的交互是由于语义关联还是时间接近而重要。基于图的方法（如PDKT-C[2]、GKT[22]）通过专家标注的先决图部分解决了结构依赖性问题，但这些标注成本高昂、主观性强且往往难以获取。因此，在没有外部监督的情况下自主分离语义因素和时间因素仍然是一个未解决的难题。其次，另一个重要的纠缠来源是真实认知信号与随机行为噪声的混合。如图1所示，学习者交互序列中不可避免地包含猜测和失误等非规律行为（例如在某处给出正确答案，而在另一处给出错误答案），这些行为会引入与真实知识状态无关的高变异性。现有的知识追踪模型[26]在时间域内处理这些序列，将所有交互视为同等有价值的信息，从而导致噪声被编码为有效的学习信号，进而扭曲推断出的概念关系。尽管最近的对比学习方法[7]试图通过辅助目标提高模型的稳健性，但它们并未在表征层面明确区分噪声与信号，且其效果取决于样本构建策略。因此，信号与噪声的纠缠问题仍未得到根本解决。除此之外，大多数知识追踪模型都采用单步更新假设，隐含地将知识获取视为瞬时过程。这种简化忽略了学习的渐进性特征，即初始理解需要随着时间的推移不断强化和内化。忽视这一多阶段过程可能会导致将短暂反应与稳定掌握能力混为一谈，从而降低知识状态估算的可靠性。我们提出了双解耦知识追踪框架（D2KT），该框架能够明确分离学习者交互数据中的语义-时间依赖性与信号-噪声干扰。在四个真实世界数据集上的大量实验表明，D2KT的性能始终优于现有的先进知识追踪模型。此外，所提出的频谱滤波模块也被证明是可以直接应用于现有方法的通用增强工具。本文的主要贡献如下：•双解耦框架：我们识别出了知识追踪中的两种主要干扰源，即语义-时间纠缠和信号-噪声纠缠，并提出了D2KT这一能够在单一架构内同时解决这两种问题的统一框架。•语义-时间解耦注意力机制：我们设计了一种解耦注意力机制，能够分别建模概念关系和时间动态，从而无需依赖标注图即可实现隐式的先决条件发现。•频谱噪声滤波：我们引入了一种频域滤波模块，能够在保留稳定认知信号的同时抑制高频行为噪声，且该模块可无缝集成到现有的知识追踪模型中。•双组件认知建模：我们提出了一种双组件架构，用于捕捉从知识理解到知识内化的过渡过程，从而获得更稳定且易于解释的知识表征。

知识追踪：早期的知识追踪方法主要依赖于概率模型和心理测量模型。贝叶斯知识追踪模型[6]将知识获取视为隐马尔可夫过程，并明确纳入了失误和猜测的概率。项目反应理论[11]则通过潜在特质建模来估算学习者的能力和试题难度。尽管这些方法具有可解释性，但在捕捉知识概念与学习行为之间的复杂依赖关系方面能力有限。

问题定义：假设某个在线学习系统中有|S|名学习者、|E|道练习题以及|C|个知识概念，那么学习者在一定时期内的交互历史可以表示为，其中表示学习者在时间t回答的练习题，表示与该练习题相关的知识概念，表示学习者在时间t回答该题是否正确（1表示正确，0表示错误）。知识追踪的主要任务是建模学习者随时间变化的知识掌握状态，并以此预测其未来表现。

方法论：图2展示了D2KT的整体框架，它主要由四个组成部分构成：学习活动表征模块、知识理解模块、知识内化模块以及性能预测模块。D2KT的核心在于两个顺序执行的模块，即知识理解和知识内化，这两个模块共享统一的架构，但承担着不同的功能。该模型采用端到端训练方式，前者用于捕捉学习者的中间状态。

数据集：我们在四个数据集上评估了所提出方法的性能。表1总结了这些数据集的一些统计信息，详细说明如下。Assist091数据集由ASSISTments在线辅导系统收集，被广泛用于知识追踪领域，用于评估或建模学习者的知识状态[9]。该数据集包含的交互模式属于中等稀疏程度。

结论：在本文中，我们解决了限制现实教育环境中知识追踪精度的两大根本性纠缠问题，并提出了双解耦知识追踪框架（D2KT）作为解决这两个问题的原理性框架。针对第一种纠缠，即语义概念依赖性与时间动态的混淆问题，我们设计了语义-时间解耦注意力机制，通过分离的处理方式独立建模概念相关性和时间近期性。

CRediT作者贡献声明：郑宁：撰写——初稿、数据整理、概念构思。胡若欣：撰写——初稿、数据整理。单志龙：撰写——审阅与编辑、项目管理。苏沐：撰写——审阅与编辑、数据整理。

利益冲突声明：作者声明不存在任何可能影响本文工作的已知财务利益或个人关系。郑宁于2025年获得华南师范大学硕士学位。郑宁|胡若欣|单志龙|苏沐中国广东省广州市华南师范大学计算机科学学院，邮编510632