融合Talking-Heads注意力机制与项目反应理论的知识追踪方法

《Applied Sciences》：Enhancing Knowledge Tracing with Talking-Heads Attention and Item Response Theory

　　

摘要

知识追踪（KT）是在线教育系统中学生建模的一项基本任务，能够跟踪学生的学习进度并预测未来表现。近期基于注意力的KT方法利用自注意力机制来捕捉学生学习中的复杂模式。然而，传统自注意力受到独立注意力头的限制，这些注意力头之间缺乏直接的信息交换，从而限制了模型捕捉不同学习交互间依赖关系的能力。为解决这一限制，我们将Talking-heads注意力机制引入KT，使注意力头之间能够直接共享信息，从而增强知识状态建模并提升预测性能。此外，为了提高模型的可解释性，我们将项目反应理论（IRT）模块集成到所提出的模型中，提供了一个基于心理测量学的互补可解释性框架。在三个KT基准数据集（ASSISTments2012、ASSISTments2017和Junyi）上的实验表明，我们的方法在预测准确性上优于最先进的KT模型，同时通过集成IRT信息模块保持了可解释性。我们的方法在三个数据集上平均实现了7%的AUC提升。