TeachPlanAlign:一种基于双重档案的个性化课程规划生成方法,通过检索增强式微调实现
作者:傅世明(Shiming Fu)、刘芬(Fen Liu)、吴海霞(Haixia Wu)、周杰(Jie Zhou)和潘子杰(Zijie Pan)
《Mathematics》:TeachPlanAlign: Dual-Profile Personalized and Curriculum-Grounded Lesson Plan Generation Schema via Retrieval-Augmented Fine-Tuning
Shiming Fu,
Fen Liu,
Haixia Wu,
Jie Zhou and
Zijie Pan
【字体:
大
中
小
】
时间:2026年05月01日
来源:Mathematics 2.2
编辑推荐:
摘要 个性化课程计划的制定既耗时,又需要同时满足课程标准、课堂限制以及教师个人教学风格的要求。尽管大型语言模型(LLMs)能够草拟课程计划,但它们的输出往往较为通用,缺乏在官方课程中的可靠依据,且需要教师进行大量修改才能适用于课堂教学。我们提出了Teach
摘要 个性化课程计划的制定既耗时,又需要同时满足课程标准、课堂限制以及教师个人教学风格的要求。尽管大型语言模型(LLMs)能够草拟课程计划,但它们的输出往往较为通用,缺乏在官方课程中的可靠依据,且需要教师进行大量修改才能适用于课堂教学。我们提出了TeachPlanAlign,这是一个双配置文件的课程计划生成框架,它(i)能够模拟教师的偏好和课堂学习环境,(ii)通过为开卷生成设计的检索增强微调来确保生成内容符合课程标准,(iii)通过基于约束的自我优化循环逐步提高教学连贯性。该框架生成的课程计划包含明确的时间分配、差异化策略以及与教学资源相对应的证据支持,从而支持对标准的追溯。我们在一个多学科的基准测试中评估了TeachPlanAlign,该测试将课程请求与课程文档和人工编写的课程计划进行了对比,并通过教师参与的评价进一步验证了其可用性。结果表明,在课程标准对齐、证据准确性以及教师满意度方面均取得了持续改进,同时减少了教师的编辑工作量。这些发现表明,具有可追溯课程依据的双配置文件对齐机制可以提高基于LLM的课程计划的可用性和可审计性,但还不能将其视为可以直接部署的依据。
1. 引言
课程计划是教学实践中核心但耗时较多的环节。一个高质量的课程计划必须符合课程标准,反映教学目标,适应严格的时间预算,并考虑到课堂上的各种限制,如资源可用性和不同学生的学习需求。虽然大型语言模型(LLMs)能够快速起草类似课程计划的文本[1,2],但它们的课程计划往往缺乏具体性,可能遗漏了符合标准的证据,或者与教师的风格和课堂环境不匹配[3]。实际上,这些缺陷会降低教师对这类辅助工具的信任度,并增加教师的编辑工作量,从而限制了LLM辅助工具的实际效用。
现有系统在两个方面处理得不够充分:首先,课程计划的个性化本质上是双配置文件的。教师在教学方法、教学节奏、偏好的活动形式、评估理念和语言风格上存在差异,而班级在学习环境、常见的误解以及资源限制(例如设备有限或需要包容性教育)方面也存在差异。当前的方法通常依赖于临时提示或手动用户界面调整[4],或者优化一个全局模型而无法实现针对每位教师的个性化调整,这为高效、系统的个性化留下了空间。其次,课程计划的依据必须是可验证的。课程计划不是自由发挥的文字;它们需要与课程标准以及教科书和批准的教学材料中的证据相一致。检索增强生成(RAG)为课程计划的依据提供了基础[5],但仅依赖提示的简单RAG方法仍可能产生无根据的陈述,尤其是在生成结构化的长篇内容时。
本文提出了TeachPlanAlign,这是一个用于生成个性化且基于课程标准的双配置文件课程计划的集成框架。我们的贡献主要在于应用层面的创新,而不是对PEFT或检索算法的根本性改进:我们研究了如何将三种现有技术结合起来完成这一任务。(1)该系统根据教师配置文件和班级配置文件来生成课程计划(第3节),使用参数高效的教师适配器(公式(10)和共享的班级条件前缀模块来实现可扩展的个性化。(2)它通过结合课程知识库的检索(公式(8)和基于干扰项识别的开卷上下文的检索增强微调来确保生成的课程计划有据可依,并明确监督引用指针。(3)它通过一个关注教学方法的自我优化循环(公式(14)来提高可用性,该循环能够针对性地进行编辑和证据修复,直接针对教学约束,而不仅仅是提升语言流畅性。
我们基于公共开放教育资源(OER)语料库OERCommons-LP对TeachPlanAlign进行了实证评估(第5节)。在400个测试请求中,TeachPlanAlign在课程标准对齐(Std-F1从0.662提高到0.758)、证据准确性(0.721提高到0.804)和教师偏好满意度(从0.500提高到0.701)方面都有所改进,同时将教学约束违规率从21.1%降低到8.9%。教师参与的评价进一步显示了其在可部署性和编辑时间上的改进。
2. 相关工作
2.1. 用于教师支持和课程计划生成的LLMs
最近的大型语言模型(LLMs)展现了强大的通用文本生成能力,这促使人们将它们作为教师备课和内容创作的辅助工具[1,2]。在教育领域,LLMs被视为一种机会(例如减少常规的规划工作量),但也存在风险(例如产生错误信息、偏见以及与教学意图不符),因此需要基于实际的教学方法和可控的生成机制[3]。
在面向教师的系统中,交互式课程计划工具已经开始将LLMs整合到工作流程感知的界面中。例如,LessonPlanner围绕教学驱动的阶段结构化教师与LLM的合作,并在计划构建过程中支持自适应内容生成[4]。同时,基于提示或自我批评的课程计划生成方法也被探索用来提高计划的连贯性和质量,而无需更改模型参数[6]。最近的研究通过增强知识的方法建立了课程计划知识库,并将检索与微调相结合,以提高生成计划的结构完整性和事实准确性[7]。尽管取得了进展,现有方法通常(i)主要通过提示或用户界面交互来进行个性化,而不是系统化、高效的多用户调整;(ii)隐含地处理班级环境,这为同时考虑教师偏好和班级/学习者需求的双配置文件生成留下了空间。
2.2. 通过检索增强生成实现课程依据
利用外部文档为生成内容提供依据是减少错误信息和提高可验证性的核心策略。检索增强生成(RAG)结合了参数化生成器和非参数化检索器,使模型能够在解码时整合检索到的证据[5]。早期和互补的研究包括检索增强预训练(REALM)[8]和密集检索方法(DPR),这些方法显著提高了在开放领域问题中的信息获取能力[9]。对于基于多段文本的生成任务,融合架构(如FiD)在开放领域问答中表现出色[10],而像Atlas这样的检索增强型LLMs则展示了检索在知识密集型任务中的强大学习能力[11]。大规模检索记忆也通过RETRO等架构得到了探索[12]。
最近的研究通过使检索更加适应性和自我验证来提高检索的有效性和鲁棒性。Self-RAG训练单一模型来决定何时进行检索以及如何评估检索到的证据及其自身的生成[13]。RAFT提出了一种检索增强微调方法,使LLMs能够适应特定领域的“开卷”环境,强调忽略干扰文档并利用相关证据的能力[14]。然而,大多数基于检索的方法都是在问答/事实任务上评估的,并没有直接解决课程计划生成的长期、结构化、受教学约束的特性,而在课程计划生成中,课程对齐和各组成部分的一致性(目标→活动→评估)是主要要求。
2.3. 为LLMs实现个性化与偏好对齐
为不同用户个性化LLM的行为需要在质量、隐私和计算成本之间取得平衡。参数高效微调(PEFT)方法,如适配器模块[15]、LoRA[16]和前缀/提示调整[17,18],提供了无需复制整个模型权重即可实现针对用户或任务的个性化机制。这些方法在教育系统中尤为重要,因为许多教师可能需要不同的教学风格、教学节奏和课堂常规。
对齐方法旨在优化帮助性和对用户意图的遵循度。基于强化学习(RLHF)的教学调整(例如InstructGPT)表明,人类反馈可以改进教学行为并减少不良行为[19]。直接偏好优化(DPO)通过使用封闭形式的目标直接优化策略,简化了偏好学习过程,避免了显式的奖励建模[20]。宪法式AI探索了自我改进和基于原则的反馈,以减少在有限人类标注情况下的有害输出[21]。除了全局对齐之外,最近的研究还明确针对反馈进行个性化:Personalized-RLHF学习了轻量级的用户模型以捕捉多样化的偏好[22],而协作个性化框架(如Personalized Pieces)则实现了用户特定PEFT组件的高效共享和组装[23]。然而,将这种个性化应用于课程计划会引入额外的约束:教学有效性、课程合规性以及与教师偏好和班级学习者需求的对齐。这些双配置文件的要求在现有的个性化或对齐流程中并未得到直接解决。
2.4. 长篇生成的自我优化和自动评估
迭代自我优化已被广泛研究用于提高长篇输出的质量。Self-Refine提出了一个通用的FEEDBACK→REFINE循环,使用同一个LLM作为评估者和重写器,无需额外训练数据即可改进输出[24]。Reflexion通过自我反思和记忆从重复尝试中学习,从而改进了与外部工具或知识源交互时的可靠性[25]。Prompting技术,如思维链[27]和自一致性解码[28],进一步提高了在需要多步骤推理任务中的鲁棒性。然而,对于课程计划而言,优化过程需要考虑教学方法:反馈应该针对课程目标、活动设计、差异化以及评估对齐,而不仅仅是语言流畅性。
评估是另一个关键挑战。将LLM作为评估者已被探索为一种可扩展的替代方案,有如MT-Bench这样的基准测试和Chatbot Arena这样的平台支持基于偏好的比较[29,30]。在教育领域,这些想法为课程计划的自动审核提供了有希望的方向,但需要仔细校准以避免偏见,并确保评估结果反映课程和教学标准,而不仅仅是表面层次的写作质量。
2.5. 用于课堂感知生成的学习者建模和知识追踪
课堂感知课程计划的一个核心要求是建模学生当前的学习掌握情况和预期的困难。贝叶斯知识追踪(BKT)形式化了随时间变化的潜在掌握情况,已成为自适应教学的基础[31]。深度知识追踪(DKT)利用神经序列模型捕捉复杂的学习动态,并在教育互动日志中提高预测能力[32]。最近的研究提出通过语言模型整合文本丰富的表示,以纳入项目和概念的语义内容,从而改善冷启动行为和可解释性[33]。这些学习者建模的研究方向鼓励将班级配置文件作为生成的显式条件信号;然而,之前的基于LLM的课程计划系统很少将结构化的学习模型与基于证据的生成和高效个性化结合在一个统一的算法框架中。综上所述,之前的工作已经包含了本文中使用的一些要素。因此,我们的贡献不是新的检索、适配器或优化机制,而是一个针对课程计划的特定应用组合,具有双配置文件控制和与证据相关联的修复功能。
3. 前期工作
3.1. 任务定义和符号表示
我们研究的是面向教师的个性化课程计划生成。课程请求指定了教学环境和限制条件,系统生成的课程计划同时(i)针对教师个性化,(ii)适应班级环境,(iii)基于课程证据。
表1总结了本文中使用的符号表示。我们用u表示教师,用c表示班级(或群体)。课程请求用r表示,其中包含科目、年级、主题、时间预算T(以分钟计)以及一组目标课程标准标识符。
输入:系统接收(1)教师特定的偏好(例如教学风格、偏好的活动形式、语言风格、评估习惯)和班级特定的因素(例如资源限制、常见的误解、差异化需求)。在实现过程中,这些配置文件被编码为固定维度的向量(2)。
输出:生成的课程计划y采用结构化格式:(3)包含基本元数据(年级、主题、持续时间),(4)列出与课程标准对齐的学习目标,(5)列出材料和先决条件,(6)指定差异化策略,并定义形成性/总结性评估。
教学过程表示为一系列步骤(4),其中(7)是分配的时间(分钟),(8)是教学活动文本,(9)是分组模式(例如全班、两人一组、小组),(10)是证据指针(在第3.2节中定义),用于将步骤与检索到的课程段落关联起来。(11)时间可行性约束(12)。
3.2. 课程知识库和证据依据
为了减少错误信息并支持对标准的追溯性,我们假设可以访问一个课程知识库,其中包含官方标准、教科书摘录、示范课程计划和可选的本地教学资源。我们将这些资源视为带有元数据的段落集合(13)。
给定一个课程请求和配置文件后,我们构建一个检索查询(14)并检索证据(15)。每个检索到的段落都带有来源元数据(16),从而实现可追溯的依据。课程计划包括一个证据记录(17),其中存储了用于证明的P子集的轻量级引用(例如标准ID和段落索引)。在步骤层面,(18)将程序步骤与支持性段落关联起来。当优化扩展证据集时(19),索引会根据当前的证据集进行解释。
3.3.个性化大语言模型(LLM)策略
我们将课程计划生成建模为带有证据的条件文本生成:其中,是一个自回归LLM,P被附加到模型上下文中或以其他方式融合到模型中。为了实现跨教师的可扩展个性化,我们分离了一个共享的基础策略和一个针对教师的具体参数高效适配器。对于教师u,有效参数为,其中⊕表示适配器组合操作符(例如,将低秩更新注入选定的层)。因此,我们将个性化策略表示为,它在所有教师之间共享,并且只调整。
为了在不维护每个班级参数的情况下表示特定于班级的约束,我们引入了共享的班级条件参数(第4.4节)。由此产生的双配置文件策略表示为;设置将产生用于偏好锚定的非个性化参考策略。
3.4. 监督信号:开卷目标和偏好对
TeachPlanAlign使用两种互补的学习信号,这些信号将在第4节中具体实现。我们假设有一组监督实例,其中是人工编写的计划。在检索增强微调中,可能包括相关证据和干扰段落,以鼓励在开卷条件下使用可靠的证据。
教师偏好对。教师反馈以候选计划(或计划编辑)的成对偏好形式捕获,形成,其中对于相同的输入,更倾向于。这些对提供了直接信号,以使模型与教师风格和约束保持一致,而无需为每个请求都提供完整的人工编写的目标。
3.5. 教学约束和自我优化循环
我们明确地将教学和可行性要求表示为一组约束,其中每个约束检查器将计划y映射到一个标准化的违规分数(0表示满足),每个都是一个可检查的标准(例如,方程(5)用于时间可行性、目标-活动-评估一致性、为高风险学习者提供差异化以及明确的评估机会)。
我们采用迭代的优化视图来进行生成。从一个初始草稿开始,一个优化操作符产生改进的计划:
优化操作符可以选择通过额外的检索来增强证据集,从而产生更新后的(第4.5节)。在TeachPlanAlign中,优化由约束违规和证据要求指导,确保改进针对的是可部署性,而不仅仅是表面上的流畅性。
4. 方法论
4.1. TeachPlanAlign概述
TeachPlanAlign根据课程请求和两个个性化信号生成结构化的课程计划y(方程(3):教师档案和班级档案。一个核心设计原则是闭环基础:检索选择已经由档案塑造的课程证据;生成在明确的模式和引用约束下使用这些证据;然后优化检查生成的计划是否符合教学和可行性约束,并在需要时触发有针对性的检索来修复不受支持的步骤。这种耦合确保个性化不会偏离课程支持,并且基础保持与教师风格和班级约束兼容。算法1展示了我们提案的总体流程。
4.2. 基于课程的检索与双配置文件查询
检索器访问课程知识库以返回证据段落(方程(8))。因为下游生成既是个性化的又是受模式约束的(第4.3节),我们设计检索时要考虑档案,但同时保持对课程的忠实度:查询由请求锚定,同时注入紧凑的教师/班级信号,以便检索到的证据不仅与目标标准相关,也与课堂约束下的可行教学法相关。
具体来说,我们通过结合请求和两个档案的摘要来构建双配置文件查询:其中将结构化请求字段(年级、主题、T等)转换为文本。这些摘要和是简短、可控的描述符,在检索和生成过程中一致使用,确保证据选择和计划实现反映了相同的个性化信号。
检索器训练目标
当监督提供一组证据段落(例如,专家参考的来源或其元数据匹配的段落)时,我们训练一个具有对比目标的密集检索器。设和为查询和段落编码器,使用余弦相似度。对于每个实例,我们采样正例和负例,并用温度优化(17)。通过使用较早的检查点进行检索并保留不在中的顶级段落来挖掘硬负例。这种训练策略与我们在第4.3节中的生成器目标一致:检索器学会将符合标准的证据排在主题相似但无帮助的段落之上,从而减轻生成器和后续证据修复步骤的负担。
4.3. 通过检索增强微调的基于课程的生成
给定检索到的段落P,生成器生成一个基于P的结构化计划y和证据指针(第3.2节)。这个阶段实现了之前提出的两个要求:(i)与课程模式和时间预算的结构符合性,以及(ii)可追溯的基础,以便后续可以诊断和修复不受支持的部分,而不是重写整个计划。
我们使用开卷训练将基础LLM微调为一个受证据条件制约和考虑班级的策略,该训练包括相关段落和干扰段落。这种设置反映了检索设置(第4.2节),并使模型为不完美的证据做好准备,同时仍然鼓励它生成关键步骤明确与段落相关的计划。
4.3.1. 输入打包和模式强制执行
我们通过连接模式提示、请求r、用于检索的相同档案摘要以及带有来源元数据的检索到的段落来构建生成上下文:模式在方程(3)中强制执行组件结构,并明确要求(i)满足方程(5)的时间分配和(ii)每个主要声明或程序步骤的证据指针。这些明确的约束在后续的优化中作为检查器重新使用(第4.5节),创建了一致的生成-检查-修复工作流程。
设为监督三元组(第3节)。我们构建了一个增强的检索集,其中包含主题相似但不支持目标标准的段落(例如,相同科目、相邻年级、不同标准)。生成器被训练在生成过程中忽略干扰段落:
4.3.2. 可追溯的证据引用损失
为了使基础机器可检查且可修复,TeachPlanAlign将证据指针视为受监督的结构。我们将步骤级指针表示为短令牌序列(例如[E1,E4]),其中每个令牌对应于中的一个索引。当有黄金证据索引可用时(来自元数据匹配或人工注释),我们添加一个引用损失:
如果只有弱监督可用,我们将设置为任何其元数据与相交并且包含该步骤中关键实体的段落。重要的是,这些指针不仅仅是一种报告机制:它们提供了优化用来检测不受支持的步骤和发出特定于步骤的检索查询的信号。
4.4. 带有教师适配器和班级条件前缀的双配置文件个性化
上述基于基础生成的模型在用户之间是共享的。TeachPlanAlign然后通过将个性化分为(i)稳定的、特定于教师的风格和(ii)动态的、特定于班级的约束来个性化课程的呈现方式。教师档案塑造教学风格(例如,基于探究的小组工作、明确的教学),而班级档案影响可行性(例如,设备、阅读水平分布、常见的误解)。这种分离与之前的流程相匹配:教师风格应在许多请求中保持稳定,而班级上下文可以频繁变化,并且必须在推理时注入。
我们通过参数高效的更新来实现教师适应(方程(10))。个性化参数为,产生。只有使用教师反馈来更新,从而实现跨许多教师的可扩展个性化,同时保持基础不受影响。班级条件前缀模块
为了适应班级上下文而不需要训练每个班级的参数,我们引入了一个班级条件前缀(CCP)模块。一个小网络从班级嵌入中产生一系列L前缀嵌入:
4.5. 具有选择性编辑和证据修复的教学意识自我优化
即使有检索和个性化,单次传递的计划也可能违反可行性(例如,时间预算)或教学一致性(例如,评估对齐薄弱),并且可能仍然包含缺少或引用错误的步骤。TeachPlanAlign通过迭代优化来解决这个问题,该优化直接利用生成器的结构化输出:组件化的计划允许选择性重写,而步骤级的证据指针允许局部化证据修复。
4.5.1. 约束检查和违规评分
我们将实现为一组检查器,它们返回一个标准化的违规分数:
检查器重用了生成过程中表达的相同要求(第4.3节):时间可行性(方程(5))、标准对齐、目标-活动-评估一致性、差异化覆盖和引用覆盖(每个主要步骤至少有一个指针)。例如,时间预算检查器返回:
我们定义了一个总体惩罚(28),其非负权重标准化为。这个标量惩罚用于决定是否需要另一次优化迭代,并驱动组件的选择。
4.5.2. 选择性编辑操作符
我们不是在每次迭代时都重写整个计划,而是识别对当前违规贡献最大的组件,并仅重新生成那些部分。设(29)为要更新的组件子集。优化提示包含(a)当前计划,(b)从派生的紧凑违规报告,以及(c)仅修改的指令,同时保持其余组件不变。通过合并重新生成的组件和固定的其余部分来形成更新后的计划:
因为教师适配器编码了稳定的风格,选择性编辑进一步减少了偏差:它保留了已经良好的个性化措辞和活动选择,同时仅修改恢复可行性或对齐所需的组件。
4.5.3. 证据修复
检索约束检查还揭示了基础失败:缺失的引用和引用的段落实际上不支持所述动作/声明的步骤。我们使用生成过程中产生的证据指针来检测不受支持的步骤:
4.5.1. 约束检查和违规评分
我们将实现为一组检查器,它们返回一个标准化的违规分数:
检查器重用了生成过程中表达的相同要求(第4.3节):时间可行性(方程(5))、标准对齐、目标-活动-评估一致性、差异化覆盖和引用覆盖(每个主要步骤至少有一个指针)。例如,时间预算检查器返回:
我们定义了一个总体惩罚(28),其非负权重标准化为。这个标量惩罚用于决定是否需要另一次优化迭代,并驱动组件的选择。
4.5.2. 选择性编辑操作符
我们不是在每次迭代时都重写整个计划,而是识别对当前违规贡献最大的组件,并仅重新生成那些部分。设(29)为要更新的组件子集。优化提示包含(a)当前计划,(b)从派生的紧凑违规报告,以及(c)仅修改的指令,同时保持其余组件不变。通过合并重新生成的组件和固定的其余部分来形成更新后的计划:
因为教师适配器编码了稳定的风格,选择性编辑进一步减少了偏差:它保留了已经良好的个性化措辞和活动选择,同时仅修改恢复可行性或对齐所需的组件。主题/标题和科目是从元数据中读取的,如果元数据缺失则使用文本作为备用;年级段是根据元数据或明确提及的内容(如“五年级”和“初中”)进行标准化的;持续时间是通过正则表达式从模式(如“40分钟”、“45分钟”和“一节课”)中提取的,并且只有在单一课时的解释明确无误时才进行映射。标准是从元数据标签和正则表达式模式中提取的,用于识别常见的标准(例如CCSS、NGSS和州代码字符串),然后进行去重并检查年级/科目的一致性。教师风格的聚类是通过k-means算法对作者/风格线索(教学动词、分组模式、评估语言和语气标记)的嵌入进行划分得到的,而课堂背景聚类则使用年级、科目、资源提及、差异化线索和先决条件难度信号。这些教师/班级ID是合成的潜在聚类,并非观察到的真实教师或教室,我们现在明确指出这一生态有效性限制。
该基准测试关注4至9年级的四个科目(数学、科学、英语语言艺术和社会研究)。由于Hugging Face的发布是一个整体的数据集,我们为所有评估构建了主题独立的训练/验证/测试分区(表2)。在检索过程中,我们通过将OERCommons-LP语料库分割成段落(120-220个标记)并附加来源元数据(源URL、作者/风格聚类、年级段和提取的标准ID)来构建课程知识库。在评估实例时,我们排除了来自其真实计划的段落,以防止直接泄露。表2总结了数据统计信息,基于主题的分区减少了训练集和测试集之间的重叠。表2显示了OERCommons-LP的统计数据。监督集构成了(第3节)和个人化协议及分区。个性化是针对特定教师的:对于每个教师u,在一个分区(训练/验证/测试)中,我们将该教师的偏好对分为70%用于训练,10%用于提前停止,20%保留用于计算偏好胜率。表2中的偏好对计数是在此分区之前的总数。为了减少泄露,用于提取偏好对以调整适配器的课程请求与用于报告同一分区中自动指标的请求集是分开的。
5.1.2 基准测试
我们与六个系统进行了比较,所有系统都受限于输出相同的模式(公式(3)以确保公平比较:
- ZS-LLM:仅使用基础生成器的模式提示,没有检索,没有微调。
- RAG-Prompt:使用公式(8)进行检索并结合模式提示;生成器没有经过微调。
- Grounded-FT:没有教师适配器的基于检索的微调。
- Grounded-FT+Refine:带有微调轮次的基于检索的微调(公式(14)但没有教师适配器。
- DualProf-Align:第一阶段加上教师适配器,并使用偏好损失进行类条件前缀训练,但没有微调。
- TeachPlanAlign:包括选择性编辑和证据修复的完整方法。
这些基线是受控的内部比较器,旨在隔离基础化、个性化和微调的效果。在当前的提交中,我们没有包括强大的开源或基于代理的外部系统;因此,我们将这种省略视为一个重要的限制。
5.1.3 评估指标
我们报告了三组指标,反映了第3节中的目标:
- (i)课程对齐:设是从元数据和模式规则中提取的标准ID集合。我们计算(34)。
- (ii)证据忠实度:对于每个程序步骤,我们检查引用的证据是否支持该步骤:(35),其中将实现为一个验证器,结合了确定性的词汇约束(实体重叠和标准ID一致性)和蕴含式检查。我们还报告了引用覆盖率,即非空证据存在的步骤比例。
- (iii)个性化和教学连贯性:使用保留的教师偏好对,我们计算相对于Grounded-FT的偏好胜率:教师更喜欢某种方法产生的候选方案的比例。教学连贯性通过基于约束的分数来总结:(36),违规率是存在违规情况的测试实例的百分比。
所有自动指标都是代理度量。Std-F1依赖于提取标准的规则;Faith依赖于结合确定性检查和基于LLM的蕴含式判断的验证器;PedScore依赖于手工设计的约束权重。因此,我们将它们解释为在固定评估流程内的比较信号,而不是课堂效果的最终衡量标准。
5.1.4 实施细节
基础模型和训练设置:基础生成器是meta-llama/Meta-Llama-3-8B-Instruct,一个仅有解码器的Transformer,拥有80B参数。第一阶段的微调使用AdamW(权重衰减),学习率为,全局批量大小为64,总共3600次更新步骤,最大上下文长度为4096个标记。教师适配使用LoRA适配器,其等级和缩放因子分别为,班级前缀长度为。实验在4个NVIDIA A100 80GB GPU上运行。
除非另有说明,我们使用公式(8)来检索段落。在第一阶段,我们使用干扰增强上下文训练生成器三个周期;我们设置和。我们为KL正则化器设置。在第二阶段,我们使用和在验证偏好胜率上进行教师适配器的训练并提前停止。在推理阶段,TeachPlanAlign使用微调轮次(公式(14);对于不受支持的步骤,会触发证据修复检索。
表3总结了文本中报告的关键超参数,以便于重现。表3显示了实验中使用的关键训练和推理超参数。蓝色标记的字段是在修订中添加的明确的可重现性细节。
5.2 主要结果
表4报告了在400个请求的OERCommons-LP测试分割上的单次运行点估计。TeachPlanAlign在所示的受控基线中获得了最强的点估计,但我们现在将这些结果描述为描述性的基准比较,而不是统计上验证的优越性声明。由于当前提交没有报告置信区间或科目/年级细分,因此应谨慎解读该表。表4显示了OERCommons-LP测试集(400个请求)的主要结果。对于Std-F1、Faith、引用覆盖率、偏好胜率和PedScore来说,数值越高越好;对于违规率来说,数值越低越好。最佳结果以粗体显示。这些是一个固定分割的点估计;当前提交中没有报告置信区间。
5.3 消融研究
表5从TeachPlanAlign中移除了关键组件。移除教师适配器显著降低了偏好胜率,证实了教师风格对齐的主要驱动因素是。移除证据修复会损害证据忠实度,表明由不受支持的步骤触发的额外检索可以改善基础化效果,超越了固定的top-k检索。移除选择性编辑会由于完全重写引入的偏差而降低教学连贯性,即使使用了相同数量的微调轮次。
表5显示了在测试集上的消融结果。每一行移除了TeachPlanAlign中的一个组件,同时保持其他组件不变。图1可视化了表5中的两个代表性指标。移除教师适配器时偏好下降最大,而证据修复和选择性编辑对忠实度和约束满足度的影响最为显著。与表4一样,这些消融结果是描述性的组件隔离比较,而不是经过显著性测试的估计。
5.4 教学意识自我微调的效果
图2显示了微调如何影响约束满足度和基础化。我们计算了标准化惩罚和步骤级别的引用覆盖率(存在证据的步骤比例),并在测试集上进行了平均。大多数改进发生在前两轮,曲线在之后稳定下来,这激发了我们的默认推理预算。
5.5 教师在循环中的评估
自动指标无法完全捕捉可用性,因此我们对18位教师(与测试集教师聚类不重叠)进行了形成性研究,他们处理了涵盖所有四个科目的120个课程请求。样本包括来自目标学科领域的教师以及早期职业和经验丰富的教师。每位参与者审查了6-7个请求的随机子集,收到了相同的书面评分标准,并以随机顺序看到了系统输出。对于每个计划,指定的教师在1-5的Likert量表上评估了(a)可部署性(可以进行轻微编辑)和(b)对证据的信任度,然后进行了编辑直到满意,同时我们记录了编辑时间。因为每个请求都分配给了一位教师进行编辑,所以没有报告评分者间的一致性;因此,我们将这项研究视为形成性的,而不是总体水平的。
表6报告了描述性平均值。TeachPlanAlign获得了比两个比较系统更高的平均评分和更低的编辑时间,但我们现在避免做出更强的泛化声明,因为研究的规模较小且没有报告推断统计信息。
5.6 定性示例和失败模式
表7提供了一个示例摘录,以具体说明输出格式。该示例并非新的定量结果;它包括在内是为了阐明双重配置文件条件、明确的时间安排和证据指针在实践中的表现。表7显示了TeachPlanAlign课程计划的示例摘录和简短的编辑者说明。典型的失败模式仍然存在。当检索到主题相似但年级相邻的示例时,模型可能会偏向于附近的而非确切的标准代码。系统有时也会过度指定材料或将讨论和评估压缩到最后几分钟,特别是在请求未指定课堂约束的情况下。我们包括这个定性讨论是为了补充汇总表格。
总体而言,实验表明在这个基准测试上有三种模式:(i)基于检索的微调在相同模式下优于仅使用提示的RAG,(ii)双重配置文件个性化在受控基线中提高了教师偏好满意度,(iii)有界的微调有助于减少可行性和基础化错误。由于结果是以汇总的点估计形式报告的,没有推断统计信息,我们将这些发现解释为描述性的,而不是决定性的。
6. 结论
本文介绍了TeachPlanAlign,它是一个结合了检索基础生成、轻量级个性化和有界微调的课程规划应用程序。该框架同时考虑了教师偏好和课堂背景,将结构化的计划基于从元数据中检索的课程证据进行基础化,并使用选择性编辑和证据修复来减少不受支持或不可行的内容。在OERCommons-LP上,TeachPlanAlign获得了比我们研究的受控基线更强的点估计,但这些结果应被视为基准证据,而不是广泛实际优势或部署准备就绪的证明。
限制和伦理考虑:TeachPlanAlign假设可以访问一个经过精心策划的课程知识库,其中包含可靠的来源元数据;当课程不完整、过时或与标准的关联较弱时,性能可能会下降。当前的基准测试还依赖于从OER资源中推断出的合成教师/班级聚类,而不是观察到的纵向用户概况,这限制了生态有效性。此外,表4和表5中的自动指标是代理度量;当前提交中没有报告置信区间或科目级别的细分,基线集也没有包括强大的开源或基于代理的外部比较器。教师研究规模较小且是形成性的,而不是总体水平的。从伦理角度来看,该系统应支持教师监督,而不是替代它:配置文件信号可能包含偏见或敏感信息,不准确的标准对齐或差异化建议可能会对支持较少的学生产生不成比例的影响。未来的工作应加强验证,报告更广泛的人类研究,研究特定学科的行为,减少新用户的反馈负担,并检查保护隐私的个性化和下游学习成果。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号