基于大语言模型的自动问题生成:综述
《ACM Computing Surveys》:Automatic Question Generation with Large Language Models: A Survey
【字体:
大
中
小
】
时间:2026年09月06日
来源:ACM Computing Surveys 30.4
编辑推荐:
**摘要**
基于测试的学习在促进知识留存方面卓有成效,但手动创建评估题目仍耗时费力,并限制了学生的个性化练习。大语言模型(LLMs)的出现为自动题目生成(AQG)带来了新的可能性。基于这一背景,本综述全面概述了使用LLM进行AQG的研究,重点关注教育应用领域。遵循PRIS
**摘要**
基于测试的学习在促进知识留存方面卓有成效,但手动创建评估题目仍耗时费力,并限制了学生的个性化练习。大语言模型(LLMs)的出现为自动题目生成(AQG)带来了新的可能性。基于这一背景,本综述全面概述了使用LLM进行AQG的研究,重点关注教育应用领域。遵循PRISMA方法论,我们回顾了2023年至2025年间发表的132项研究。我们的贡献包括:按回答开放性对题目类型进行分类体系,分析各知识领域的AQG进展,涵盖教育阶段、评估策略和难度控制等方面。我们还识别了反复出现的挑战和研究机会。
**AI摘要**
**AI生成摘要(实验性)**
本摘要由自动化工具生成,未经论文作者撰写或审阅。其目的是支持检索发现,帮助读者评估相关性,并协助相邻研究领域的读者理解本文。本摘要旨在补充作者提供的摘要,后者仍然是论文的主要摘要。全文仍是权威版本。点击此处了解更多。点击此处就本摘要的准确性、清晰度和实用性发表评论。您的反馈将有助于改进和未来的重新生成版本。要查看本AI生成的通俗摘要,您必须拥有高级访问权限。
**1 引言**
基于测试和题目驱动的学习长期以来被认为是巩固知识和长期记忆最有效的途径之一,其效果优于传统的阅读材料等方法 [139]。根据McDermott [92]的研究,通过主动提取知识,大脑加强了记忆连接,促进了更有效、更持久的学习。这种练习不仅有助于直接回忆被测试的内容,还能增强对相关内容的回忆,从而促进学习迁移。
然而,手动创建题目耗时费力,导致许多教师只能使用有限的题目数量,这可能限制了学生的练习和参与度。为解决这一问题,多年来人们一直在探索自动题目生成(AQG)作为解决方案。AQG的相关性在于其对各个领域的影响,特别是在教育、对话系统和应用于自然语言理解的人工智能(AI)领域 [97]。该领域的研究有助于开发能够增强学生训练的数字学习环境,并帮助教师更快地生成教学活动并减少工作负担 [22]。
生成具有适当质量和多样性的题目仍然是持续的研究挑战。Lee等人 [75]、Wang等人 [136]指出,已有的AQG方法通常基于模板、规则或统计模型,为这一领域奠定了基础。尽管在结构化场景中行之有效,但这些方法在应对输出变异性以及在多样化教育环境中进行适配方面面临固有的挑战。大语言模型(LLMs)的出现引入了互补的能力,提供了一种处理自然语言的概率性方法。
自动题目生成旨在简化评估活动的创建过程,使教师能够将更多时间用于直接教学和与学生互动,而非花费大量时间手动创编形成性和总结性评估的题目 [16]。此外,这些工具旨在通过探索适应不同学习情境和需求的方式来支持评估材料的多样化。
在此背景下,LLM已展现出生成连贯且详细的文本的能力,表明其在AQG辅助方面的潜力,具体取决于用户提示的质量 [69]。然而,由于其概率性本质,LLM可能生成错误或具有误导性的回答,在制定评估题目时这是一个严重风险 [19]。
由于错误可能损害学生学习,因此必须识别适当的方法来改进自动生成题目的质量。这凸显了系统文献综述的重要性——它提供了对当前研究现状的全面视角,展示了进展、挑战和研究开放性问题。在文献中,可以找到关于AQG的相关综述 [27, 97, 105]。然而,自2022年底ChatGPT等基于LLM的工具发布以来,此类综述较为稀少。这些工具使先进的自然语言生成能力更易于获取,促使了相关研究的激增。这些技术发展迅速,为生成具有教学相关性、多样性和情境感知能力的题目引入了新的机会。虽然这些进展中的一部分已在文献中被探讨,但尚未被系统地组织和深入讨论。
本文提出了一项关于近期使用LLM技术进行AQG努力的广泛而系统的文献综述。我们的研究方法论遵循PRISMA框架,回顾了2023年至2025年间发表的132项研究。这项调查探索了主要学术数据库,并通过定义的纳入标准对结果进行筛选。在系统选择过程之外,该研究引入了一种结构化的分析方法,将文献组织到不同的主题维度中。这些维度通过精心策划的数据表进行探索,随后进行批判性讨论,旨在识别优势、局限性、趋势和研究机会。
我们总结主要贡献如下:
- 一项深入的文献综述,涵盖2023年至2025年间使用LLM进行AQG的研究,包括最新的LLM进展及基于LLM的软件工具。
- 一种原创的题目类型分类体系,对其进行组织定义,以支持本综述及未来与AQG及其评估相关的研究。
- 从不同角度对使用LLM进行AQG的最新进展进行全面的组织和讨论,包括:(a) 按生成题目类型分类;(b) 使用的LLM;(c) 知识领域;(d) 生成题目所应用的教育阶段;(e) 对自动生成题目所采用的评估技术;以及 (f) 用于控制或分析题目难度的方法。
- 识别、分析并深入讨论使用LLM进行AQG时反复出现的根本性研究挑战,突出该领域开放的研究机会。
本综述主要面向对自然语言处理(NLP)和生成式人工智能有基础了解的研究人员、教育工作者和实践者。虽然我们提供了教育应用方面的背景,但关于模型、其架构、生成策略和评估指标的技术讨论假定读者对该领域的标准术语已有所熟悉。对于需要基础AQG方法论和标准评估指标入门的读者,我们推荐参考Das等人 [27]、Flor [35]、Mulla和Gharpure [97] 的著作。
我们的分析表明,近年来使用LLM进行AQG的文献增长迅速,但在多个维度上仍然碎片化。大多数研究侧重于生成封闭性题目,尤其是多项选择题,因为它们与自动评估相一致。基于GPT的模型是最常用的,其次是T5和BERT的变体,反映了少数LLM家族在该领域的主导地位。AQG的使用主要局限于高等教育阶段,而针对小学和中学教育的研究生则相对稀少。这种集中化限制了不同教育阶段和学习者特征覆盖面。在回顾的文章中,少于15%报告了在真实课堂环境中的实施。人工专家评估仍然是主要策略,但其对人类评审员的依赖性提出了效率制约。不到一半的回顾文章涉及题目难度问题。这些发现指向一个处于转型中的领域,模型能力方面取得了有前景的进展,但在教育整合和方法论稳健性方面仍存在持续差距。
本文其余部分组织如下:第2节描述用于进行文献综述的方法论。第3节分析相关文献综述并指出它们与本研究的区别。第4节提出题目类型分类体系。第5节组织并讨论AQG的最新进展。第6节识别文献中报告的与AQG相关的挑战,并概述开放的研究机会。最后,第7节给出结论。
**2 方法论**
本研究遵循PRISMA方法论 [104],并根据研究的具体特征进行适当调整,以确保与研究目标的对齐。这些调整增强了数据检索和选择的精确度,反映了LLM及其在AQG中应用的快速演变。
搜索在Scopus、1 CAPES期刊门户(Portal de Periódicos CAPES)2 和ACM数字图书馆3 中进行,并辅以对Google Scholar结果的补充审查。选择这些数据源是基于它们对相关研究领域的全面覆盖。Scopus是一个领先的多学科数据库,因索引高质量的同行评审论文而广受认可。CAPES期刊门户作为一个主要聚合器,覆盖了IEEE和Springer等涵盖众多出版商的大型数据库,提供了广泛的学术资源访问,特别是来自拉丁美洲机构的资源,确保了区域重要研究的纳入。ACM数字图书馆专注于计算和AI研究,对于LLM相关的研究高度相关。纳入Google Scholar是为了捕获可能未被传统数据库索引的灰色文献和会议论文。
为每个数据库制定了定制化的搜索公式以优化搜索准确性,利用各自的查询语法同时保持跨数据源逻辑一致性。表1展示了各数据库使用的具体搜索查询。由于CAPES期刊门户不支持高级搜索查询,我们使用了两个独立的查询以确保更广泛地检索相关研究。在可能的情况下,搜索限制在标题、摘要和关键词中以增强精确度。使用通配符(如"automat*")和较宽泛术语的试点搜索产生了过多的不相关记录。因此,我们依赖特定关键词进行搜索阶段。为确保选择相关研究,教育(Education)和LLMs方法作为严格纳入标准在人工筛选期间使用,而非限制初始搜索字符串。
**表1**
| 数据库/搜索引擎 | 搜索查询 |
|---|---|
| CAPES期刊门户 | Automatic Question Generation |
| CAPES期刊门户 | Automatic Item Generation |
| Scopus | TITLE-ABS-KEY ((automatic AND question AND generation) OR (automatic AND item AND generation)) AND PUBYEAR > 2022 AND PUBYEAR < 2026 AND (LIMIT-TO (LANGUAGE, "English") OR LIMIT-TO (LANGUAGE, "Spanish") OR LIMIT-TO (LANGUAGE, "Portuguese")) |
| ACM数字图书馆 | TITLE:((automatic AND question AND generation) OR (automatic AND item AND generation)) OR Abstract:((automatic AND question AND generation) OR (automatic AND item AND generation)) OR Keyword:((automatic AND question AND generation) OR (automatic AND item AND generation)) |
| Google Scholar | (automatic AND question AND generation) OR (automatic AND item AND generation) |
*不同数据库中用于文献检索的搜索查询*
研究选择由明确定义的纳入和排除标准指导,主要关注那些利用LLM进行AQG、涉及教育背景、在2023年后发表(此时ChatGPT等软件工具已广泛可用并开始影响学术研究)以及用英文、葡萄牙文或西班牙文撰写的研究。
图1展示了研究选择过程。在应用搜索参数后,共检索到18,623条记录,其中CAPES期刊门户522条、Scopus 650条、ACM数字图书馆551条,以及Google Scholar 16,900条结果。使用Zotero(一种促进文献组织和重复检测的参考文献管理工具)移除了67条重复条目。
**图1** PRISMA流程图,展示系统综述过程。
鉴于记录数量庞大,特别是来自Google Scholar的结果大量低特异性,实施了严格的筛选过程。两名研究人员手动对标题和摘要进行初步筛选,根据AQG相关性、LLM使用和教育背景应用排除标准。在仅通过摘要无法确定相关性的情况下,对引言和结论部分进行了有针对性的审查以验证研究的具体贡献。该筛选过程将数据集缩减至265项潜在相关研究。
从该子集中,18项研究因无法获取而被排除。剩余文章进行了全文审查,按照特定顺序重新审视排除标准:首先,移除了与AQG不相关的研究(n = 8);其次,排除了不涉及LLM应用的研究(n = 87);最后,丢弃了与教育主题无关的研究(n = 20)。对于文献综述,仅考虑AQG相关性,不附加其他排除标准。最终,132项研究被纳入最终分析。虽然搜索范围包括英语、葡萄牙语和西班牙语,但最终选择仅由英文撰写的文章组成。表2展示了本研究在整个过程中应用的纳入和排除标准的综合概览。
**表2**
| 纳入标准 | 排除标准 |
|---|---|
| • 使用LLM进行AQG的研究 | • 与AQG缺乏相关性 |
| • 应用于教育背景的研究 | • 缺乏LLM应用 |
| • 2023年至2025年间发表 | • 与教育主题脱节 |
| • 以英文、葡萄牙语或西班牙语撰写 | • 全文无法获取 |
| • 经过同行评审的文章和会议论文 | • 重复条目 |
*纳入和排除标准*
132项选定研究的时间分布表明该领域的快速发展。
出版物数量从2023年的42篇激增至2024年的81篇,几乎翻了一番,这反映了LLM在教育场景中更广泛采用后研究热潮的兴起。该数据集还纳入了2025年的9项研究,涵盖了截至第一季度末的文献。为减轻潜在偏倚,我们采取了多项措施,以确保更严格的筛选过程。使用多个数据库以增强代表性并减少特定数据库的偏倚,同时应用一致的检索策略以保持数据检索的统一性。明确定义的纳入和排除标准有助于最小化选择偏倚,并进行了双重审核流程以提高准确性并减少个别研究者的偏倚。此外,纳入多语言来源确保了更广泛的研究景观覆盖。
图2总结了本研究的逻辑结构。为便于理解,图中每个元素均用字母A至F进行标注,并作为引用该元素的参照。该流程始于基于PRISMA的系統方法筛选出132篇文章(如图2中A所示),具体细节如前所述。这些文章被分为两组:12篇综述文章和120篇探索性研究。我们在综述定位(如图2中B所示)中考察这12篇综述,以概述先前综述的贡献与局限,并阐明本研究的范围与原创性(第3节)。题型分类(如图2中C所示)定义了基于结构开放性的教育题型分类体系(第4节)。该分类体系作为第5节和第6节中分析流程开发的参考框架。
从该节点开始,本研究采用结构化、数据驱动的方法来组织并解读这120篇探索性研究。在分析分组(如图2中D所示)中,关键信息根据五个分析维度进行提取和整理:题型、基于LLM的方法、教育领域、评估策略和难度控制。这些维度指导了讨论与分析(如图2中E所示)中主题表格的人工构建,从而支持对模式、主流方法和新兴趋势的综合归纳(第5节)。最后,挑战与机遇(如图2中F所示)汇集了一系列反复出现的困难和开放研究方向,详见第6节。
这种逻辑组织实现了跨分析维度的全面综合,使本研究不仅局限于分类,更能够识别该领域的优势、局限性和新兴方向。
3 相关文献综述分析
本节分析了此前针对自动题目生成(AQG)各种方法开展文献综述的研究。本分析旨在识别这些研究之间的共性与差异,同时突出其贡献以及本研究自身的原创性。通过考察这些先前的努力,我们有效地将本研究置于更广阔的研究景观中,展示了本研究如何与现有综述区分开来。
一些研究在所生成问题的类型和所涉知识领域方面具有相似之处。例如,Al Shuraiqi等人[5]与K?yak和Emekli[71]研究了健康教育的自动选择题生成(AMCQG)方法。Al Shuraiqi等人[5]提供了多种方法的综述,包括本体方法、自然语言处理(NLP)、机器学习(ML)和大语言模型(LLM);而K?yak和Emekli[71]则采取了更具针对性的方法,对ChatGPT在选择题(MCQ)生成中的作用进行了快速综述。两项研究均强调了专家评估在确保准确性和教学效果方面的必要性。
在更广泛的MCQ生成背景下,Al Shuraiqi等人[5]、Henry等人[53]、Khandait和Bhura[65]、K?yak和Emekli[71]、Madri和Mervua[87]以及Awalurahman和Budi[11]考察了AQG的不同方面。Madri和Mervua[87]对MCQ生成技术进行了综述,特别关注了干扰项质量和评估挑战。类似地,Awalurahman和Budi[11]提供了关于自动干扰项生成(ADG)的系统文献综述(SLR),梳理了趋势并指出了差距,如多语言ADG研究的需要以及干扰项质量控制的改善需求。与此同时,Henry等人[53]在先前研究的基础上,系统综述了基于Transformer的AMCQG方法,指出了数据集标准化和评估方面的关键挑战。这些研究共同凸显了MCQ生成领域的进展和持续存在的问题,从干扰项质量到LLM集成。
更广泛地,Khandait和Bhura[65]以及Mulla和Gharpure[97]提出了AQG方法论的全面综述。Khandait和Bhura[65]探索了各种基于NLP的AQG方法,包括序列到序列模型和神经网络,同时指出了语义理解和评估技术方面的挑战。Mulla和Gharpure[97]将AQG方法分为独立题目生成、视觉题目生成和对话式题目生成,并概述了语法正确性、领域适配和评估指标方面的差距。两项研究均强调了机器学习和深度学习(DL)在增强AQG方面的作用。他们还指出了题目多样性和自动评估方法论方面的局限。
评估仍然是AQG研究中的关键问题,正如Gorgun和Bulut[42, 43]所讨论的。在[42]中,作者批评了现有评估框架,强调了高效、自动化评估技术的必要性。在[43]中,他们对AQG评估方法进行了综述,提出了一个将指标法、人类评估法和混合方法进行分类的分类体系。两项研究均指出了AQG评估的不一致性和需要更可靠的心理测量和计算评估方法的必要性。
在神经方法背景下,Al Faraby等人[4]对神经题目生成(NQG)进行了综述,指出了数据集可用性、题目难度控制和评估鲁棒性方面的挑战。该研究强调了上下文感知NQG的相关性以及超越词汇相似性指标、建立更具教学意义的评估标准的需要。与此同时,Tuhpatussania等人[129]针对印尼语教育文本提供了关于自动问答生成(AQAG)的SLR,分析了编解码器和Transformer等方法,同时强调了印尼语教育内容缺乏开放数据集的问题。
Circi等人[25]对自动试题生成(AIG)进行了叙事性综述,将其置于AQG更广阔的领域中,并强调了其对结构化评估模型的相关性。在分析中,作者将AIG和AQG定义为同义词,广义上指从各种输入生成题目的过程。然而,他们指出AIG是教育测量领域中通常偏好的术语,其中题目被明确称为"试题",以强调其心理测量有效性和与特定构念的一致性,而AQG则更常作为可互换的术语用于更广泛的研究领域。该研究考察了基于模板的AIG方法的主导地位,同时讨论了LLM的新兴作用以及干扰项生成和难度校准方面的持续挑战。
近年来开展的AQG文献综述展示了该领域的显著进展。表3总结了2023年至2025年间发表的所有分析综述。12项主要参考文献中有5项主要引用截至2022年发表的文章,另外3项包含截至2023年的引用。仅有4项研究引用了截至2024年发表的研究:其中3项专门关注MCQ生成[11, 53, 71],另1项(一篇简明的SLR)在更窄的分析范围内涵盖了多种题型[129]。
表3. 特征总结:
| 参考文献 | 题型 | LLM关注 | 按题型分类的文献 | 按LLM分类的文献 | 难度级别 | 参数化问题 | 最新引用 |
|---|---|---|---|---|---|---|---|
| Mulla和Gharpure [97] | 封闭、半开放、开放 | ? | | | ? | | 2022 |
| Circi等人 [25] | MCQ、半开放 | | | | | | 2022 |
| Al Faraby等人 [4] | 封闭、半开放、开放 | | | ? | ? | | 2022 |
| Al Shuraiqi等人 [5] | MCQ | | | ? | | | 2023 |
| Madri和Mervua [87] | MCQ | | | | | | 2022 |
| K?yak和Emekli [71] | MCQ | ? | | | | | 2024 |
| Gorgun和Bulut [42] | 无 | | | | | | 2023 |
| Henry等人 [53] | MCQ | ? | | | | | 2024 |
| Gorgun和Bulut [43] | 无 | | | ? | | | 2023 |
| Awalurahman和Budi [11] | MCQ | | | ? | | | 2024 |
| Tuhpatussania等人 [129] | 封闭、半开放、开放 | ? | ? | | | | 2024 |
| Khandait和Bhura [65] | MCQ | | | | | | 2022 |
| 本研究 | 封闭、半开放、开放 | ? | ? | ? | ? | ? | 2025 |
注:表3总结了2023-2025年AQG近期文献综述的特征,不包括评估提案、挑战讨论和研究机会部分,因为所有研究均涵盖这些方面。
除了参考文献的时效性限制外,这些综述的另一个共同点是,它们在某种程度上都涉及了生成题目评估的相关问题。除了[129]的简明SLR外,没有任何一项研究系统地按生成题目的类型来组织文献,也没有提及可参数化的题目——即通过修改提示词来创建新实例的题目,这有助于构建用于大规模应用的题库。此外,12项分析的综述中仅有2项探索了与题目难度级别相关的策略,且这两项都仅依赖于截至2022年发表的文章。本研究全面弥补了所有这些空白。此外,本原创文献综述通过对2023年至2025年间发表的120篇文章进行深入分析,专注于LLM在教育背景下用于AQG的研究,从而与这些综述区分开来。本研究的贡献涵盖了最新的技术进展,系统地组织、分析和讨论这些努力,以促进该领域的未来研究。
4 题型分类体系
Luckesi[86]将学习评估理解为一个持续且有意图的过程,旨在诊断学生的学习状况,以支持促进其教育发展的决策。对于作者而言,评估是基于相关数据做出价值判断,以促进扩展学习机会的教学干预。这一观点与Libaneo[81]的观点高度一致,后者认为评估是教学实践的重要组成部分。根据Libaneo[81]的观点,评估是一项复杂的任务,涵盖了教学、诊断和监控功能,依赖于能够实现学业表现验证的工具。两位作者都认可通过测量获得的数据的相关性。他们强调,这些数据必须结合教师的经验以及学生所处的背景进行解读。
从这一视角出发,评估数据的教学解释需要对评估工具本身进行批判性考察,这为使用题型分类体系作为结构和评估实践的分析框架提供了正当理由。此类分类在不同领域已得到充分发展,为评估结构的分析提供了基础。例如,在教育研究中,Day和Park[28]提出了一种将阅读理解类型与相应题型相关联的分类体系,从字面理解和重组到推断、预测、评估和个人回应。他们的框架明确将认知需求与是/否、真/假、"什么/谁/哪里"等问题、选择题和多项选择题等格式联系起来,展示了不同题目结构如何赋予不同层次的理解参与度。
在教育心理学领域,Anderson和Krathwohl[9]修订了Bloom分类法[17],根据认知过程对题目进行分类,将关注点从题目格式转向回答问题所需的心智复杂度。补充这一观点,Haladyna等人[52]综合了关于选择题编写经验和理论的研究,提出了基于证据的指导方针,区分了有效和有缺陷的题目构建,特别强调了课堂评估中题目设计的有效性、信度和嵌入式认知需求。
在NLP和语篇分析领域,分类体系服务于更具结构性和语义性的目的。Graesser和Person[46]基于人类辅导的逻辑开发了一个包含18个探究类别的分类体系,侧重于问题作为信息获取机制的功能。类似地,Li和Roth[77]引入了一种用于问题分类的层次语义分类法,该分类法已成为计算语言学中训练自动系统识别查询"答案类型"(如人物、实体或数值)的广泛引用参考。虽然这些已建立的分类体系主要关注认知层级、题目质量或语义意图,但本研究采用的分类体系专门关注回答格式的结构开放性,将教学需求与生成模型的技术能力相协调。
教育中的分类体系通过防止任意性评估设计并确保与学习目标的一致性,促进了教学意图性。通过提供标准化的语言,它们促进评估者之间的一致性,明确被评估的构念,并支持从低水平回忆向高阶认知需求的渐进。在这一既定传统中,按功能特征组织题型有助于与预期学习成果相一致的系统化评估工具设计。尽管开放、封闭和半开放结构之间的区分在教学实践中已被广泛认可,但基于这些类别发展分类体系为评估当前AQG系统输出多样性和评分可行性提供了必要的分析框架。
本研究提出的分类体系的开发基于对教育环境中常用题型的分析,考虑了其结构、功能和认知需求。题目被分为三个主要类型:开放、封闭和半开放,依据学生回答的自由度及所需技能。采用了一种探索性的、基于定性的程序。
首先,我们分析了三个广泛使用的学习管理系统(LMS):Canvas、Blackboard和Moodle。
本研究的目的在于识别这些平台所支持的问题类型,以及教师在评估活动中最常采用的格式。这一分析使我们能够识别出常见的结构和配置模式。在第二阶段,我们按照第2节所述方法选取的研究语料库,并结合了教育评估与题目设计领域的奠基性研究——特别是Day和Park [28]、Libaneo [81]以及Luckesi [86]的研究——进行了考察,以识别文献中描述的问题类型和评估结构。对这些来源的文本分析使我们能够将学习管理系统(LMS)平台中观察到的实践与评估设计的理论框架进行比较。基于这两个视角——即来自数字平台的技术视角与来自学术文献的理论视角——之间的趋同,问题按照结构、所需回答类型以及开放程度进行了分类。这种比较支持了我们所定义的分类体系的提出与组织。
图3展示了最终形成的分类体系,该体系兼顾了实际应用性和概念严谨性。
图3. 基于开放程度和回答格式的教育情境中的问题类型。
封闭性问题通过结构化格式提供客观答案,其在设计和功能上存在差异,能够根据教学目标实现多样化的评估。选择题允许选择一项或多项正确选项,有时涉及计算,在评估概念理解、批判性分析和公式应用方面十分有效。布尔型(判断题)问题能够迅速且高效地评估对基础内容的理解。匹配题要求学生将两个列表中的条目进行关联,从而评估其对概念间关系的理解。数值题要求输入精确的数值,可以涉及公式也可以不涉及,非常适合衡量计算的准确性和数学步骤的运用。
半开放性问题处于一个中间地带,学生必须自行生成答案而非选择答案,但预期回答被限定在特定术语、简短短语或关键词范围内。这种格式消除了选择题中可能出现的猜测可能性,同时确保答案具有足够的可预测性,可以由算法进行评估(例如精确匹配或关键词检测)。带有变体的简答题要求简洁的输入,同时允许同义词或等价表达。它非常适合在允许一定语言多样性的同时评估概念性知识。填空题专门评估内容掌握程度和结构化信息的能力,可以包含文本、数值或视觉元素。
开放性问题允许学生以书面形式表达自己的想法,没有预设的回答格式。论文型(作文型)题目要求较长的回答,通常为一段或多段,旨在评估学生进行论证、反思和有条理地组织思想的能力。短篇开放回答由简洁的文本组成,通常在两到五行之间,用于总结信息、定义概念或提供客观解释,有助于评估学生表达的清晰度和对核心内容的掌握程度。论证或话语分析题要求学生批判性地评估观点、视角、图表或陈述,使教师能够评估学生的推理能力、论证能力和在不同情境中运用分析性思维的能力。
该分类体系由表4进一步阐明,该表呈现了与每种已识别问题类型相对应的示例。这一映射有助于直观展示不同格式与回答的开放程度以及问题结构之间的关系。如前所述并如示例所示,将问题分为开放式、半开放式和封闭式的分类不仅反映了每个题目的结构配置,也反映了预期回答的性质——从客观选择到自由阐述——这支持了评估任务中不同程度的表达性和评估深度。
表4. 分类与问题类型对应表
| 分类 | 问题类型 | 示例 |
|------|---------|------|
| 封闭式 | 选择题 | 以下哪项正确描述了光合作用的特征?(a) 释放CO?, (b) 消耗氧气, (c) 产生葡萄糖, (d) 吸收氮气 |
| | 判断题 | (正确)水在海平面处100°C沸腾。(错误)水在10°C结冰。 |
| | 匹配题 | 将元素与其相应分类匹配:(1) H?O – () 分子化合物 (2) NaCl – () 离子盐 (3) O? – () 单质 |
| | 数值题 | 计算一个物体在20秒内行进100米的平均速度。答案:5 m/s |
| 半开放式 | 带变体的简答题 | 使用可再生能源的一个好处是什么?答案:减少污染 / 可持续性 / 不耗尽自然资源 |
| | 填空题 | 水是由两个___原子和一个___原子组成的___物质。答案:氢、氧、分子 |
| 开放式 | 带理由的封闭式 | 钙元素属于哪个族?(a) 碱金属, (b) 碱土金属, (c) 过渡金属, (d) 非金属。请说明你的理由。 |
| | 论文型 | 解释温室效应如何促成全球变暖,讨论其原因和环境影响。 |
| | 短篇书面回答 | 解释质量和体积与密度概念的关系。回答限制在五行以内。 |
| | 话语分析 | 根据所提供的漫画,批判性地分析消费与环境之间的关系,指出主要的隐含论点。 |
按分类和回答格式组织的问题类型示例,遵循所提出的分类体系
当这三种类型组合使用时,能够实现全面评估,平衡客观性、深度和表达性推理。例如,Onal和Kulavuz-Onal [103]从应用和跨学科视角定义了问题类型,使用ChatGPT为高等教育的工业工程和应用语言学课程生成评估任务。他们并未提出正式的抽象类别,而是通过生成任务的结构来展示不同类型,包括选择题、案例研究、数学问题和语言学分析练习。每种任务类型都根据其教学目的进行了讨论。选择题测试事实和概念性知识,案例研究促进情境化应用,数学问题评估定量推理能力,语言学任务则鼓励基于语用惯例的真实数据分析。作者展示了每种格式如何通过特定的提示词定制ChatGPT,证明了其在各种教育目的中的灵活性和适应性。
基于这一应用视角,所提出的分类体系有助于阐明不同类型的问题不仅与回答格式相关,也与评估策略相关。封闭式题目以客观、标准化的回答为特征,特别适合自动评分,在数字评估中被广泛使用。半开放性问题结合了结构化与有限制的展开,允许学生输入的答案具有足够的可预测性以进行自动评分。开放式格式则需要更多解释性的方法,因为它们涉及需要上下文理解和定性分析的话语性回答。通过建立这些类别及其与评分方法的对应关系,该分类体系为将评估设计与教学意图及可用技术资源相协调提供了一个实用的参考框架。
**5 自动出题(AQG)**
本节全面分析了使用大语言模型(LLM)进行自动出题(AQG)的最新研究。基于前面介绍的第4节中提出的分类体系,我们通过多个视角对文献进行了考察,包括问题类型、模型实现方式、应用领域、评估策略以及处理问题难度的方法。目的是突出关键趋势、识别反复出现的挑战并概述未来研究方向。
**5.1 问题类型**
第4节提出的分类体系为本研究中分析的问题类型提供了组织基础。该体系最初旨在支持教学设计和评估规划,在本节中,它作为一种分析视角,用于映射和解释近期AQG研究中问题类型的使用情况。
表5根据所提出的分类体系展示了AQG相关文献的组织方式。每一行对应一种特定的问题类型,所列参考文献表明在这项研究中LLM被用于自动生成该类型的问题。数据中出现了若干模式。首先,选择题似乎是所审查文献中最突出的问题类型。该格式被广泛应用于各级教育和各个领域,用于测验、练习题和正式评估等情境。其频繁采用的原因可能在于其通用性以及其适用于自动评分的特性,这与AQG研究中通常追求的效率目标相契合。
表5. 按问题类型对审查文献进行组织,遵循所提出的分类体系
| 分类 | 问题类型 | 参考文献 |
|------|---------|---------|
| 封闭式 | 选择题 | [1, 2, 3, 6, 7, 8, 10, 13, 16, 19, 20, 21, 22, 23, 26, 29, 30, 32, 33, 34, 36, 37, 38, 40, 45, 47, 48, 50, 51, 55, 60, 61, 64, 66, 68, 69, 70, 72, 73, 74, 75, 76, 82, 83, 85, 89, 95, 99, 100, 102, 103, 109, 110, 111, 112, 113, 114, 117, 118, 122, 128, 133, 134, 135, 137, 138, 141, 142, 146] |
| | 判断题 | [3, 6, 7, 8, 33, 36, 45, 75, 85, 95, 132, 133] |
| | 匹配题 | [3, 30, 33, 67] |
| | 数值题 | [19, 58, 59, 90, 108, 130] |
| | NA | [126] |
| 半开放式 | 带变体的简答题 | [1, 12, 15, 18, 20, 33, 36, 38, 39, 41, 49, 54, 56, 57, 61, 62, 63, 78, 79, 80, 95, 98, 101, 107, 115, 117, 120, 121, 125, 127, 131, 133, 136, 137, 140, 143] |
| | 填空题 | [1, 3, 6, 7, 14, 30, 33, 36, 38, 44, 45, 56, 75, 91, 95, 132, 133, 137] |
| | NA | [93, 126] |
| 开放式 | 带理由的封闭式 | [19, 130] |
| | 论文型 | [24, 37, 40, 88, 103, 124] |
| | 短篇书面回答 | [8, 24, 31, 37, 40, 45, 56, 60, 63, 75, 84, 88, 94, 95, 96, 103, 106, 109, 116, 117, 119, 124, 125, 136, 144, 145] |
| | 话语分析 | [24, 37, 40, 88, 103, 124] |
| | NA | [3, 6, 7, 30, 123, 126] |
按问题类型对审查文献进行组织,遵循所提出的分类体系
从更宏观的角度来看,封闭式问题是所审查研究中最常被关注的分类。半开放性问题是最常被探索的第二组,而开放性问题被讨论的频率较低。这种分布符合预期,因为封闭式和半开放式格式更有效地支持自动评分,与由LLM驱动的大规模教育应用的实际需求相契合。
在半开放式和开放式类别中,有两种类型因反复出现而尤为突出:带变体的简答题和短篇书面回答。这些格式特别适合回答"wh"类问题(如who、what、when、where、why、how),这些问题在教育评估中被频繁使用。它们在AQG文献中的广泛使用表明人们认可其教学实用性和评估潜力,因为它们允许学生简洁地表达理解和推理过程,同时在评估方面相对可控。
总体而言,研究在分类体系中的分布表明,AQG文献明显偏好那些便于自动评估且能更高效地扩展的问题类型。同时,更具表达性的格式的存在反映了一种拓宽基于LLM的出题的教学范围的尝试,并支持更丰富的学习评估形式。
**5.1.1 参数化问题**
另一个与自动评估目标密切相关的方面是参数化问题的使用。虽然前面讨论的分类体系基于结构开放性来组织问题类型,但值得注意的是,参数化技术可以应用于所有这些类别:封闭式、半开放式和开放式。参数化并非定义一种新的格式,而是修改现有结构以实现变体,因此更适合将其视为出题的一个属性,而非一个独立的分类类别。
在教育情境中,问题参数化指的是通过修改特定元素来生成多个问题变体,同时保持底层结构不变。该技术对于涉及计算、问题解决或公式应用的问题尤为有效,因为它允许对数值、情境或语言参数进行受控调整,而不改变目标认知技能或概念内容。表6通过展示一个带有可变输入的问题模型来例证这一方法,该模型可以产生同一底层结构的不同实现。
表6. 参数化问题模板及生成的实例示例
| 组成部分 | 示例 |
|---------|------|
| 问题模板 | 某国的首都是什么?[country] |
| 参数 | [country] ∈ {法国, 巴西, 日本} |
| 生成的实例 | 法国的首都是什么?巴西的首都是什么?日本的首都是什么? |
参数化问题模板及生成的实例示例
所审查的研究揭示了使用LLM进行AQG时参数化方法的多样性。例如,K?yak [69]采用通过带有可替换变量的结构化提示进行直接参数化,例如临床主题和难度级别,从而基于固定模板实现选择题的受控变体。在此基础上,K?yak等人 [72]引入了混合AIG方法,通过将年龄、性别和症状等变量进行系统组合,将手动编写的问题转化为可参数化模板,确保逻辑一致性和临床有效性。
在另一个方向上,Sayin和Gierl [114]提出了一个认知模型,该模型参数化语义和语言特征,包括文本结构和可读性,允许生成语义上不同但在复杂程度上具有教学等效性的阅读理解题目。同样,Jiao等人 [62]将难度、主题和方程等参数纳入自然语言数学问题的生成中。他们的方法利用主题重构和受控变体,借助基于能量的模型和专家系统评估,确保概念连贯性和实际适用性。
最后,文献[90]的作者提出了一种混合策略,该策略将结构化模板与基于大语言模型的语用重构相结合,在不损害语义完整性和可解性的前提下实现了文本多样性。这些研究展示了参数化如何作为一种强有力的策略,在自动生成问题中平衡变化与控制。通过系统地调整关键参数——无论是数值、语境还是语言学参数——大语言模型可以被引导生成多样化的但连贯的问题,甚至生成计算所需答案的源代码。这种技术的灵活性使其在构建大规模题库和支持跨教育领域的差异化教学方面具有特别重要的价值。然而,尽管潜力巨大,参数化的显式使用在现有文献中仍相对少见。在本综述中,不到5%的已审阅研究提出了参数化问题生成的具体实现。这表明,虽然参数化在内容多样性和教学稳健性方面具有明显优势,但它仍然是在涉及大语言模型的自动问题生成研究中一个探索不足、记录不够充分的领域。
5.2 基于大语言模型的方 法
大语言模型在自动问题生成研究中扮演着日益突出的角色,为高效、情境感知且语义丰富的问题生成提供了新的可能性。它们处理大规模文本数据、维持上下文连贯性和生成类人化回答的能力,促成了更具适应性和教学价值的自动问题生成方法。这些模型的集成使得内容创建得以自动化,并在多个教育情境中提升了生成题项的多样性和质量。
这些模型融入自动问题生成方法的主要途径之一是增强和多样化问题生成过程。GPT和T5等模型可以从非结构化文本或结构化知识表示中生成各种类型的问题[3, 37, 48]。一些系统探索了多语言能力并支持领域特定应用[37, 94]。在某些情况下,这些模型会生成问题的多个变体以提高题项多样性[48]。
此类模型还用于答案生成,为生成的问题提供正确回答[83]。此外,一些系统使用语言模型生成答案解析或推理说明,以帮助阐明正确选择背后的推理过程[69, 82]。
另一个常见应用是生成干扰项。这些模型被用于创建与正确答案语义相似且与上下文连贯的选项[13, 85]。一些研究基于语义相似度使用排序或过滤机制来完善干扰项生成[68]。
一些自动问题生成方法允许对生成题项的结构和风格进行更精细的控制。使用大语言模型进行题型转换已被探索用于在填空题和多项选择题之间进行转换[50]。
语言模型还支持内容提取和摘要,帮助在生成问题之前从输入文档中选择或压缩相关片段[36, 94]。
逐步推理模拟的使用已被探索以提高问答的教学价值。通过思维链提示等方法,模型生成中间推理步骤,在数学和逻辑等领域中尤为有用[19]。
在评估方面,此类模型被应用于语义和上下文分析。例如,基于BERT的相似度度量被用于评估干扰项的连贯性以及问题与源材料之间的对齐程度[10, 68]。一些研究使用大语言模型进行自动化评估,由模型对生成题项的质量或清晰度作出判断[44]。
预训练语言模型也被探索用于学生答案的自动评估。在阅读理解任务和简答题中,模型将学生回答与参考答案进行比较,并提供评分或定性反馈[137]。
在难度方面,此类模型被用于难度估计或控制,无论是通过调整生成提示还是分析问题在词汇和语义特征方面进行[127]。在某些情况下,难度通过基于规则的框架和预定义约束进行控制,例如词汇阈值、数学要求或结构化课程模板[59, 62]。
困惑度计算也被用作问题流畅性和语言质量的代理指标。使用语言模型计算的较低困惑度分数通常与更自然、可读性更好的问题相关联[18, 24]。
已审阅的研究表明,这些模型在一系列任务中支持自动问题生成,包括问答生成、干扰项创建、内容摘要、题项评估和难度估计。这些功能有助于开发更灵活、更高效的问题生成系统,用于教育、形成性评价和评估导向的应用。
除了识别大语言模型在自动问题生成工作流程中的不同用途之外,我们还检查了在已审阅文献中最常采用哪些模型和实现方案。表7展示了广泛应用于自动问题生成任务的大语言模型变体,涵盖从通用模型如GPT、BERT和T5到多语言和领域特定适配模型。这些变体通常反映了语言覆盖范围的适配(如mT5、AraBERT)、指令微调(如Flan-T5、ChatGPT)或架构简化(如DistilBERT、FastT5)等方面的调整。
表7. 已审阅文献中使用的大语言模型及其变体和相关实现(格式为:出现次数),包含对应参考文献
BERT变体包括:BERT (12)、DistilBERT (2)、RoBERTa (2)、IndoBERT (2)、BERT-Shared (1)、BERTSum (1)、BertForSequenceClassification (1)、bert-base-uncased (1)、bert-large-uncased (1)、mrm8488/bert2bert-spanish-question-generation (1)、roberta-base-squad2 (1)、ALBERT (1)、AraBERT (1)、SlovakBERT (1)、SBERT (1)、IndoBERTFormer (1)。参考文献:[1, 6, 7, 10, 16, 32, 33, 37, 54, 60, 62, 68, 91, 93, 98, 100, 101, 111, 121, 127, 131, 134, 141, 146]
BART变体包括:BART (11)、BART Base (2)、MBART (2)、BART Large (1)、BARTPho (1)、IndoBART (1)、IndoBARTFormer (1)、MBARThez (1)、mBART Large (1)。参考文献:[1, 15, 20, 24, 31, 37, 40, 56, 83, 88, 108, 109, 121, 123, 134, 144, 145]
T5变体包括:T5 (29)、mT5 (5)、T5 Small (5)、T5 Base (4)、Flan-T5 (4)、T5 Large (2)、mT5 Base (2)、Leaf (2)、Flan-T5-XXL (2)、T5-3B (1)、T5-Pegasus (1)、FastT5 (1)、Flan-T5 Base (1)、Flan-T5 Large (1)、Flan-T5 Small (1)、Flan-T5-XL (1)、Flan-T5-ppl (1)、mT5 Small (1)、valhalla/t5-based-e2e-qg (1)、AraT5 (1)、RuT5 (1)、ViT5 (1)、PTT5 (1)、EduQG (1)、Slovak T5 (1)。参考文献:[1, 3, 6, 8, 12, 16, 18, 20, 22, 23, 29, 33, 34, 36, 38, 39, 41, 45, 50, 57, 61, 62, 67, 79, 83, 84, 85, 88, 90, 93, 95, 98, 99, 100, 101, 106, 108, 109, 111, 112, 116, 120, 122, 123, 124, 125, 126, 127, 132, 133, 134, 138]
GPT变体包括:GPT-2 (9)、GPT-3 (9)、GPT-3.5 (21)、GPT-3.5-turbo (14)、GPT-4 (20)、text-davinci-003 (5)、IndoGPT (2)、GPT-4-turbo (1)、GPT-4o-mini (1)、InstructGPT (1)、text-davinci-002 (1)、ChatGPT Plus (1)、ChatGPT-3.5-turbo (1)、RuGPT3 (1)、IndoTransGPT (1)、Bing Chat (1)。参考文献:[1, 2, 6, 13, 14, 15, 16, 19, 21, 22, 26, 30, 32, 33, 34, 36, 37, 38, 41, 47, 48, 49, 51, 55, 56, 57, 58, 59, 63, 64, 66, 69, 70, 72, 73, 74, 75, 76, 78, 80, 82, 83, 84, 85, 88, 89, 90, 94, 96, 102, 103, 107, 108, 110, 113, 114, 115, 117, 118, 119, 121, 122, 128, 130, 131, 135, 136, 137, 140, 142, 143, 144]
LLaMA变体包括:LLaMA 3-8B (2)、LLaMA (1)、LLaMA 2 Chat-70B (1)、LLaMA 2 Chat-13B (1)。参考文献:[40, 44, 110, 113]
Mistral变体:Mistral 7B (2)。参考文献:[15, 90]
Pegasus变体:Pegasus (2)。参考文献:[88, 90]
Claude变体:Claude 3 Opus (1)。参考文献:[110]
LaMDA变体:LaMDA (1)。参考文献:[13]
Macaw+变体:Macaw+ (1)。参考文献:[102]
Sabiá变体:Sabiá-medium (1)。参考文献:[107]
Falcon变体:Falcon 7B (1)。参考文献:[15]
图4提供了它们整体分布的可视化总结。基于GPT的模型出现次数最多(89次),其次是T5(71次)、BERT(30次)和BART(21次)。其他模型,包括LLaMA、Pegasus和Mistral,出现频率较低,但仍然说明了在该领域对开源模型和指令微调模型的实验探索。
图4. 已审阅文献中大语言模型变体和相关实现的总出现次数。
实现方案的多 样性突显了大语言模型的灵活性,并表明在自动问题生成中的模型选择往往受有效性、微调能力和易用性之间权衡关系的驱动。每个模型都使用不同的编程接口(API),这是选择所需功能时的一个关键因素。
5.3 知识领域和教育层次
自动问题生成在知识领域和教育层次方面表现出相当大的多样性。相关提案横跨多个学科,包括计算机科学、医学、心理学、数学、化学、语言学习和一般科学,涵盖从初等教育到大学层次的项目。表8通过按相关知识领域对已审阅研究进行分组,并展示具体学科及其出现频率来总结了这种学科范围的广度。值得注意的是,通用系统占据了很大的比重,同时在计算教育、语言学和STEM领域也保持了持续的关注。这反映了自动问题生成系统旨在支持的教育目标的多样性。
表8. 按知识领域分类的已审阅文献参考文献,以(出现次数)格式展示具体学科的分布。
通用领域:通用 (42)。参考文献:[3, 6, 7, 12, 13, 15, 20, 22, 29, 31, 33, 36, 38, 44, 45, 49, 50, 54, 55, 57, 60, 61, 63, 67, 68, 78, 79, 80, 89, 93, 95, 96, 106, 107, 111, 124, 125, 133, 140, 143, 145, 146]
语言学与语言:阅读理解 (15)、英语 (7)、中文 (2)、应用语言学 (1)、德语 (1)、日语 (1)。参考文献:[10, 14, 16, 23, 24, 37, 39, 56, 75, 82, 85, 91, 103, 109, 113, 114, 116, 121, 122, 127, 131, 134, 136, 137, 141]
计算教育:计算教育 (4)、Python编程 (3)、人工智能 (2)、数据库 (2)、CS1 (2)、Java编程 (2)、操作系统 (2)、CS0 (1)、CS2 (1)、数据科学 (1)、编程 (1)、SQL编程 (1)、模式识别 (1)。参考文献:[2, 8, 32, 41, 47, 48, 51, 83, 84, 98, 101, 110, 115, 118, 119, 120, 126, 128, 135, 144]
STEM领域:科学 (7)、数学 (7)、几何 (1)、物理学 (1)、化学 (1)、工业工程 (1)、STEM (1)。参考文献:[16, 18, 19, 30, 34, 58, 59, 62, 76, 88, 90, 94, 99, 100, 103, 108, 123, 130, 138]
健康教育:健康教育 (9)、生物学 (2)、解剖学 (1)、生理学 (1)、高血压 (1)、生命科学 (1)、护理 (1)、中医 (1)。参考文献:[1, 21, 26, 40, 48, 64, 66, 69, 70, 72, 73, 74, 102, 112, 116, 132]
人文与社会科学:历史 (3)、心理学 (1)、公民教育 (1)、社会科学 (1)。参考文献:[16, 40, 88, 132, 142]
环境与地球科学:地理学 (3)、环境研究 (1)、自然科学 (1)。参考文献:[40, 88, 112, 117]
商业与经济:业务流程建模与标记 (1)、经济学 (1)。参考文献:[88, 123]
尽管学科范围广泛,但相对较少的研究(不到已审阅文献的15%)将其工作扩展到了实际教育环境中。大多数自动问题生成研究仍局限于使用基准数据集或专家评审的模型开发和评估,在实际课堂环境中的实施有限。
在将自动问题生成应用于实际教育环境的研究中,几个值得注意的例子突显了不同语境和教育层次的多样性。在小学阶段,Utami等人[130]引入了Geo-QG系统,利用增强现实技术生成个性化几何应用题,并将其应用于印度尼西亚的五年级学生。类似地,一个游戏化的Moodle插件利用自动生成的多项选择题对五年级学生进行了评估[13]。人工智能生成的阅读理解题被纳入土耳其八年级学生的全国标准化考试中[114],自动问题生成也被整合到了小学中文教学中[136]。
在初中和高中阶段,日语开放填空题被应用于日本的一所高中[91],而面向准备A-Level考试的预科学生在化学、物理和数学方面的多步计算题也被生成[19]。Lee等人[75]用初中和高中英语教师评估了大语言模型生成的阅读理解题,Andersson和Picazo-Sanchez[10]为日本语言 proficiency 考试创建了问题,面向不同熟练程度的成人学习者。
在高等教育阶段,医学领域的应用最为广泛。Co?kun等人[26]、K?yak等人[70]和Laupichler等人[74]在临床培训、药物治疗考试和神经生理学评估等情境中,对本科生使用ChatGPT生成的问题进行了测试。Lin和Chen[82]在软件工程专业的中国大学生中使用了人工智能生成的阅读理解题。Ling和Afzaal[83]在三个本科和研究生计算课程中应用了自动问题生成。其他例子还包括化学课程[30]、心理学教育[142]和计算机科学教学[96]。一项大规模、高风险的应用也出现在Duolingo英语测试中,大语言模型生成的问题被整合到了正式评估中[14]。
除了课堂应用之外,一些研究通过技术和概念创新对自动问题生成的教育潜力做出了重大贡献。例如,Grévisse等人[48]在医学和计算机科学领域生成了领域特定问题,并由专家评审进行了评估。Meissner等人[94]专注于高等数学教育,将生成内容与课程目标和专家评估进行了对齐。在人工智能和数据库编程等高级计算领域的研究探索了使用领域相关材料以确保教学相关性[41, 101]。
此外,Hadzhikoleva等[51]利用布鲁姆分类法针对数据库课程定制问题以评估高阶思维,编程问题则由大学教师生成并审核[115]。尽管这些工作尚未在学生中实施,但它们加深了我们对AQG系统如何与课程目标和学科期望相一致的理解。大量AQG研究采用通用设计方法(图5)。这些系统通常追求领域无关性,优先考虑广泛适用性和语言流畅性,而非课程特定性。例如,一些模型专注于从任意文本生成问题,而不对特定教育环境进行定向[3, 22, 38, 60, 106]。虽然这种通用性支持了平台无关的实现以及跨多个学科和教育层次的广泛适用性,但当需要课程对齐或学习者建模时,它也可能限制了所生成内容的即时教学相关性。图5展示了所审阅文献中按知识领域和教育水平分布的研究数量,包括跨情境适用的通用型案例。这一趋势反映了AQG源于自然语言处理的背景,在该领域评估由SQuAD或HotpotQA等指标和基准驱动[3, 38]。虽然这些系统在语法正确性和语义连贯性方面表现优异,但其教学价值往往未经测试,除非与具体学习目标挂钩。从教育角度来看,有效的问题生成需要整合内容知识、教学设计和学习者建模。因此,与其将通用性视为唯一目标,未来的AQG研究可能受益于更深入地参与教育实践的复杂性。我们认为,与教育者合作,将问题生成与学习者的认知和教学需求相一致,可以实现灵活且具有教学意义的系统设计。图5展示了通用方法的突出地位以及AQG研究在教育环境中的分布情况。图5(a)显示,大多数研究未与特定领域挂钩,通用系统构成了最大群体,其次是语言学和计算领域中的反复努力。图5(b)显示出类似模式,通用系统在各教育水平中也很常见。尽管如此,大多数研究集中在高等教育,而小学、初中和高中水平则相对不足。表9进一步详细说明了这一分布,列出了与每个阶段相关的参考文献。表9 按教育水平分类的参考文献 高等教育[2, 8, 10, 14, 18, 21, 24, 26, 30, 32, 33, 34, 41, 47, 48, 50, 51, 66, 67, 68, 69, 70, 72, 73, 74, 82, 83, 84, 94, 96, 101, 102, 103, 110, 115, 116, 118, 119, 126, 128, 137, 142, 144] 通用型[3, 7, 12, 15, 20, 29, 31, 36, 37, 38, 44, 45, 49, 54, 55, 57, 60, 61, 63, 78, 79, 80, 89, 93, 95, 100, 106, 107, 111, 121, 122, 124, 125, 127, 131, 133, 140, 143, 146] 初中[16, 39, 40, 56, 62, 75, 76, 88, 108, 112, 114, 117, 132, 134, 135, 136, 138] 高中[19, 22, 39, 40, 56, 62, 75, 76, 85, 88, 90, 91, 108, 132, 134, 138, 141] 小学[13, 16, 39, 58, 59, 62, 76, 108, 109, 130, 134, 136, 138] 所审阅文献中按教育水平分类的参考文献 尽管AQG方案涵盖所有教育水平,但其在高等教育中的集中以及通用系统的普遍性,表明当前研究工作与教育需求的广泛多样性之间存在差距。这一差距在早期和义务教育阶段尤为明显,在这些阶段,教学约束和学习目标往往更加结构化且依赖具体情境。 5.4 评估 确保自动生成问题的质量是建立其可靠性、教学相关性和实际应用性的根本。随着AQG在教育工具和评估设计中日益普遍,对严格评估方法的需求也随之增长。评估生成内容不仅仅是一个技术检查点,它对于保障学习成果、促进对自动生成过程的信任以及使生成的问题与教学目标保持一致至关重要。 反映这一复杂性,AQG中的评估方法在方法、范围和应用时间上各不相同。一些指标在部署前通过分析语言和语义特征来评估问题,而另一些则需要课堂实施后收集的学生反应数据。表10提供了本节讨论的主要评估类别的高层概述,为读者提供了一个初步参考框架,以了解所审阅文献中采用的多样化方法方法。 表10 AQG研究主要评估方法类别概述 类别 衡量什么 何时应用 N-gram指标(BLEU、ROUGE、METEOR) 基于词级别精确度和召回率,衡量生成文本与参考答案之间的词汇重叠 部署前(快速自动评分) 语义相似度(BERTScore) 使用上下文嵌入捕捉超越精确词匹配的意义,衡量语义一致性 部署前(语义分析) 流畅性指标(困惑度) 基于语言模型概率分布衡量语言流畅性和自然度 部署前(流畅性评估) 心理测量模型(项目反应理论、经典测验理论) 基于学生表现数据得出潜在题目属性,如难度和区分度 部署后(反应的统计分析) 评分者间信度(Kappa系数) 多个人类评估者评估问题质量时的一致性 变量(取决于研究设计) 排序质量(NDCG) 基于相关性判断和位置的排序项目列表质量 部署前或部署后(排序评估) 这些类别并非互斥,许多研究结合多种评估方法来加强其发现。例如,可以使用自动指标进行初步筛选,随后进行结构化专家评审,然后在课堂实施后进行心理测量分析。 表11按评估策略类型对所审阅文献进行分类,列出了代表性参考文献和最常使用的方法。它突出了特定技术的普遍性,例如自动指标中的BLEU和ROUGE,以及人工方法中的专家评估。 表11 按类型分类的评估方法,附带相应参考文献和所审阅文献中最常使用的方法 类别 参考文献 最常使用的前三种方法 文本相似度指标[3, 6, 7, 10, 12, 15, 16, 18, 20, 24, 29, 31, 34, 37, 38, 40, 44, 45, 49, 54, 56, 57, 59, 62, 63, 64, 66, 67, 78, 79, 80, 83, 85, 88, 89, 90, 98, 99, 101, 108, 109, 110, 112, 116, 117, 120, 121, 122, 123, 124, 125, 132, 134, 138, 140, 141, 143, 144, 146] BLEU(42)、ROUGE(41)、METEOR(23) 基于语言模型的评估[16, 18, 30, 34, 36, 38, 50, 59, 62, 79, 93, 99, 101, 110, 113, 117, 126, 128, 131, 140] 困惑度(7)、提示词驱动(6)、语义相似度评估(2) 比较评估[2, 3, 13, 32, 33, 38, 50, 91, 103, 107, 108, 110, 116, 122, 123, 127, 137] 基于基准的(14)、QRelScore(2)、NDCG@10(1) 统计与心理测量分析[13, 19, 26, 30, 32, 36, 39, 44, 58, 68, 70, 75, 76, 82, 83, 113, 114, 118, 119, 127, 130, 137, 141, 142] 经验评估(13)、项目反应理论(4)、经典测验理论(3) 结构化评估方法[1, 2, 8, 10, 14, 15, 16, 19, 21, 23, 24, 30, 31, 32, 33, 34, 36, 38, 40, 41, 44, 47, 48, 49, 50, 51, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 66, 67, 70, 72, 73, 74, 75, 76, 78, 79, 80, 82, 83, 84, 88, 89, 90, 91, 94, 96, 98, 102, 103, 106, 107, 108, 109, 110, 111, 112, 113, 114, 115, 118, 122, 124, 127, 130, 131, 132, 133, 135, 136, 137, 142, 143, 144, 145] 专家评估(81)、干扰项评估(4)、评分量表(3) 文本质量与连贯性评估[6, 13, 18, 34, 62, 64, 99, 107, 113, 135] 多样性(3)、语法分析(3)、连贯性分析(2) 结构和语言复杂度指标[6, 22, 61, 124, 126] 词错误率(3)、Brunet指数(1)、基于依存分析的图结构(1) 计算与代码评估[101, 111, 115, 126] CodeRunner测试(1)、交叉熵误差函数(1)、均方误差损失(1) 表11展示了广泛采用的评估类别"文本相似度指标",该指标量化了生成问题与参考问题之间的词汇或语义重叠程度。BLEU和ROUGE是最常报告的方法之一,出现在约三分之一的所审阅研究中。METEOR、F1分数和BERTScore也经常被使用,以捕捉更细致的相似度方面,如同义词、释义和短语对齐。 虽然这些指标提供了快速执行和可比性,但它们主要关注表面层次的对齐,可能无法完全捕捉教学或功能质量。这些技术可以在问题交付之前应用,从而实现低质量输出的高效自动筛选。 作为补充,大量研究采用"结构化评估方法",由人类专家或教育者根据预定义标准评估生成项目。其中,基于专家的评估尤为突出,出现在约70%的分析研究中。这种普遍性反映了对专家判断的强烈依赖,用于评估生成问题的教学合理性、清晰度和一致性。然而,这种依赖引发了关于大规模场景可行性的担忧。人工评估耗时且资源密集,这可能削弱AQG的核心动力之一:高效提供多样化评估材料的能力。在大规模评估环境或自适应测试环境中,减少对手动专家评审的依赖成为一个重大挑战。 其他结构化评估方法包括"基于评分量表的评分"、干扰项分析和评分者间一致性测量(如Fleiss kappa和Cohen kappa)[23, 54, 75]。虽然这些方法提供了更系统化的评估程序,但它们需要人工干预,且在没有大量协调的情况下无法快速扩展。 一些研究纳入"统计与心理测量分析"来评估问题的区分力和可靠性,使用点二列相关、项目反应理论(IRT)和经典测验理论(CTT)等技术[26, 70, 76]。这些方法依赖于学习者反应数据,意味着只能在问题实际使用后应用。它们对于深入分析问题表现非常有价值,但成本较高且反馈延迟。 "比较评估"也很常见,特别是在比较不同的AQG技术或模型配置时。这些评估使用标准数据集,如SQuAD或HotpotQA,并报告BLEU、ROUGE或NDCG@10等指标以建立可复制的基线[15, 29]。作为一个类别,它提供了关于相对有效性的见解,但通常依赖于特定基准的格式或资源。 较新的研究探索了"基于语言模型的评估",其中大型语言模型不是用于问题生成,而是用于对输出质量和评分进行评估。这些包括基于提示词的评分、语义相似度分类,或来自Sentence-BERT或GPTScore等模型的评分[34, 44, 99]。这些方法可以在问题部署前使用,并具有大规模自动评估的潜力,但它们与人类判断的一致性仍存在疑问。 其他调查侧重于"文本质量与连贯性评估",使用困惑度、语法检查或流畅性指标来评估生成内容的表面和结构质量[18, 99]。这些方法通常轻量级,可以集成到早期管道中以过滤格式不佳的问题。 其他研究强调"计算与代码评估",特别适用于涉及逻辑或代码执行领域。例如,Chan等[19]通过执行代码验证多步骤编程问题的正确性。其他方法跟踪训练损失或交叉熵误差等指标,用于生成过程中低层次的连贯性和调试[111, 115]。这些在生成过程中或之后应用,不需要学习者交互。 少数研究应用"结构与语言复杂度指标",如词错误率、类符比率或句法树深度(例如Yngve深度)来评估生成问题的语言属性[124, 126]。这些技术可以在使用前自动计算,在多语言环境或关注语法变异和风格时特别有用。 我们发现AQG中的评估远非单一。相反,它涉及自动工具、专家判断和经验测试之间的丰富交互。随着问题生成技术的发展,未来工作必须探索如何将这些方法组合、简化或适应不同的教育环境,同时不损害可靠性或教育完整性。 5.5 难度等级 管理自动生成问题的难度等级是AQG中的核心关注点,特别是当问题复杂度需要与学习者画像或教学目标对齐时。一些研究探索了使用多样化策略来控制、调整或检测难度等级的机制。表12总结了这些贡献的概述,按方法类型对所审阅研究进行分类,范围涵盖心理测量模型和基于语言模型的评估,到认知框架和结构化人工评估。
它重点突出了每个类别中最常用的技术,包括基于提示的控制、布鲁姆分类法和项目反应理论(IRT)。
**表12.按类型分类的难度相关方法,包括参考文献和已综述文献中常用的方法,格式为(出现次数)**
| 类别 | 参考文献 | 前3大常用方法 |
|------|----------|--------------|
| 文本相似度指标 | [13, 37, 64, 114] | BERTScore(1),余弦相似度(1),同义词使用(1) |
| 基于语言模型的评估 | [13, 24, 55, 58, 59, 62, 69, 76, 80, 82, 94, 115, 118, 130] | 基于提示(11),基于机器学习(1),困惑度奖励(1) |
| 对比评估 | [10, 91, 108] | 基准测试(1),上下文评分(1),差距分数阈值判定(1) |
| 统计与心理测量分析 | [10, 26, 32, 62, 68, 70, 74, 82, 83, 114, 119, 127, 131, 137, 141, 142] | 项目反应理论(5),经验评估(4),题目难度指数(3) |
| 结构化评估方法 | [8, 48, 59, 61, 62, 64, 75, 83, 84, 88, 89, 103, 112, 114, 118, 137] | 专家评估(15),学生评估(1) |
| 文本质量与连贯性评估 | [10, 37, 113] | 文本信息量(2),可回答性(1),语法复杂性(1) |
| 语言特征提取 | [62, 63] | 命名实体识别(1),词性标注(1),方程复杂性控制(1) |
| 认知与教学框架 | [2, 24, 32, 50, 51, 62, 63, 67, 82, 94, 98, 114, 117, 127, 132, 135, 136, 137, 144, 146] | 布鲁姆分类法(11),安德森和克拉思沃尔分类法(1),习得年龄(1) |
基于语言模型的评估和认知或教学框架尤为突出,这表明在通过教育理论指导的方式下,对大语言模型(LLM)存在较强的依赖性,以影响难度级别。人类专家的结构化评估也得到了广泛应用,这表明定性审查仍然是确保教学对齐的核心。另一方面,涉及文本相似度指标、语言特征提取或与精选数据集进行基准对比的技术出现频率较低,往往作为其他方法的辅助手段而非主要机制。
如表12所示,一种常见策略是通过提示参数进行显式控制。例如,Hadzhikoleva等人[51]和K?yak[69]提出的系统允许教育者在提示中直接指定期望的难度级别(如简单、中等、困难)。这种方法允许灵活生成,但往往缺乏系统性验证。相比之下,K?yak等人[70]将基于提示的控制与事后验证相结合,使用CTT(经典测试理论),表明从学生表现数据中获得的难度指数与提示中声明的级别相一致。
其他研究将布鲁姆分类法等认知框架作为难度的代理指标。在[50]中,问题按照布鲁姆的四个级别(记忆、理解、应用和分析)进行标注,并使用最低所需句子数(MRS)指标来捕捉结构复杂性。同样,Mulla和Gharpure[98]引入了认知级别分类器,在问题生成之前分配布鲁姆级别,确保不同的大语言模型针对特定认知类别进行微调。这些策略反映了通过分类对齐来正式化难度控制的增长趋势。
多项研究应用心理测量模型进行更细粒度的分析。例如,Kumar等人[68]使用Rasch模型和项目反应理论中的二参数逻辑模型(2PL)来对问题难度进行分类。这使得可以解释题目的区分度和信息量等特征。同样,Tomikawa等人[127]利用IRT分数来条件化问题生成,并实施了计算机自适应测试(CAT)框架,以适应个体学习者的需求。
结合控制与验证的混合系统也已出现。Chung等人[24]提出的Handover QG架构利用强化学习和双解码器,一个偏向简单的知识点问题,另一个处理复杂的考试式题目。基于熵和困惑度的奖励函数优化的切换机制,引导模型生成适当难度的问题。
语义和语言特征被用于难度估计。在[37]中,分析了句子长度、语法复杂度和词汇多样性等语言指标。Kauchak等人[64]将基于BERT的语义相似度指标与人类评分相结合,评估问题相对于其源文本的认知要求。这些方法表明,较低的表面相似度可能与更高的复杂性相关。
经验评估仍然是必不可少的。在[114]中,一个认知模型约束了生成题目的语义和结构特征,心理测量指标确认了难度级别的一致性。同样,Hwang和Utami[59]将问题复杂度与课程级别对齐,并通过专家评分验证感知难度,表明基于提示的变化可以反映挑战方面的有意义差异。
一些调查还探索了程序性或架构性解决方案。Kulshreshtha和Rumshisky[67]提出的推理电路框架将多跳问题生成分解为结构化推理步骤,从而可以直接控制逻辑复杂性。在相关方法中,Liang等人[80]使用排序的示例和思维链提示引导大语言模型逐步处理更复杂的任务。
一个关键发现是,少于一半的已综述研究提出了显式的控制、调整或检测难度的机制,这表明这仍然是自动问题生成(AQG)中一个相对未被充分探索的方面。本综述提供了关于难度管理如何被解决的对比视角,有助于识别文献中的主要趋势和未被充分探索的领域。
## 6 挑战与开放研究机会
本节探讨了已综述文献中确定的开放研究方向与影响基于大语言模型的AQG的未解决问题之间的关系。此分析旨在阐明这些方向如何与已知障碍相交,引导未来研究转向未被充分探索的领域和研究主题。为支持这一讨论,表13总结了所选择研究中最常提及的挑战,基于对其出现频率和相关性的手工验证。
**表13.已综述文献中的反复出现的挑战**
| 反复出现的挑战 | 参考文献 |
|--------------|----------|
| 确保问题与内容之间的语义对齐 | [1, 31, 68, 79, 84, 112] |
| 生成多样化且语法正确的问题 | [37, 39, 45] |
| 生成合理且无歧义的错误选项 | [16, 22, 29, 40, 47, 61, 63, 64, 66, 100, 111, 118, 122, 141] |
| 确保生成问题的上下文相关性 | [20, 26, 60, 103, 106, 109] |
| 控制或调整问题难度级别 | [60, 63, 127, 131] |
| 评估问题质量的指标和方法局限 | [15, 127] |
| 针对较低学习层级的问题多样性不足 | [2, 117] |
| 模型处理复杂或多步骤问题的局限 | [12, 40, 48, 89] |
| 需要改进提示工程以提升结果 | [69, 74, 103] |
| 从短文本或有限上下文中生成问题 | [1, 55] |
| 依赖人类专家确保问题质量 | [30, 69, 144] |
| 低资源语言中的特定挑战 | [57, 89] |
### 已综述文献中的反复出现的挑战
基于大语言模型的AQG中几个持续存在的问题(如表13所总结)继续塑造着研究格局,并在已综述文献中提出的研究方向中得到反映。例如,确保生成的问题与源内容之间的语义对齐仍然是一个被频繁提及的关注点,因为它涉及生成能够准确反映源材料预期含义的问题,同时不引入事实不一致或不相关的元素。相应的研究机会包括增强生成题目的语义深度和特异性[31]、通过模型调整提高连贯性[36],以及探索结合自动化和专家驱动策略的混合评估方法[37]。
语言多样性和语法正确性方面的局限导致了持续的研究方向。多项研究指出需要通过生成参数扩展词汇变化[2]、改善生成问题的流畅性和自然性[54],以及纳入更高级别的评估维度如新颖性和批判性思维[38]。这些开放研究途径旨在使生成的问题不仅更加准确,而且在教学上更加丰富。
生成合理且无歧义的干扰项——这是多项选择题格式的核心方面——是另一个未解决的问题。文献中讨论了这一问题,涉及推进干扰项生成方法[50]、模拟更真实的选项[10],以及开发模型以评估干扰项在合理性和平凡性方面的质量[85]。
生成问题与其周围上下文的相关性仍然是一个开放的关注点。相关研究描述了这一困难与检索式生成机制的局限[76]、将问题与结构化知识源对齐的挑战[126],以及模型处理嘈杂或不熟悉输入时的不稳定性[39]之间的关系。
关于问题难度维度,几项提出的研究方向旨在改善生成题目复杂度的控制和调整。这包括用于生成特定难度内容的校准流程[22]、适应教育年级级别的系统[62],以及允许微调难度的基于约束的方法[114]。与此同时,当前评估方法的局限激发了对更可靠的自动指标的呼吁,这些指标能够更好地反映人类判断[1, 38],以及采用更广泛的多指标评估策略的提议[37]。
其他反复出现的研究差距涉及生成内容的认知范围狭窄。该领域的机会包括扩展问题生成系统对布鲁姆分类法中高阶认知级别的覆盖[2, 98],以及改善复杂或多步骤推理问题的生成[67, 78]。在此背景下,提示工程被频繁认定为需要进一步研究,特别是在有效提示的设计和交互细化过程的整合方面[32, 70]。
已综述文献突出了与实用或特定领域局限相关的开放问题。这些包括从短文本或有限上下文中生成问题[31, 39]、依赖人类专家确保问题质量[18, 37],以及低资源语言场景带来的特定困难。在这些情况下,已注意到对于阿拉伯语和印度尼西亚语等语言的研究机会[6, 7, 12, 37],以及在这些环境中增强语法流畅性的需求[57]。
表13中总结的反复出现的挑战与讨论的研究机会之间的对齐,突出了未解决的问题如何继续塑造基于大语言模型的AQG中的持续提案。表14呈现了这一组织,遵循手工验证的提取和分类过程。
**表14.已综述文献中确定的研究机会的组织**
| 研究机会 | 参考文献 |
|----------|----------|
| 大语言模型生成问题的质量评估 | [1, 6, 8, 10, 12, 14, 15, 16, 18, 20, 21, 22, 23, 29, 30, 31, 32, 33, 34, 37, 38, 39, 44, 45, 48, 49, 50, 55, 56, 57, 58, 59, 63, 66, 67, 68, 69, 72, 73, 76, 78, 79, 80, 84, 88, 89, 90, 91, 93, 96, 98, 99, 100, 101, 103, 108, 110, 111, 113, 117, 118, 121, 122, 123, 127, 128, 130, 132, 135, 136, 141, 143, 144, 146] |
| AQG的自适应和个性化教育应用 | [1, 3, 12, 13, 16, 20, 24, 26, 29, 36, 37, 39, 44, 48, 50, 54, 55, 56, 59, 61, 62, 63, 64, 67, 68, 73, 76, 83, 88, 91, 93, 94, 95, 96, 98, 102, 112, 113, 115, 116, 121, 122, 124, 125, 127, 130, 131, 133, 134, 140, 144] |
| AQG的教育影响和个性化的经验研究 | [1, 12, 13, 16, 18, 23, 24, 26, 29, 33, 34, 38, 39, 41, 45, 48, 49, 50, 55, 58, 59, 60, 62, 63, 66, 69, 70, 73, 74, 75, 76, 82, 83, 85, 91, 94, 95, 99, 100, 101, 102, 103, 113, 114, 119, 121, 126, 127, 128, 130, 131, 132, 133, 135, 138, 142, 144, 145, 146] |
| 真实教育环境中的经验评估与测试 | [14, 18, 21, 23, 26, 31, 32, 33, 39, 45, 47, 48, 49, 51, 55, 56, 57, 61, 62, 63, 64, 69, 72, 75, 79, 80, 83, 85, 89, 90, 91, 93, 100, 101, 103, 108, 112, 113, 115, 116, 118, 121, 122, 126, 131, 134, 135, 137, 138, 142, 144] |
| AQG在不同领域的泛化与扩展 | [1, 2, 6, 7, 10, 13, 15, 20, 22, 31, 32, 33, 34, 36, 37, 41, 44, 47, 50, 51, 54, 55, 56, 60, 67, 68, 69, 70, 72, 74, 75, 78, 79, 82, 83, 84, 85, 88, 89, 90, 94, 98, 100, 101, 102, 103, 106, 108, 109, 110, 112, 114, 115, 117, 119, 120, 122, 123, 124, 125, 126, 127, 131, 132, 133, 134, 135, 136, 137, 138, 140, 141, 142, 143, 145, 146] |
| 基于大语言模型问题生成的技术进展 | [2, 3, 6, 7, 8, 10, 12, 13, 14, 15, 16, 18, 21, 22, 24, 26, 29, 30, 32, 33, 34, 38, 41, 44, 47, 48, 51, 54, 56, 60, 61, 64, 66, 68, 69, 70, 73, 74, 75, 76, 80, 82, 84, 85, 88, 89, 93, 94, 96, 98, 99, 100, 106, 108, 109, 110, 111, 113, 114, 116, 118, 119, 120, 123, 125, 128, 136, 140, 141, 142, 143] |
### 已综述文献中研究机会的组织
这些主题代表了不同但相互关联的领域,在这些领域中,开放研究问题在文献中被一致地识别出来,或者明确作为未来工作的建议方向,或者隐含地通过研究中讨论的局限和差距来体现。
**大语言模型生成问题的质量评估**涵盖了与评估自动生成的问题的相关性、连贯性和整体质量相关的开放问题。**AQG的自适应和个性化教育应用**包括自动调整问题生成以适应个体学习者、教育级别或教学目标的机会。
## AQG教育影响与个性化实证研究
AQG的教育影响与个性化实证研究指出,需要进行纵向研究或情境敏感型研究,以评估问题生成系统如何影响学习效果。
## 真实教育环境中的实证评估与测试
真实教育环境中的实证评估与测试揭示了缺乏大规模评估或基于真实用户的课堂环境评估的现状。
## AQG在不同领域中的泛化与扩展
AQG在不同领域中的泛化与扩展反映了将AQG方法适配到不同学科领域、模态或未充分探索的情境中所面临的挑战。
## 基于LLM的问题生成的技术进展
基于LLM的问题生成的技术进展汇集了改进底层语言模型和生成技术的提案,包括提示词设计、架构优化以及整合外部资源等。
## 7 结论
手动创建高质量的教育问题耗时费力,且往往限制了可提供的测评资源的多样性和数量。因此,AQG作为一个相关研究领域应运而生。早期方法通常依赖模板、手工编写的规则或统计模型,在生成问题的多样性、适应性和上下文对齐方面存在挑战。近年来,LLM的发展在解决这些挑战方面取得了一定进展,使系统能够生成更具连贯性和情境敏感性的内容。然而,LLM的概率特性可能导致输出错误或误导性内容,这在生成教育测评时构成严重风险。这一背景进一步凸显了需要对基于LLM的AQG进行全面文献综述的必要性,以梳理当前研究格局。尽管该领域发展迅速——尤其是在ChatGPT等工具发布之后——但涵盖这些最新进展的系统性综述仍然匮乏。
本系统性文献综述考察了使用LLM的AQG的最新进展,特别关注教育情境。通过回顾2023年至2025年间发表的132项研究,我们力求理解近期进展如何促进问题生成的自动化,以契合教学目标与测评需求。作为我们的贡献之一,我们提出并定义了一种基于答题格式和开放性程度的问题类型分类体系。随后,所审阅的文献按照生成的问题类型、采用的LLM方法、探索的教育情境、使用的评估策略以及分析问题难度的方法进行了分类与讨论,从而对该领域进行了结构化综合梳理,并指明了未来研究方向。
我们的分析表明,该领域已显著扩展,但在关键维度上发展不均衡。大多数研究优先考虑封闭型格式的生成,尤其是多项选择题;GPT系列模型占主导地位,其次是T5和BERT变体。应用场景主要集中在高等教育领域,对其他教育阶段的关注有限,且仅有少量研究报告了实际课堂部署情况。人工专家评估仍是最常用的评估方法,但在效率方面存在局限。参数化生成技术的探索较为稀少,对问题难度的处理出现在不足一半的研究中,且通常依赖教学框架而非实证建模。这些发现反映了LLM所推动的进步,也揭示了将其有效应用于教育测评时面临的持续挑战。
除了综合近期进展之外,本研究还为基于LLM的AQG的持续研究提供了概念性与组织性基础。所提出的分析结构可能有助于未来研究识别研究空白、选择合适的问题类型,并以更具方法学严谨性的方式评估生成策略。