设计中的信任：基于机器学习的教育系统中的人为因素与信任校准

《International Journal of Human-Computer Studies》：Trust by Design: Human Factors and Trust Calibration in ML-based Educational Systems

　　

• •
  构建了一个基于理论的信任校准模型，将能力、认知偏差和人格特质视为教育工作者依赖基于机器学习的教育技术的相互关联的预测因素。
• •
  将感知可信度视为一种动态的、受情境影响的构念，认为其受可解释性、不确定性以及调节人机在教育实践中的协同适应的边界条件的影响。
• •
  通过实证研究阐明了知识、推理和自我效能感与信任形成及偏见调节之间的多层级关联，以及个体差异如何导致不同的信任结果。
• •
  提出了切实可行的设计和政策建议，旨在开发透明、可解释且符合教育工作者需求的机器学习系统，从而在教育环境中促进合理的信任并推动负责任地应用这类技术。

引言

近几十年来，机器学习已成为教育研究和实践领域的变革力量，为理解教育数据提供了新的方法（Ersozlu等人，2024；Zhong等人，2024）。多模态技术、实时监测以及数据库处理方面的进展正在彻底改变学习分析与应用领域，机器学习算法已在该领域取得了显著成果（Guerrero-Sosa等人，2025；Romero & Ventura，2020），尤其在低年级学生预测和识别有风险学生方面发挥了重要作用（Boubker，2024；Sghir等人，2023）。近期，计算语言学的进步使得生成式人工智能能够产生看似极具人类特征的自然语言输出，从而改变了用户互动和内容创作的方式（Kasneci等人，2023；Yan等人，2024a）。这些基于Transformer架构的大型语言模型在可访问性、适应性及扩展性方面不断提升，成为教师和学生强大的沟通工具。然而，它们的输出仍主要是通过概率序列建模和统计模式匹配生成的，而非真正的语义理解。它们流畅的回应实际上是某种底层机器学习运算的结果，这就带来了透明度、问责制以及合理使用方面的挑战（Giannakos等人，2025；Yan等人，2024b）。这要求最终用户具备更高的解读能力，他们需要了解机器学习预测的实际运作机制，包括那些运用一定随机性作为逻辑或流程组成部分的随机算法通常是如何被训练和测试的。在实践中，由于数据采样、初始化或运行环境的不同，多次运行可能会得出略有不同的预测结果（Bouthillier等人，2021；Ghosh等人，2020）。对于教育工作者而言，关键在于要明白输出结果是与具体情境相关的，这有助于他们判断何时应该信任或质疑模型的建议（Miller，2019；Webb等人，2021）。

在传统基于规则的模式时代，人工智能与机器学习的区别更为明显，那时的智能是通过明确的知识表示、逻辑推理以及专家系统实现的，而非依靠适应性算法（Blagoj等人，2020）。早期的人工智能研究表明，无需依赖数据驱动的学习，仅通过符号推理或案例推理即可实现计算问题解决。相比之下，当代人工智能则主要以机器学习为特征，它能够在复杂且数据量庞大的环境中实现可扩展的模式识别、概率推理以及模型的持续更新（Lalitha，2021；Xu等人，2021）。如今，这两个术语的界限已经变得模糊，常常可以互换使用（Gallagher，2023）。这种混用反映了当前最先进的人工智能——无论是生成式还是其他类型——都以机器学习作为核心基础，推动了科学发现、机器人技术、医疗保健以及人机协作领域的突破（Iyengar等人，2025；Kühl等人，2022；Van Noorden & Perkel，2023）。

这种融合对教育领域产生了直接影响，人工智能驱动的系统涵盖了众多数据驱动的技术：从教育数据挖掘和学习分析仪表板，到行政管理平台或课程管理系统，再到智能辅导系统以及先进的生成模型。从计算角度来看，这些技术本质上都基于三种核心操作：预测（例如，通过分类或回归对学习者进行建模并预测其表现）、关联（例如，对观察到的学习行为进行关联分析或序列分析），以及分割（例如，通过层次化、分割或基于密度的算法将学习者分到不同的学习路径中）。这些机制被认为能够支持诸如自适应个性化、形成性评估以及认知支架等重要的教学功能（Sottilare，2024；Wen等人，2024）。为了概括这些共有的逻辑，我们采用了“基于机器学习的教育技术”这一概念，强调尽管各类人工智能教育系统存在差异，但它们都依赖于机器学习的内部机制。这种重新定义有助于消除术语上的歧义，突出在教育环境中负责任地应用人工智能时所必需的认识论、教学论和伦理学层面的考量（Holmes等人，2022）。

然而，这些系统的成功并不能仅仅归因于技术性能。人类-计算机交互领域以及教育技术领域的研究表明，它们的有效性还取决于社会技术因素，包括信任校准、认知偏差以及交互情境（Miao等人，2021；Pitts & Motamedi，2025）。教育工作者是否愿意依赖机器学习，最终取决于多层级的信任，比如作为总体倾向的倾向性信任、由当下环境所驱动的情境性信任，或是基于过往经验及系统性能历史而形成的习得性信任（Hoff & Bashir，2015）。因此，了解教育工作者是如何建立并维持对这些系统的信任的，既是一个理论问题，也是一种现实需求，因为不恰当的信任可能会影响教学决策和机构的战略规划。值得注意的是，经合组织与欧盟委员会共同开展的倡议等国际框架中也体现了类似的关切（2025）。这些问题使得人为因素成为决定人们是接受还是抵制这类技术应用的关键。为了对这类动态关系进行实证研究，我们提出了以下问题：

RQ1

（主要问题）：“感知可信度、行为意图以及实际的（体验性）信任之间如何相互作用，从而影响教育工作者对基于机器学习的教育技术的采用和使用？”

RQ2

（次要问题）：“知识与技能、人格特质或认知偏差等人为空因素在这些关系中扮演了怎样的角色？”

为了解答这些问题，我们采用了混合方法研究策略，结合了基于调查的建模与定性访谈。我们的目标是探究基于机器学习的教育技术中的信任是如何形成、调控并在实际中体现的。在研究设计方面，我们采用了偏最小二乘结构方程建模方法，这是一种基于方差的分析方法，非常适合用于那些既具有预测性又涉及由多种反映性及形成性高阶构念构成的复杂规范网络的研究。与依赖验证性因子分析的基于协方差的SEM不同，我们的研究需要一种在理念上与其复合测量逻辑相契合的方法，因此我们采用了验证性复合分析方法，在进行结构估计之前先确定测量模型的可靠性和有效性。

章节要点

教育领域中的技术接受度

数十年来关于人类-机器交互的研究表明，用户的接受程度决定了创新能否真正得到应用。作为潜在的推动因素，人为因素和人体工程学长期以来一直备受关注，也确实得到了大量研究（Karwowski，2005；Szalma，2014；Woods & Dekker，2000）。这些因素正迅速成为众多科学和工业流程中的关键要素，应用范围涵盖——但不限于——医疗领域（Borsci等人，2018）

研究设计

本研究采用了混合方法的探索性-解释性设计（Creswell & Creswell，2017），结合定量与定性研究方法，旨在把握教育工作者在面对基于机器学习的教育技术时的各种可量化特征及其实际体验。第一阶段是一项大规模调查，旨在通过基于方差的结构方程建模来检验假设中的结构模型，之后则是包含半结构化访谈的定性研究阶段

样本基本信息

最终样本量为429人，其中女性占比最高，为76.9%，年龄大多在21至30岁之间，占比达82.3%。大多数受访者表示自己对基于机器学习的教育技术有中等程度的了解，占比为56.9%，而认为自己了解程度非常低、较低或较高的受访者比例则相对较小，分别为16.6%、24.9%和1.6%。受访者的教育程度以本科学历为主，占比为63.4%，其次是硕士学位，占比35.9%，博士学位的占比仅为0.7%。在关于使用这些技术的自愿性方面——即使用是出于自主选择还是受到强制要求——大多数人的看法倾向于自主选择：42.0%的人认为属于自主选择，49.4%

讨论

我们的研究结果表明，KS对PT有着最强的影响，而PT又会同时影响TR和BI。换句话说，解读和质疑算法推理的信心决定了人们是否愿意依赖这些系统。通过将各种概念构念联系起来，本研究为此前关于人工智能支持系统中的信任问题的研究提供了初步的行为证据（Zhong等人，2024）。机器学习在教育领域的广泛应用引发了更多关于人机关系中信任问题的探讨，即

研究的局限性及未来方向

虽然本研究为理解基于机器学习的教育技术中的“设计即信任”理念提供了一个经过验证的框架，但其研究范围也设定了一些重要的限制条件。该研究是在塞浦路斯的基础教育领域进行的，因此其研究结果主要适用于在类似监管体系下处于早期阶段的机器学习教育技术应用情况。样本主要由公共教育领域的教师构成，他们需要教授科学、技术、工程、数学以及人文、艺术等多学科内容，属于

信任是一个校准过程，而非信念状态

对于基于机器学习的教育技术，信任并非教育工作者持有的某种静态态度，也不是仅由计算性能决定的稳定系统属性。相反，它是一个持续的校准过程，是在对系统可信度的感知、教育工作者的知识能力、认知偏差以及制度保障之间不断协商形成的。从这个意义上说，信任更应被理解为一个动词，而非名词：它所指的并非“信任”这种状态，而是

CRediT作者贡献说明

Z. Anthis：撰写——审阅与编辑，撰写——初稿，方法论，研究实施，正式分析，概念构建。A. Kyriakidou–Zacharoudiou：撰写——审阅与编辑，撰写——初稿，方法论，研究实施，概念构建，正式分析。

Z. Anthis|A. Kyriakidou–Zacharoudiou