Cheatomaly:一种基于视觉变换器的弱监督视频异常排序方法,用于检测考试作弊行为

《Frontiers in Big Data》:Cheatomaly: weakly supervised video anomaly ranking for exam cheating detection using vision transformers

【字体: 大 中 小 】 时间:2026年05月12日 来源:Frontiers in Big Data 2.3

编辑推荐:

  摘要 在课堂考试中检测作弊行为具有挑战性,因为可疑行为通常很微妙、发生频率低且依赖于具体情境。为了解决这一领域缺乏专用基准数据的问题,我们推出了Cheatomaly,这是一个精心挑选的视频数据集,它来源于公开可获取的课堂考试材料,并进行了标注,以支持弱监督下的异常检测。我们将

  摘要
在课堂考试中检测作弊行为具有挑战性,因为可疑行为通常很微妙、发生频率低且依赖于具体情境。为了解决这一领域缺乏专用基准数据的问题,我们推出了Cheatomaly,这是一个精心挑选的视频数据集,它来源于公开可获取的课堂考试材料,并进行了标注,以支持弱监督下的异常检测。我们将作弊检测问题构建为一个基于视频的异常排名任务,采用了带Vision Transformer特征的多次实例学习(MIL)方法。视频被分割成时间片段,片段级别的表示是通过平均池化以及均值、标准差和时间差(MSD)公式生成的。训练过程中仅使用视频级别的标签,通过基于边界的排名目标来优先识别异常视频和可疑的时间片段。在Cheatomaly数据集上的实验结果表明,该方法在视频层面具有很强的区分能力,并且在不同测试中都能实现有意义的帧级定位。消融实验、基准测试、统计分析和敏感性分析表明,时间聚合机制影响了排名与定位之间的权衡,但并未带来一致的统计学上的显著提升。总体而言,Cheatomaly为研究课堂考试中的微妙作弊行为提供了一个现实的基准,研究结果强调,主要挑战在于建模依赖于具体情境的时间行为,而不仅仅是特征聚合本身。

1 引言
利用摄像头监控 footage 进行异常检测是计算机视觉和视频处理中的核心问题;主要挑战在于异常行为的模糊性和不可预测性,这些行为可能因时间、情境或地点的不同而有所差异。因此,在无法获得精确的时间标签时,对可疑事件进行排名比进行二分类检测更为实际。此外,现有的公共视频异常数据集通常覆盖的场景范围较窄,许多数据集关注的是视觉上显著或定义明确的异常事件,这些事件较容易与正常活动区分开来。然而,它们无法充分捕捉到课堂考试环境中观察到的微妙且依赖于具体情境的行为。因此,开发针对这类未充分研究场景的数据集有助于扩展当前的评估方法,更好地反映现实世界的挑战。
作弊行为会破坏教育系统的公平性和信任度(Hu等人,2024年;Singh等人,2024年)。这是一个持续存在的问题,对教育评估的质量和可信度产生了负面影响。为了解决这一问题,许多机构安装了课堂监控摄像头,作为人工监督的补充,旨在加强考试期间的学术诚信。然而,人工监控受到疲劳、主观性以及长时间持续识别微妙可疑行为的困难的限制。在这种情况下,深度学习的最新进展使得基于视频的自动化分析成为支持考试环境中异常检测的一种有前景的方法。
在本文中,我们专门关注真实的面对面考试,而不是在线考试环境。我们利用公开可用的开源视频数据构建了一个针对课堂作弊场景的基准数据集,专门为考试环境中的异常检测设计。该方法采用弱监督下的视频异常排名方式来处理作弊行为。由于作弊行为通常表现为不规则且依赖于具体情境的行为(Hussein等人,2022年),模型通过异常评分来对异常行为进行排名,而不是依赖严格的二分类标签。该数据集在帧级别进行了标注,以支持详细的评估和时间分析。
本文解决的核心问题是如何从课堂视频录像中识别与作弊相关的异常行为。传统方法严重依赖人工监控,但这容易导致疲劳和主观性。作弊行为的不可预测性——从使用隐藏设备到微妙的动作——使得定义固定的行为模式变得困难。基于这些挑战,本文采用弱监督下的异常排名方法来处理微妙且依赖于具体情境的作弊行为,并分析了真实课堂环境对检测性能的影响。此外,我们还探讨了数据集设计和时间表示如何影响异常排名与时间定位之间的平衡。

2 相关工作
视频异常检测(Chandola等人,2009年;Berroukham等人,2023年)已经被广泛研究,尤其是在监控领域。大多数方法学习正常模式并在测试时检测异常行为,因为异常行为的发生频率较低。早期方法依赖于无监督重建或时间预测模型,如自动编码器和ConvLSTM架构(Hasan等人,2016年;Wang和Yang,2022年;Gong等人,2019年)。然而,这些方法往往假设异常行为与正常模式有明显的区别,这在异常行为微妙且高度依赖于具体情境的情况下会限制其有效性。
在视频异常检测中,弱监督学习已被广泛采用(Hu等人,2020年),以应对帧级别标注的稀缺问题。特别是多次实例学习(MIL)通过学习基于异常分数对时间片段进行排序,从而减少了标注工作量并捕捉到了时间结构。然而,现有研究主要在异常行为与正常行为仍能明显区分的数据集上进行评估。
作弊行为已经被探讨过,无论是在线考试还是面对面考试环境。基于课堂的方法通常依赖于预定义的行为,如物体使用或头部动作,而在线系统则关注注视追踪、面部线索或桌面监控(Ramzan等人,2024年)。这些方法通常依赖于监督学习并明确定义的行为模式,这限制了它们捕捉微妙、适应性强或以前未见过作弊策略的能力。
大多数公开的视频异常数据集关注的是暴力、盗窃或交通事故等通用监控场景。这些异常行为通常视觉上很明显,容易与正常行为区分开来。相比之下,专门针对作弊检测的数据集往往有限,具有领域针对性或侧重于物体检测任务。因此,它们无法充分捕捉到真实课堂考试环境中微妙且依赖于具体情境的作弊行为。这种差距激发了开发能够更好地反映复杂现实世界条件的数据集的需求。

3 关键定义和问题表述
3.1 异常检测
视频中的异常检测(Chandola等人,2009年)是指识别偏离预期或正常情况的模式或行为,包括不合常规的活动、物体、人或事件。异常检测可以使用多种技术或模型,这些方法从传统的计算机视觉技术到先进的机器学习和混合模型都有(Aslam和Kolekar,2024年)。大多数视频异常检测方法在训练时假设可以使用正常数据,并学习预期模式的表示。在测试阶段,将这些正常模式下的偏差视为异常行为,通过异常分数或基于阈值的决策来处理。然而,对于微妙、模糊或高度依赖于具体情境的异常行为,这种处理方式变得具有挑战性(Berroukham等人,2023年;Liu等人,2023年)。总体目标是自动、高效地检测异常行为,并在合理的时间内做出反应,特别是在异常行为发生迅速或需要紧急干预的情况下。
3.2 异常排名
现实世界场景中异常行为的模糊性使得很难明确划分正常事件和异常事件之间的界限。为了解决这个问题,我们采用了异常排名方法(Sultani等人,2018年);视频的每个时间片段都会获得一个反映其异常性的分数,从而能够优先识别可疑片段,而不是进行严格的二分类标注。当无法获得帧级别标签时,排名方法更为适用,且对于模糊或依赖于具体情境的异常行为更具灵活性。该方法关注相对异常性,而不是严格的分类。
3.3 弱监督视频学习
完全监督的异常检测被视为帧级别的分类问题,需要详细的时间标注,但在现实世界场景中,由于异常行为的性质,这类标注往往成本高昂且不切实际。这推动了弱监督学习的发展,因为在真实场景中通常只有视频级别的标签可用。弱监督学习提供了一种在监督分类和无监督重建之间实用的折中方案。常用的弱监督方法包括多次实例学习(MIL)(Sultani等人,2018年);在这种方法中,每个视频被视为一个“包”,时间片段被视为“实例”,仅知道“包”的标签。正样本包至少包含一个异常片段,负样本包只包含正常片段。因此,模型会赋予正样本包中的片段更高的异常分数,进而将异常片段排在正常片段之上。这种方法与作弊行为的特点相符,反映了真实的监控场景。
3.4 课堂考试环境中的作弊行为
作弊行为在 university 和学校中一直是一个持续存在的问题,它影响了评估的公平性和可靠性(Javed等人,2023年)。尽管传统上考试监督依赖于人工监考,但许多机构现在使用课堂监控摄像头作为补充(Khel等人,2023年;Vally等人,2024年)。然而,同时监督多个学生仍然需要较高的认知能力,且人工观察受到人力限制。这激发了对基于视频的自动化分析方法的研究需求。
在课堂环境中,作弊行为通常可以分为两类:一种是基于互动的作弊,涉及学生之间的沟通或协调,如耳语、传递纸条或手势;另一种是单独的作弊,由单个学生独立完成,主要涉及隐藏的笔记、手机和微妙的身体动作(Tran等人,2023年)。这两种行为都涉及行为偏差,而非极端行为。这些行为通常是时空异常,如不寻常的物体或突然或重复的可疑动作。这些异常行为发生在人数较少到中等拥挤的课堂上,这使得明确的二分边界难以界定,因此作弊行为更适合作为结构化的异常排名问题,而非简单的分类任务。
在我们的研究中,作弊行为不被视为预定义的行为类别,我们不依赖固定的行为模板,而是将其视为特定课堂环境中的偏差。课堂是一个具有重复正常行为模式的结构化环境,偏差行为微妙、依赖于具体情境且具有时间效应(Doshi和Yilmaz,2022年)。我们采用弱监督下的异常排名方法,旨在优先识别可疑的时间片段,而不是强制执行严格的二分类。这种处理方式更符合真实的监控场景,其中自动化评分起到辅助而非替代人工判断的作用。

4 数据集描述
Cheatomaly 数据集包含了真实的面对面课堂考试片段,涵盖了学生在标准考试条件下的行为,包括正常活动和作弊情况(图1)。我们的数据集不仅仅关注对象检测,还探索了依赖于上下文的微妙、时间上局部化的行为模式。这种结构使得我们能够模拟出这些微妙且与上下文相关的行为,确保内容能够捕捉并突出显示不寻常的模式或事件。这涉及到一个详细的流程,包括 curating(收集整理)、structuring(构建结构)和 preprocessing(预处理)公开可用的数据,以支持有效的训练和异常分析。

**图1 数据收集**

**4.1 数据集提取**
数据集由来自公开在线来源和开放数据集的94个视频序列组成。在这项工作中,仅保留了原始来源中的视频内容,并仔细挑选和组织了最相关的片段,以反映与考试相关的情境。选定的视频被构建为包含正常和异常的学生行为,这些行为发生在类似实际考试的场景中。由于原始来源的多样性,并不总是提供适合本研究目标的注释,因此所有选定的视频的标注都是由作者手动完成的。这一过程使得我们能够构建一个连贯的、以任务为导向的数据集,用于训练和异常分析,同时保持了观点、场景配置和行为模式的多样性。多样性是通过考虑不同类型的作弊行为来确保的(见图2),这些作弊行为被分为两大类:

- **单独作弊**:指学生自己使用一些作弊工具(如预先准备好的小纸条或纸张)、手机以及其他设备(如耳机、VIP卡)等常见的隐藏策略来进行作弊的情况。
- **互动作弊**:指两个或更多学生互相帮助或传递答案的情况,异常行为可能包括彼此交谈、传递纸张,甚至做出可能被解释为考试答案的手势或信号。

**图2 数据集中特定作弊行为的分布**

**4.2 数据集标注**
数据集的设计旨在支持异常检测分析。在训练过程中,仅使用视频级别的标签,而帧级别的注释仅用于评估。这种设置反映了监控场景中的实际标注限制。

测试集由两位独立的审稿人手动标注(见图3)。标注工作由两位作者分别独立完成。每位审稿人都独立审查了全部视频,标记出与作弊行为相对应的时间间隔。在完成各自的审查后,两位审稿人比较了结果,讨论了差异,并通过相互协商确认了最终的异常间隔。

**图3 数据标注**

作弊行为不能仅通过单帧来推断;只有时间上连贯的片段才会被标记为异常。标注时同时考虑了空间上下文和时间连续性。因此,与作弊行为相对应的整个时间间隔都被标记了出来。总体而言,测试数据集包括16,561个正常帧和19,464个异常帧,分布在46个视频序列中,如下表1所示。

**表1 数据集属性**
- 总视频序列数:94
- 视频时长:30秒
- 分辨率:1,920 × 1,080像素
- 帧率:30 FPS
- 训练视频(仅正常):48
- 测试视频(混合):46
- 总测试帧数(正常):11,918
- 总测试帧数(异常):15,551
- 作弊类型分布:
- 手机使用:51.4%
- 地下材料:24.3%
- 作弊纸条(纸张):13.5%
- 传递纸张/互动:10.8%

这些标签在评估期间作为真实值,使我们能够使用PR-AUC和ROC-AUC等指标来评估异常片段的排名。评估在视频级别(排名性能)和帧级别(时间定位性能)上进行;这些注释使得可以对排名和定位性能进行定量评估。

本研究使用的视频材料来源于公开在线来源和开放数据集。为了保留与任务相关的行为线索(如头部动作和姿势),在标注和分析过程中保留了原始的视觉内容。收集的材料仅用于研究目的,并且按照负责任的数据使用原则进行了妥善处理。

**4.3 挑战和局限性**
构建真实世界的视频数据集涉及多种实际限制。此外,使其支持考试中的异常检测分析还会引入额外的复杂性。课堂考试环境存在自然变化,例如摄像机的位置、角度和光照条件在不同录制中会有所不同。因此,手部、桌子或物体的部分经常出现在画面中,这使得作弊行为的定位和解释变得更加困难。这些特性增加了可靠异常建模的难度。

异常检测模型会标记出偏离学习到的正常模式的行为。这一特性有两个含义:一方面,以前未见过的或新出现的作弊形式可以在没有明确监督的情况下被检测出来;另一方面,某些不寻常但并非作弊的行为也可能被赋予高异常分数,从而导致误判。虽然这可能会略微影响精确度,但它并不违背突出可疑事件以供进一步审查的目标。基于排名的方法通过优先考虑最可疑的时间片段来部分缓解这个问题,而不是强制执行严格的二进制决策。然而,在敏感性和精确度之间找到平衡仍然是基于异常的方法中的固有trade-off。

数据集还面临其他挑战,例如单独作弊和互动作弊之间的显著差异。单独作弊依赖于微妙的个别线索,而互动作弊依赖于协调的多人互动;这些差异带来了不同的建模挑战。为了解决这些限制,我们计划扩展数据集,包括不同的教室环境、光照条件以及作弊情况和工具,以提高数据的鲁棒性和多样性,以便更广泛的研究应用。

**5 方法论和问题表述**
**5.1 框架概述**
在这项工作中,我们将作弊视为一个弱监督的视频异常排名问题,而不是一个严格的分类任务。我们的目标是识别并优先考虑视频序列中的可疑时间片段,而不是给每个片段分配单一的“正常”或“异常”标签。该框架在弱监督下运行,意味着只有视频级别的标签可用。在训练过程中,我们希望对于来自正面视频的片段赋予更高的异常分数。每个视频首先被分解成短时间片段。使用深度主干网络从帧中提取视觉特征,并将这些特征聚合成片段级别的表示。这些片段被视为多实例学习(MIL)环境中的实例,其中整个视频对应于一个“bag”(Sultani等人,2018年)。模型为每个时间片段分配一个异常分数,反映其在视频中的相对异常程度。这种基于排名的方法允许模型在没有精确时间标注的情况下学习到区分性模式。在推理时,片段级别的分数既用于计算整体视频的异常分数,也用于定位序列中的可疑间隔。

**5.2 问题表述**
**5.2.1 从视频到时间实例**
在我们的设置中,为了捕捉时间动态,每个课堂考试视频被视为一个时间序列,而不是静态样本。一个长度为T帧的视频V被分割成重叠的时间片段(Sultani等人,2018年),以捕捉短期行为模式。每个片段表示一个连续的帧窗口,并通过预训练的视觉主干网络提取特征向量来表示。这个分割步骤很重要,因为作弊异常很少是全局事件,它们不会影响整个视频。它们是嵌入在正常行为中的局部时间偏差(Tang等人,2020年;Naji等人,2023年)。因此,我们在训练过程中不是为每个帧分配标签,而是将每个视频表示为一组时间实例。一个视频被划分为N个时间片段,生成一组特征向量,每个向量编码一个短时间窗口的视觉表示。这组片段在多实例学习框架中被视为一個“bag”(Carbonneau等人,2018年),训练期间只有视频级别的标签可用,表示视频是否包含作弊(1)或不含作弊(0)。

**5.2.2 使用视觉变换器(ViT)进行特征提取**
每个时间片段必须用一个紧凑且具有区分性的特征向量来表示。从头开始训练深度空间模型需要大量的标注数据集,而这在我们的设置中是不可用的。我们依赖于预训练的视觉变换器(ViT)作为空间特征提取器(Dosovitskiy等人,2021年)。视觉变换器使用自注意力机制(Vaswani等人,2017年),可以建模图像不同区域之间的长距离依赖性。这在课堂场景中特别有用,因为手、桌子、物体或学生之间的互动很重要。

对于时间片段中的每个帧,ViT主干网络产生一个固定维度的嵌入向量,捕获高层次的空间信息。我们使用网络产生的最终表示,即全局标记(CLS)或等效的池化嵌入,作为帧的描述符。在训练过程中保持主干网络不变,只优化MIL排名模块,以避免过拟合并保持学习到的特征的鲁棒性。这个过程为每个时间窗口生成了一组帧级别的嵌入,作为片段级别聚合和异常评分的基础。

**5.3 异常评分和排名目标**
提取片段级别的特征向量后,必须为每个时间片段分配一个异常分数。这个分数反映了该片段的相对异常程度。因此,更高的分数表示与正常课堂行为的偏差更大。

为了处理弱监督问题,训练设置遵循多实例学习框架。每个视频被视为一个时间片段的集合。在训练过程中,只有视频级别的标签可用。一个正面视频至少包含一个作弊片段,而负面视频只包含正常行为。由于训练过程中不使用帧级别标签,模型必须推断出正面视频中哪些片段负责异常行为。我们将各个片段的分数汇总起来生成最终的视频级别预测。根据具体配置,系统会选择得分最高的单个片段或Top-K片段。这反映了多实例学习的基本假设,即正面视频至少包含一个异常片段。排名目标依赖于潜在的实例级别分数:片段级别的特征首先被映射到异常分数,然后汇总以生成每个视频的单一分数。这种汇总步骤反映了多实例学习的假设:在标准设置中,最大池化近似于至少存在一个异常片段,而Top-K汇总则放宽了这一假设,考虑了多个高分片段。排名损失则确保异常视频获得的汇总分数高于正常视频,而无需明确的时间标注。这种形式允许模型专注于最有信息量的片段,同时对真实课堂场景中的噪声和时间模糊性具有鲁棒性。

我们的学习目标直接基于这种汇总。我们优化模型,以便在正面(作弊)视频中鼓励得分最高的片段得分明显高于负面(正常)视频中的任何常规片段。应用边际约束可以强制在两个类别之间做出清晰的数学分离。我们并不试图对每一帧进行分类,而是让模型优先考虑最可疑的片段。

现实世界中的作弊行为通常是微妙的、局部化的,并且在时间上很短暂;因此,简单的平均池化可能会平滑掉细微的时间变化。为了捕捉片段内的变化和运动动态,我们纳入了额外的统计信息,如标准差和连续帧之间的时间差异。这种表示方法结合了额外的时间变异性和运动动态,使我们能够分析其对异常排名和定位的影响(Ullah等人,2022年;Alaoui Mrani等人,2024年)。每个结果实例表示被视为多实例学习(MIL)框架中的一个实例,其中整个视频被建模为一个时间片段的集合,训练期间只有视频级别的标签可用(Sultani等人,2018年)。评估过程中仅使用帧级别的注释。这种特征提取策略将预训练的视觉表示与弱监督的异常排名相结合,使得无需密集的时间监督即可建模微妙的作弊行为。

**5.3 异常评分和排名目标**
在提取片段级别的特征向量后,必须为每个时间片段分配一个异常分数。这个分数反映了该片段的相对异常程度。因此,更高的分数表示与正常课堂行为的偏差更大。

为了处理弱监督问题,训练设置遵循多实例学习框架。每个视频被视为一个时间片段的集合。在训练过程中,只有视频级别的标签可用。一个正面视频至少包含一个作弊片段,而负面视频只包含正常行为。由于训练过程中不使用帧级别标签,模型必须推断正面视频中哪些片段负责异常行为。我们将各个片段的分数汇总起来生成最终的视频级别预测。根据具体配置,系统会选择得分最高的单个片段或Top-K片段。这反映了多实例学习的基本假设,即正面视频至少包含一个异常片段。峰值异常分数实际上成为了整个视频的代理。所提出的排名目标在bag级别上操作,同时依赖于潜在的实例级别分数。具体来说,片段级别的特征首先被映射到异常分数,然后汇总以产生每个视频的单一分数。这种汇总步骤反映了多实例学习的假设:在标准设置中,最大池化近似于至少存在一个异常片段,而Top-K汇总则放宽了这一假设,考虑了多个高分片段。排名损失随后确保异常视频获得的汇总分数高于正常视频,而无需明确的时间标注。这种形式允许模型专注于最具信息量的片段,同时对真实课堂场景中的噪声和时间模糊性具有鲁棒性。

我们的学习目标直接基于这种汇总。我们优化模型,以鼓励正面(作弊)视频中得分最高的片段得分明显高于负面(正常)视频中的任何常规片段。应用边际约束可以强制在两个类别之间做出明确的数学分离。我们并不试图对每一帧进行分类,而是让模型优先考虑异常片段,使其排名高于正常的课堂行为。

现实世界中的作弊行为通常是微妙的、在时间上高度局部化的。正常行为转变为学术违规的确切边界往往是模糊的。尽管严格的二元分类器需要精确的时间标注才能发挥作用,但我们的排名方法更加灵活地处理了这种固有的不确定性。它优先考虑高度可疑的片段,而不强迫系统做出硬性的二进制决策。由此产生的异常分数旨在标记需要人工审查的视频片段,而不是自动指责学生。总体而言,这种基于排名 的学习策略自然符合弱监督的环境。它能够在不需要密集的帧级标签的情况下检测到微妙的作弊行为。同时,它为视频级和时间评估提供了可解释的异常分数。

5.4 训练策略
该模型在弱监督的多实例学习环境中进行训练。在训练过程中,每次迭代都会抽取一个异常包和一个正常包。一个包对应于一个视频,该视频表示为一组时间段特征向量。排名网络使用 Adam 优化器进行优化,学习率为 1e-4。在整个训练过程中,Vision Transformer 的主干网络保持不变,只有排名网络的参数会更新。这种设计选择稳定了训练过程,并降低了由于数据集规模有限而导致的过拟合风险。训练共进行 10 个周期,每个周期包含 300 步。在每一步中,模型接收一个包含至少一个异常片段的正面包和一个仅包含正常片段的负面包。每个片段都会从一个轻量级的 MLP 获得一个标量异常分数。而不是对所有片段进行平均,而是使用 Top-K 池化来聚合片段分数。具体来说,一个包内分数最高的 10% 的片段会被平均(TOPK_FRAC = 0.10)。这种机制防止了孤立的高噪声峰值主导包分数,使学习集中在最可疑的时间区域。

排名目标遵循基于边界的公式。损失函数确保异常包的分数超过正常包的分数 1.0(MARGIN = 1.0)。此外,还对片段分数应用了一个小的 L2 正则化项以稳定训练。为了避免相关视频之间的信息泄露(同一考试的拆分记录),采用了基于组的分割协议。共享相同基础标识符的视频被保持在同一分区中。60% 的组用于 MIL 训练,剩余的 40% 用于评估(GROUP_SPLIT_FRAC = 0.60,RANDOM_SEED = 42)。

在调整超参数时,我们优先考虑稳定性和一致的排名,而不是激进优化。作弊是一个时间上稀疏的事件;它通常只发生在录制考试的极小部分时间内。为了捕捉这一现实,我们应用了 10% 的 Top-K 阈值。依赖单一的最高分使得系统对随机视觉噪声过于敏感,而平均每个片段则会掩盖实际的作弊瞬间。在训练和评估过程中一致使用相同的 Top-K 策略。10% 的阈值在敏感性和鲁棒性之间提供了一个实用的平衡。

我们还将边界约束设置为 1.0。这鼓励了正面和负面视频包之间的清晰分离,同时避免了训练过程中的梯度不稳定性。最后,我们将 Vision Transformer (ViT)的主干网络完全冻结。鉴于我们的弱监督设置和数据集的大小有限,微调 ViT 可能会增加过拟合的风险。总体而言,这些配置选择旨在确保排名动态受到严格控制,并且最终结果具有完全的可复现性。

为了确保鲁棒性并减少对随机初始化的敏感性,每个实验都在 15 个不同的随机种子下重复进行。报告的结果是通过对所有运行计算得出的平均值和标准差。

5.5 评估协议
评估在视频级别和帧级别进行。

5.5.1 视频级别评估
对于每个评估视频,模型计算片段级别的异常分数。这些分数使用与训练中相同的 Top-K 策略进行聚合。结果代表了视频级别的异常分数。为了衡量模型的性能,我们使用了精确度-召回率曲线下面积(PR-AUC)和接收者操作特征曲线下面积(ROC-AUC)(Fawcett, 2006)。这些指标评估了模型将更高分数分配给作弊视频的能力相对于正常视频的能力。

5.5.2 帧级别评估
尽管我们使用的是弱监督模型,并且仅使用视频级别的标签进行训练,但测试中可以使用帧级别的注释。为了评估时间定位性能,我们将片段分数映射回帧索引;每个帧继承其对应片段的异常分数,并将分数与真实帧注释进行比较。帧级别的 PR-AUC 和 ROC-AUC 量化了模型随时间定位作弊行为的能力。

5.5.3 特征模式比较
评估了两种特征表示方法:均值池化和均值 + 标准差 + 时间差(MSD)。这两种配置都在相同的协议下独立进行训练,以分析时间聚合策略的影响。

所有实验中使用的主要训练和可复现性设置总结在表 2 中。

表 2
组件 配置
优化器 Adam 学习率 1 × 10?4
边界(排名损失) 1.0 Top-k 分数 10%
周期 10 每周期步骤数 300
视觉主干网络 ViT-Base (google/vit-base-patch16-224-in21k)
整个训练过程中,Vision Transformer 的主干网络保持不变,只有排名网络的参数被更新。

5.5.4 局限性
虽然所提出的框架展示了有希望的结果,但我们承认当前研究存在某些局限性。首先,Cheatomaly 数据集仍然相对较小,这可能会限制所学模式的泛化能力。其次,评估主要集中在受控的消融实验上,而不是与现有的最先进方法进行直接比较,因为我们的主要目标是隔离和评估所提出的片段表示方法的贡献。最后,尽管在结果和讨论部分包括了关键超参数的敏感性分析,但在更广泛的设置中进行进一步的广泛评估仍然是未来工作的一个重要方向。

6 结果与讨论
本研究的主要目标是分析在真实考试环境中弱监督异常排名框架的表现。评估在视频级别和帧级别进行,以评估排名性能和时间定位能力。所有结果都是在五个基于组的划分和 15 个随机种子上平均得出的,并以平均值 ± 标准差的形式报告,以确保对数据划分和随机初始化变动的鲁棒性。

6.1 与 MIL 基线的比较
为了将所提出的方法与标准的弱监督替代方法进行比较,我们在同一多实例学习(MIL)排名框架内比较了不同的聚合策略。具体来说,我们考虑了:
- MIL-Max 基线:标准的最大值聚合,其中包分数定义为最高片段分数,符合的经典 MIL 假设,即一个正面包至少包含一个异常实例。
- Top-K 聚合:所提出的策略,其中包分数是最高 K 个最高片段分数的平均值。
- MSD 表示:结合了 Top-K 聚合的丰富时间特征表示。

所有方法共享相同的 Vision Transformer 主干网络、排名损失、训练协议和评估设置。这种受控设计确保了差异仅归因于聚合策略和特征表示。

如表 3 所示,MIL-Max 基线已经在视频级别取得了强大的性能。这表明在弱监督下区分异常视频和正常视频相对直接。

表 3
方法 视频 PR-AUC 帧 PR-AUC
MIL-Max (baseline) 0.982 ± 0.011 10.709 ± 0.081
均值 + Top-K 0.9564 ± 0.033 20.7809 ± 0.0922
MSD + Top-K 0.9498 ± 0.039 0.7843 ± 0.0927

在相同的 MIL 排名框架下比较了不同的聚合策略。结果以多次运行的平均值 ± 标准差的形式报告。粗体值表示每个指标的最佳性能。

然而,帧级别的性能仍然显著较低,并且在不同的划分中表现出明显的变异性。这突显了在真实课堂环境中进行精确时间定位的固有难度,其中作弊行为通常是微妙的、稀疏的,并且依赖于上下文。与 MIL-Max 相比,Top-K 聚合在视频级别取得了可比的性能,同时通过利用多个高分数片段提供了更稳定的异常分数估计,而不是依赖于单一的峰值响应。MSD 表示进一步细化了时间特征,导致帧级别性能的差异较小。

总体而言,这些结果表明,主要的性能提升来自于排名公式本身,而聚合策略主要影响鲁棒性和时间定位之间的权衡,而不是在全局检测性能上产生持续的改进。

6.2 视频级别排名性能
在视频级别,目标是根据作弊行为的存在正确地对考试视频进行排名。使用均值池化,模型获得了 0.9564 ± 0.0332 的视频 PR-AUC 和 0.8345 ± 0.1330 的视频 ROC-AUC。使用 MSD 表示(均值 + 标准差 + 时间差),模型获得了 0.9498 ± 0.0398 的视频 PR-AUC 和 0.8098 ± 0.1167 的视频 ROC-AUC。

如表 3 所示,两种特征表示在所有评估指标上都取得了可比的性能。均值池化在视频级别略优于 MSD 表示,而在其他指标上则表现出较小的差异。总体而言,这些变化有限,表明全局排名性能对特征聚合的选择不敏感。

这些结果表明,在弱监督下,所提出的排名框架能够可靠地优先考虑作弊视频。鉴于类别不平衡和任务的排名性质,PR-AUC 被认为是主要指标,因为它反映了模型优先考虑作弊视频的有效性。ROC-AUC 作为类别可分性的补充度量被报告。

为了进一步说明所提出方法的排名行为,图 4 展示了代表性评估运行的精确度-召回率曲线。曲线显示,模型在广泛的召回值范围内保持了高精度,证实了其在弱监督下有效优先考虑异常(作弊)视频的能力。

图 4 表示了代表性评估运行的视频级别精确度-召回率曲线。曲线显示,模型在广泛的召回值范围内保持了高精度,表明其在弱监督下有效优先考虑了作弊视频。

6.3 帧级别时间定位性能
尽管模型仅使用视频级别标签进行训练,但评估中可以使用帧级别注释。这允许评估高异常分数是否对应于实际的作弊间隔。

使用均值池化,模型获得了 0.7809 ± 0.0922 的帧 PR-AUC 和 0.7536 ± 0.0763 的帧 ROC-AUC。MSD 表示获得了 0.7843 ± 0.0927 的帧 PR-AUC 和 0.7426 ± 0.0842 的帧 ROC-AUC。这些结果证实了两种特征表示提供了可比的时间定位性能。观察到的差异很小且在不同的运行中不一致,表明仅靠片段级别的聚合不足以显著提高细粒度的时间检测。

这种差异是预期的,因为作弊行为通常是微妙的、短暂的,并且依赖于上下文。此外,基于片段的评分引入了时间平滑效应,当映射回单个帧时可以减弱突然的异常。

图 5 展示了代表性序列的帧级别异常分数演变。在异常视频中,分数峰值通常与注释的作弊间隔对齐,表明模型捕捉到了相关的时间模式。然而,在正常序列中也观察到了波动,反映了假阳性,并突出了考试环境中微妙行为的不确定性。

图 5 表示了代表性序列的帧级别异常分数演变。异常分数的峰值通常与注释的作弊间隔对齐,表明模型捕捉到了相关的时间模式。然而,正常片段中的波动表明了假阳性的存在以及考试环境中微妙行为的不确定性。

6.4 统计分析
为了评估特征表示之间的观察到的差异是否具有统计学意义,我们对每个评估指标在 15 次运行中进行了配对 t 检验。

如表 4 所示,均值池化和 MSD 表示之间观察到的差异在统计上并不显著(p>0.05)。虽然每种方法在特定指标上显示出轻微的优势,但这些差异仍在运行间观察到的变异性范围内。

表 4
指标 均值差异 p 值 显著性 (p < 0.05)
视频 PR-AUC ?0.006 0.450 否
视频 ROC-AUC ?0.024 0.441 否
帧 PR-AUC +0.003 0.825 否
帧 ROC-AUC ?0.011 0.380 否

此外,表 3 中报告的标准差值显示两种方法的变异性相当,它们的性能范围有很大的重叠。这表明观察到的差异在不同划分中并不具有可重复性。

总体而言,这些结果表明,性能变化主要由运行间的变异性驱动,而不是特征表示的选择。虽然 MSD 引入了额外的时间信息,但在这种设置下并未产生统计上可靠的改进。

6.5 敏感性分析
为了评估所提出框架的鲁棒性,我们分析了关键超参数对性能的影响,重点关注排名损失中使用的 Top-K 选择比率和边界。

表 5
Top-k 边界 视频 PR-AUC 帧 PR-AUC 帧 ROC-AUC
0.05 0.89 0.65
0.10 0.65 0.64
0.05 0.50 0.92
0.9 0.76 0.74
0.05 1.0 0.97
0.9 0.92 0.72
0.7 0.77 0.79
0.10 0.92 0.71
0.7 0.79 0.75
0.7 0.79 0.92
0.7 1.0 0.93
0.7 0.79 0.79
0.10 0.97 0.79
0.7 1.0 0.91
0.7 0.94 0.82
0.7 0.77 0.81
0.7 0.79 0.30

6.5.1 Top-K 比率的效果
Top-K 机制选择每个视频中得分最高的片段来计算最终的异常分数。我们评估了不同的 Top-K 比率值,从较小的值(专注于少数几个高区分度的片段)到较大的值(捕捉更广泛的时间背景)。结果显示,非常小的 Top-K 值通过关注峰值异常片段提高了帧级别的定位能力,但可能会略微降低视频级别的稳定性。相比之下,较大的Top-K值会产生更稳定的视频级排名性能,但会稀释较短和微妙异常的贡献。总体而言,中等值在排名准确性和时间定位之间提供了平衡的折中。

6.5.2 边缘参数的影响
排名损失中的边缘参数控制正常数据包和异常数据包之间的分离程度。我们评估了多个边缘值,以评估其对收敛性和性能的影响。我们观察到,较小的边缘值会导致类别之间的分离较弱,而过大的边缘值则在训练过程中引入不稳定性。适度的边缘值在多次运行中提供了最一致的性能,表明该框架在合理的参数范围内相对稳定。

6.5.3 讨论
总体而言,结果表明所提出的框架对关键超参数的适度变化具有鲁棒性。虽然这些参数影响排名和定位性能之间的平衡,但没有一种配置在所有指标上始终占优。这种行为与作弊异常的固有微妙性和依赖上下文的特性一致,其中多种时间模式可能共同影响检测性能。

6.6 定性和失败分析
如表6所总结的,我们分析了模型的定性行为,以便更好地理解其在实际考试环境中的决策模式和局限性。

表6 情景 观察到的局限性
- 微妙的作弊手势:由于动作偏差很小,异常得分较低
- 障碍物(手、桌子):部分可见性降低了检测的可靠性
- 模糊行为:正常行为和可疑行为之间的重叠
- 时间稀疏性:短异常在长时间的正常序列中被稀释
- 环境变化:光线和摄像头角度影响一致性

6.6.1 假阳性
模型经常将高异常分数分配给外观上类似于作弊行为的正常行为。这些行为包括重复的头部动作、姿势调整或与笔、纸张或桌子等物体的互动。在多摄像头的教室环境中,由于视角变化和部分遮挡,这些行为可能显得模糊。因此,具有明显动作或方向性注视的正常行为有时会被误分类为异常行为。

6.6.2 假阴性
相反,某些作弊行为未被检测到,特别是当它们涉及微妙或最小的动作时。例如,短暂的眼球移动、谨慎的瞥视或不会产生强烈视觉偏差的低幅度手势。当异常行为在时间上很短或部分被遮挡时,这种情况尤其具有挑战性,限制了模型区分它们的能力。

6.6.3 时间限制
一个关键限制来自于异常的时间结构。在Cheatomaly数据集中,作弊行为相对于整个视频时长来说通常是稀疏且短暂的。在多实例学习框架中,异常分数是在视频级别进行聚合的,这可能会稀释被长时间正常序列包围的短异常片段的贡献。这影响了排名性能和时间定位。

6.6.4 上下文模糊性
更根本的是,作弊行为高度依赖于上下文。例如侧视、调整姿势或与物体互动的行为可能根据情境上下文的不同而显得正常或可疑,而这些上下文并不是仅通过视觉特征就能完全捕获的。这种模糊性限制了纯视觉表示的有效性,并突显了在没有额外上下文信息的情况下建模这些行为的难度。

6.6.5 讨论
这些观察结果表明,所提出方法的主要局限性并不完全归因于模型架构,而是与任务的本质属性密切相关。微妙的动作、时间稀疏性和上下文模糊性的结合使得在弱监督下进行作弊检测特别具有挑战性。因此,错误既来源于正常行为和异常行为之间的视觉相似性,也来源于基于排名的聚合在捕捉短时异常方面的局限性。

6.7 讨论
实验结果表明,所提出的弱监督异常排名框架在没有帧级监督的情况下仍然实现了强大的视频级性能,并提供了有意义的时间定位。这证实了基于排名的方法非常适合那些难以或不切实际获得精确时间注释的场景。然而,视频级和帧级性能之间的差距突显了任务的一个根本限制。在实际教室环境中的作弊行为是微妙的、时间上稀疏的,并且通常依赖于上下文,这使得精确的时间定位比全局视频级区分要困难得多。重要的是,基线比较和统计分析都显示,特征聚合策略(平均值与MSD)之间的差异在统计上并不显著。这表明性能主要受问题总体形式和数据特性的驱动,而不是具体的架构选择。在这种情况下,聚合策略主要影响排名稳定性和时间敏感性之间的平衡,而没有提供一致的改进。定性分析进一步揭示,错误主要由任务的固有模糊性引起,包括正常行为和可疑行为之间的视觉相似性、异常行为的短暂持续时间和仅靠视觉特征无法完全捕获的上下文依赖性。这些局限性表明,纯视觉和弱监督方法可能不足以完全解决这些微妙的行为模式。

从更广泛的角度来看,Cheatomaly数据集引入了一个具有挑战性和现实性的基准测试,它不同于传统的异常检测数据集。它不是依赖于视觉上明显的异常,而是关注依赖于上下文的行为,其中偏离正常性的现象是微妙且时间上局部化的。这将重点从检测极端事件转移到建模细微的行为模式上。总体而言,这项工作强调了考试作弊检测的进步较少受到模型架构的限制,更多地受到任务内在复杂性的限制。未来的工作可能会从结合更丰富的上下文信息、多模态信号或更强大的时间建模中受益,以更好地捕捉作弊行为的细微动态。

7 结论
本文解决了在真实教室考试环境中检测作弊行为的挑战,其中异常行为是微妙的、时间上稀疏的,并且高度依赖于上下文。为了反映这些特征,我们引入了专门为考试场景中的异常排名设计的数据集Cheatomaly,并将任务形式化为一个弱监督排名问题,而不是一个严格的二元分类任务。结果表明,这种形式化能够在没有帧级监督的情况下实现对可疑行为的有效视频级优先级排序,同时保持有意义的时间定位。同时,观察到的视频级和帧级性能之间的差距突显了在这种设置中进行细粒度异常检测的固有难度。重要的是,基线比较和统计分析都显示,时间特征聚合策略(平均值与MSD)之间的差异在统计上并不显著。这表明性能主要受问题形式和数据特性的驱动,而不是具体的架构选择。在这种背景下,建模微妙和依赖于上下文的行为仍然是核心挑战。更广泛地说,这项工作将考试作弊检测的重点从检测视觉上明显的事件转移到理解细微的行为模式上。这一视角强调了需要超越纯视觉信号的方法,并结合更丰富的上下文推理。未来的工作将探索整合更高级的语义理解,特别是通过视觉-语言模型,以更好地捕捉上下文线索并减少决策中的模糊性。此外,将数据集扩展到更多多样化的环境和条件下对于评估在实际部署场景中的鲁棒性和泛化能力至关重要。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号