《SCIENCE ADVANCES》：Mental bootstrapping enables human-level concept learning in self-supervised deep models
编辑推荐：
智能体如何从稀疏、多样的例子中获取抽象概念——通常没有显式监督——仍然是认知科学和人工智能中的一个核心问题。人类研究表明，这种能力依赖于心理引导（Mental Bootstrapping, MB），即从较简单的部分结构逐步构建复杂概念。基于这一思想，研究人员开
智能体如何从稀疏、多样的例子中获取抽象概念——通常没有显式监督——仍然是认知科学和人工智能中的一个核心问题。人类研究表明，这种能力依赖于心理引导（Mental Bootstrapping, MB），即从较简单的部分结构逐步构建复杂概念。基于这一思想，研究人员开发了一种自监督框架，该框架在包含不完整但结构化概念线索的抽象推理任务的系统性简化版本上训练模型。该算法使模型能够在有限资源下形成内部抽象，并随后将其应用于更复杂的问题。研究团队在12个抽象视觉推理数据集上评估了该框架，测试了分布内概念归纳、分布外泛化和少样本学习。为了对表现进行背景化比较，研究人员还测量了人类在相同任务上的准确率。在简化问题上训练的模型能够稳健地泛化，达到甚至超越人类水平的表现。这些发现表明，抽象推理可以从结构化简化和最少数据中涌现，为人类和机器的概念学习提供了一种计算性解释。
**研究背景与问题**
抽象概念的学习与灵活应用是人类智能的重要标志，但当前多数机器学习模型仍难以像人类一样在无标签条件下高效获取抽象关系。人类婴儿可通过自监督统计学习从连续语音中切分词语，而现有自监督或半监督模型在概念学习上仍远不及人脑。Raven氏渐进矩阵（RPM）和Bongard问题因使用符号化视觉刺激，受先验经验影响小，成为评估人类与机器智能的理想测试平台。已有研究表明，人类通过“心理引导”（Mental Bootstrapping, MB）——即复用已学简单基元逐步构建复杂概念——实现高效学习，但如何在机器自监督学习中实现这一过程仍属空白。为此，研究人员提出了自监督心理引导学习框架（SSLvMB），并系统测试其概念归纳、分布外泛化和少样本学习能力。
**研究方法**
SSLvMB由视觉感知模块（Visual Perceptual Module, VPM）与概念归纳模块（Concept Induction Module, CIM）组成。VPM采用残差网络提取单张图像特征；CIM通过卷积核同时沿图像维度和空间维度提取跨图像关系。训练时，研究人员依据MB原理将原始问题缩减为仅含部分上下文信息的简化版本（如RPM问题仅保留前两行/列），并利用任务定义的采样函数生成伪正/负样本，以对比损失端到端优化。测试时，模型在完整问题上通过构造子推理集合进行推断。研究使用了公开的RPM类数据集（RAVEN、I-RAVEN、RAVEN-FAIR、PGM）和Bongard-LOGO数据集，其中PGM包含中性及七个分布外子集，Bongard-LOGO包含四个测试分割；所有模型均未使用数据集提供的元信息或标签。
**研究结果**
**SSLvMB enables high performance on in-distribution concept induction**
在RAVEN、I-RAVEN、RAVEN-FAIR和PGM-Neutral四个数据集上，SSLvMB的平均准确率达82.3%，显著优于现有无监督方法NCD（47.2%）和PRD（45.6%），且参数仅1.27M，比对比模型小约一个数量级。通过GradCAM可视化和线性探测器分析，模型内部表征能有效编码抽象规则（如大小递进、颜色恒定），证明其确实诱导了可解释的概念。
**SSLvMB achieves the best average accuracy on compositional generalization**
在PGM七个分布外子集上，SSLvMB平均准确率30.9%，超过NCD（25.8%）和PRD（20.4%）。尤其在插值（Interpolation）子集上达到62.1%，远高于对照模型。在多个保留集（Held-Out）如H.O.TP、H.O.T、H.O.P中，模型均取得最佳或次佳结果，展示了从基元组合到新概念的良好泛化能力。
**SSLvMB obtains high performance with few-shot concept learning**
在Bongard-LOGO数据集上，SSLvMB以自监督方式在四个测试分割（FF、BA、CM、NV）上分别取得75.6%、93.5%、72.7%和71.4%的准确率，平均78.3%，全面超越所有全监督基线（如PredRNet平均72.3%、SVM-Mimic平均75.3%）。这证明模型能从极少量正负例中快速抽取新概念。
**SSLvMB surpasses human performance in concept learning**
通过在线行为实验收集人类在I-RAVEN、RAVEN-FAIR、PGM-Neutral、PGM-Interpolation和PGM-Extrapolation上的准确率，并与文献中已有的人类数据对比发现：SSLvMB在所有任务上平均准确率72%，显著高于人类平均54%；除Bongard-LOGO的FF分割外，模型均达到或超过人类水平，尤其在分布外泛化任务上优势显著。
**讨论与结论**
研究团队在讨论中强调，MB是训练范式而非特定计算模块；采用相同架构但使用其他训练方法（如NCD、PRD）会导致性能大幅下降，凸显MB式简化-渐进学习的有效性。人类表现亚优可能源于认知资源有限，难以同时绑定多个关系，而模型无此限制。此外，MB作为一种通用原则，可推广至语言、强化学习、多模态等领域。尽管SSLvMB仍受限于需要预先设定复杂度层级，且性能尚未超越最优监督模型，但该工作证明：从结构化简化与极少数据中自监督地涌现抽象推理是可行的，为人工智能和认知科学提供了统一的计算框架。
