利用深度视觉模型中的子空间对人类概念进行建模

《ACM Transactions on Interactive Intelligent Systems》：Modeling Human Concepts with Subspaces in Deep Vision Models

提升AI系统对日常语义范畴（如动物或食物）的人类表征建模能力有助于改善人机对齐。研究表明，修剪特征空间以对齐特定范畴的人类表征，会导致不同范畴选择差异化的模型特征和子空间。本文还验证了该理论对评估AI生成图像质量的实际应用价值。

　　

摘要

改进对日常语义类别（如动物或食物）的人类表征建模，有助于提高人工智能系统与人类之间的匹配度。人类被认为通过捕捉相关变异的维度来表示这些类别，从而定义类别成员之间的关系。在人工智能系统中，一个类别的表征空间由其成员之间的距离决定。重要的是，在这种情况下，所有类别的距离计算都使用相同的特征。在两项实验中，我们发现通过修剪模型的特征空间以更好地匹配人类对某个类别的表征，会筛选出不同的模型特征和不同的子空间来表示不同的类别。此外，我们还提供了一个概念验证，展示了这些发现对于评估人工智能系统生成的图像质量的重要性。