摘要
在计算机视觉领域，数据集蒸馏技术已取得了优异成果，但在表格数据领域却鲜有研究。我们提出了一种表格数据集蒸馏方法，通过多个随机嵌入器对数据进行映射，以此实现对于数据变换的不变性，并注重真实数据集与合成数据集之间的一致性。合成数据集是通过对比原始数据集和经蒸馏处理后的数据集在多视图投影下的分布匹配来确定的。基于这一方法，我们的方案实现了三个目标：（1）我们提出了基于矩嵌入的表格对齐方法（TAME），并通过大量实证测试证明了其高效性；（2）我们在18个表格数据集的基准测试中评估了TAME的性能，这些测试包含了强大的基线方法和评估指标；（3）我们还开展了一系列系统研究，分析了损失函数、数据集结构、嵌入器架构、每类样本数量以及下游分类器等因素对性能的影响。实验结果表明，所提出的TAME方法在神经网络分类器上的表现始终优于各类基线方法，而在基于树的结构分类器（如RF、XGBoost）上则能与强大的coreset基线方法相抗衡。通过采用轻量级的验证方法，其在基于树的结构分类器上的性能还能进一步提升。大量的测试，包括在更多大规模数据集上的验证以及消融实验，有助于我们更深入地理解这一方法。
