编辑推荐：
为解决单细胞 RNA 测序数据分析难题，研究人员开展 BAE 方法研究，可有效识别小基因集，意义重大。
在生命科学研究领域，单细胞 RNA 测序（scRNA-seq）技术为探索细胞异质性提供了强大工具。通过这项技术，研究人员能够深入了解细胞间的差异，挖掘细胞的功能和发育机制。然而，在分析 scRNA-seq 数据时，维度高、信息复杂等问题成为了研究的阻碍。就好比在一个巨大的信息迷宫中，如何快速准确地找到有价值的线索，成为了科研人员面临的挑战。
为了解决这些问题，来自德国弗莱堡大学的研究人员展开了深入研究。他们提出了 Boosting 自动编码器（BAE）方法，旨在将生物学结构假设融入到 scRNA-seq 数据的降维过程中，以识别小基因集，更好地解析细胞异质性。相关研究成果发表在《Communications Biology》上。
研究人员开展此项研究用到的关键技术方法主要有：利用自动编码器（AE）进行降维，通过 Componentwise likelihood-based boosting 实现变量选择，运用 Differentiable programming 进行联合优化，同时结合 Disentanglement constraint 构建解缠的潜在维度。
研究结果如下：
- 结合 Componentwise boosting 和神经网络实现降维：BAE 方法通过 Componentwise boosting 替代自动编码器的编码器，识别出每个潜在维度的稀疏基因集，并通过选择基因的标准来形式化约束。在训练过程中，利用自动编码器重建损失的负梯度作为变量选择的标准，确保变量选择与寻找最优降维方向一致，从而实现了稀疏映射到潜在空间，便于生物学解释。
- BAE 识别皮层神经元的细胞类型和相应标记基因：将 BAE 应用于小鼠初级视觉皮层神经元的 scRNA-seq 数据集，研究发现不同维度能捕获特定的细胞群，与注释的细胞类型紧密匹配。通过量化学习模式与细胞类型的对应关系，验证了 BAE 能够识别出与特定细胞类型相关的基因集，且这些基因集包含相应细胞类型的标记基因。此外，BAE 还能够捕获和表征小细胞亚群，例如识别出 Sst 表达神经元的不同亚群，并提供相应的候选标记基因。
- 纳入更复杂的结构知识：timeBAE 用于时间模式分析：研究人员通过模拟时间序列 scRNA-seq 数据，展示了 BAE 方法如何通过变量选择标准灵活适应不同的数据结构。timeBAE 通过在不同时间点训练 BAE 并传递编码器权重，实现了跨时间点连接潜在维度，从而识别出不同的发育轨迹和相应的基因程序。在模拟数据上的实验表明，timeBAE 能够学习到与模拟发育模式相匹配的稀疏基因集，且代表相同发育过程的潜在维度之间具有较高的相关性。
- 在真实时间序列 scRNA-seq 数据中识别发育模式：将 timeBAE 应用于人类胚胎干细胞分化的真实时间序列 scRNA-seq 数据集，研究人员旨在捕获与不同潜在维度相关的稀疏基因集，以反映细胞谱系中不同细胞阶段的潜在标记。通过对数据进行预处理和训练 timeBAE，研究发现 timeBAE 能够捕获到与特定细胞阶段相关的基因集，但对于某些维度，学习到的模式与原始数据的匹配存在差异。通过与线性回归分析的比较，进一步验证了 timeBAE 所选基因的重要性。
研究结论和讨论部分指出，BAE 方法能够将结构假设直接融入 scRNA-seq 数据的降维过程，通过灵活的变量选择和稀疏基因集的识别，为生物学解释提供了便利。该方法在不同场景下都展现出了强大的适应性，能够有效识别细胞类型和发育轨迹。然而，BAE 方法也存在一些局限性，例如对潜在维度数量的设定需要一定的先验知识，当前线性编码器可能限制模型的灵活性等。尽管如此，BAE 方法为单细胞数据分析提供了新的思路和工具，有助于推动生命科学领域对细胞异质性和发育过程的深入理解，为后续研究奠定了坚实的基础。
