《Briefings in Bioinformatics》：BayesRare: Bayesian mixture model for population-level rare cell type detection in multi-subject single-cell RNA sequencing data
编辑推荐：
本研究针对多主体单细胞RNA测序数据中稀有细胞检测的难题，开发了BayesRare这一分层贝叶斯框架。该方法通过引入稀有簇指示变量，整合跨主体信息，量化不确定性，并在合成和三个真实数据集中展现出卓越的精确度，显著降低假阳性，揭示了具有生物学意义的疾病特异性稀有亚型。
在单细胞RNA测序技术飞速发展的今天，科学家们已经能够以前所未有的分辨率解析细胞异质性。然而，在浩瀚的细胞海洋中，那些数量稀少却功能关键的稀有细胞类型——如早期疾病标志物或关键免疫调节细胞——往往如同沧海一粟，难以捕捉。这些稀有细胞虽然数量不足总细胞的1%，却在癌症转移监测、免疫应答调控等生命过程中扮演着不可替代的角色。
传统稀有细胞检测方法面临严峻挑战：它们通常局限于分析单个数据集，无法有效利用来自多个个体的信息。当研究人员试图将多个主体的数据简单合并分析时，个体间异质性又会引入大量噪音，导致假阳性率居高不下。这种困境严重制约了我们在群体水平上研究稀有细胞 prevalence、异质性和疾病关联的能力。
为突破这一瓶颈，研究人员在《Briefings in Bioinformatics》上发表了题为"BayesRare: Bayesian mixture model for population-level rare cell type detection in multi-subject single-cell RNA sequencing data"的研究论文。该研究创新性地提出了BayesRare这一分层贝叶斯框架，专门用于解决多主体scRNA-seq数据中的稀有细胞检测问题。
研究方法上，作者首先通过scCAD预处理获得初始稀有簇，再利用Seurat定义丰富细胞参考种群。核心创新在于构建了一个包含稀有簇指示变量的分层贝叶斯混合模型，该指示变量的先验分布编码了稀有细胞的三个关键特征：紧密性（细胞簇内一致性）、分离度（与丰富细胞的可区分性）和覆盖度（跨个体出现比例）。通过马尔可夫链蒙特卡洛算法进行后验推断，再经过基于熵的期望最大化精炼步骤过滤模糊分配细胞。研究还支持群体水平统计推断，如患者与对照组的比较分析。
关键技术创新
研究采用统一预处理流程处理三个真实scRNA-seq数据集（GSE266919、GSE183279、GSE157783），包括基因过滤、对数转换、高变异基因选择和主成分分析降维。BayesRare模型通过引入稀有簇指示变量γk，将细胞表达数据建模为条件正态分布，利用逆Gamma分布区分稀有与丰富细胞的方差特征。后验推断基于MCMC算法，而EM精炼步骤则通过计算细胞分配概率向量的熵值来去除可能来自丰富细胞的污染。
材料与方法
研究使用了三个公开可用的多主体scRNA-seq数据集：10例乳腺癌患者57,411个细胞、16例健康捐赠者肾脏组织87,467个细胞、11例帕金森病患者和健康对照中脑41,434个细胞。所有数据集均经过标准化预处理流程，保留高变异基因并进行PCA降维。BayesRare通过明确表征稀有细胞的统计特性，实现了跨主体证据整合。
结果验证
在乳腺癌数据集中，BayesRare将精确度从scCAD的0.4086提升至0.8736，特异性达到0.9990。在肾脏组织数据中，尽管稀有细胞类型多达12种，BayesRare仍实现了0.4308的最高精确度。特别是在帕金森病数据集上，BayesRare的精确度高达0.9441，并成功识别出疾病特异性的CADPS2+神经元群体。
群体水平推断
BayesRare的一个突出优势是能够进行群体水平的统计推断。在帕金森病研究中，通过置换检验发现CADPS2+神经元在患者组中显著富集（p=0.019），而室管膜细胞群体则无组间差异。这种群体水平的比较分析为疾病特异性稀有细胞群体的识别提供了统计依据。
讨论与展望
BayesRare通过贝叶斯分层建模实现了跨主体信息共享，有效解决了稀有细胞检测中的小样本问题。其核心创新在于将生物学先验知识（紧密性、分离度、覆盖度）转化为统计模型中的先验分布，从而在保持计算效率的同时显著提升检测可靠性。该方法不仅为稀有细胞检测提供了新范式，也为群体水平的单细胞分析开辟了新途径。
这项研究的成功实施标志着单细胞分析领域向群体水平研究迈出了重要一步。随着多主体scRNA-seq队列数据的不断增加，BayesRare框架有望在疾病生物标志物发现、细胞发育轨迹重建和精准医疗等领域发挥重要作用，为理解复杂生物系统中稀有细胞的功能意义提供强大工具。
