通过DNA大型语言模型和图域适配技术对scATAC-seq数据进行细胞类型注释

《PLOS Computational Biology》：Cell type annotation for scATAC-seq via DNA large language model and graph domain adaptation

　　摘要：单细胞ATAC-seq（scATAC-seq）技术使得我们能够在单细胞分辨率下探索染色质的可访问性，为基因调控提供了重要的见解。准确的细胞类型注释是scATAC-seq分析的基本前提。虽然跨模态注释方法利用scRNA-seq数据来进行标签转移，但它们常常会受到模态不匹配和信号失真的影响。仅使用scATAC-seq参考数据的模内注释因其生物学一致性而受到关注。然而，现有方法受到序列表示不足和领域适应过程中缺乏邻域建模的局限。为了解决这些问题，我们提出了scLLMDA，这是一种通过DNA大型语言模型和基于图的领域适应（GDA）进行scATAC-seq细胞类型注释的新框架。scLLMDA使用预训练的DNA特定语言模型生成峰值序列的上下文嵌入，然后将这些嵌入与可访问性信息结合来表示单个细胞。我们为源数据和目标数据构建基于相似性的细胞图，并应用图神经网络来对齐领域，同时保留局部结构上下文。我们的方法能够捕捉丰富的序列语义和邻域依赖性，从而实现跨数据集更准确和稳健的细胞类型注释。在多个基准测试中的广泛实验表明，scLLMDA在准确性上优于现有方法。scLLMDA的源代码和实现可以在以下链接获取：https://github.com/sheng-guan-2001/scLLMDA。

作者总结：单细胞ATAC-seq为基因调控提供了独特的见解，但准确的细胞类型注释仍然具有挑战性。现有方法常常受到模态不匹配或特征表示有限的困扰。我们引入了scLLMDA，这是一个结合了DNA大型语言模型和基于图领域适应的框架。通过捕捉序列语义和邻域结构，scLLMDA实现了跨数据集更准确和稳健的细胞类型注释。

引言：scATAC-seq作为一种强大的技术，能够在单细胞分辨率下分析染色质的可访问性[1]，为不同细胞类型的基因调控景观提供了独特的见解[2]。scATAC-seq数据分析中的一个关键步骤是准确的细胞类型注释，这有助于进行下游分析，如轨迹推断、差异可访问性分析以及与其他单细胞组学数据集的整合。然而，由于scATAC-seq数据本身的稀疏性和噪声，自动化和稳健的注释仍然是一个重大挑战。现有的scATAC-seq细胞类型注释方法可以根据参考数据集的组学模态大致分为两类：（1）跨模态注释[3-5]，它涉及通过数据整合技术从scRNA-seq或其他组学模态转移细胞类型标签，已成为单细胞分析中广泛使用的方法。然而，由于数据结构、稀疏性和模态特定偏见的固有差异，准确对齐仍然存在挑战。（2）模内注释[6]，它使用注释良好的scATAC-seq数据集作为参考，直接对新scATAC-seq实验中的细胞进行注释，作为一种特定于模态的替代方法而受到关注。几种代表性的方法展示了这一领域的多样性。例如，Cellcano[6]采用了两阶段监督学习方法：首先使用MLP[7]在参考数据上训练以预测目标标签，然后通过对高置信度“锚定”细胞进行自我蒸馏来细化预测。scAnno[8]通过SnapATAC2[9]提取嵌入，使用Harmony[10]对齐参考数据和查询数据，并通过KNN分类器[11]进行标签分配。EpiAnno[12]采用贝叶斯神经网络[13]来纳入不确定性估计，从而提高细胞类型注释的稳健性和准确性。随着高质量手动注释的scATAC-seq数据集的日益增多，由于其较小的模态差距和更好的生物学一致性，模内注释受到了更多关注。在这项工作中，我们专注于模内scATAC-seq细胞类型注释任务，其目标是仅使用scATAC-seq参考数据为未注释的细胞分配标签。尽管最近取得了进展，但当前的模内注释方法仍存在两个主要限制：（1）序列表示有限：大多数方法依赖卷积神经网络（CNN）从可访问区域的DNA序列中提取特征[14,15]。然而，CNN受到固定感受野的限制，无法捕捉基因组序列中嵌入的长距离依赖性或上下文生物信号。这限制了学习到的表示的丰富性，可能会影响注释的准确性。（2）在领域适应中忽略了邻域上下文[16]：当将标记的源数据集的知识适应到未标记的目标数据集时，当前的领域适应策略通常只是对齐全局特征分布，而没有明确建模细胞之间的图结构或局部邻域关系。为了应对这些挑战，我们提出了一个名为scLLMDA的新框架，其示意图如图1所示。我们的方法利用预训练的DNA特定语言模型来获得DNA序列的丰富、上下文感知的表示。这些表示与峰值可访问性信息结合，为每个细胞学习表达性嵌入。此外，我们基于嵌入相似性构建细胞-细胞图，并使用图神经网络将局部和全局结构纳入特征学习和领域适应过程。通过整合序列级语义和图感知的领域对齐，我们的方法实现了更准确和稳健的scATAC-seq数据集细胞类型注释。总之，我们的贡献有三个方面：

下载：PNG（较大图像）、TIFF（原始图像）

图1. scATAC-seq细胞类型注释中批量效应和基于图的领域适应的概述。来自不同组织的细胞使用不同的平台进行测序，导致源数据和目标数据集可能存在批量效应。观察到的嵌入空间（右上角）通常根据批次而不是生物身份来分离细胞，这是由于测序引起的偏差。理想的情景应该是根据真实的细胞类型来组织细胞，而不考虑平台或批次。为了实现这一点，我们基于数据集内的相似性构建源图和目标图，并应用图领域适应策略来对齐这两个领域。该框架实现了批次感知的对齐，并提高了跨平台的细胞类型注释准确性。

我们将在scATAC-seq注释流程中引入DNA大型语言模型，以增强序列级特征表示；我们设计了一种基于图的领域适应策略，在源-目标对齐过程中捕捉邻域结构；我们在多个基准数据集上展示了优于现有方法的性能，显示出跨领域的强大泛化能力。

材料与方法：在这项研究中，我们使用了几个公开可用的单核ATAC-seq（snATAC-seq，ATAC-seq技术的测序平台）数据集，以全面评估所提出方法的性能。这些数据集涵盖了不同的组织区域和测序平台。具体来说，MosA1、MosM1和MosP1是从大脑皮层内不同功能区域的染色质可访问性分析中获得的[17,18]，并根据GRCm38参考基因组进行注释，可以从GEO数据库获取（访问号：GSE126724）。Mouse Brain（10x）数据集是使用10x Genomics平台生成的，以mm10作为参考基因组。WholeBrainA和WholeBrainB是使用sciATAC-seq[20]（ATAC-seq技术的测序平台）生成的图谱风格数据集[19]，并使用mm9参考基因组进行注释；它们可以通过GEO数据库获取（访问号：GSE111586）。

基准方法：为了评估我们提出方法的有效性，我们将其与七种代表性的基线方法进行了比较。scNym[21]、scJoint[3]和Cellcano[6]仅依赖于基因峰值特征，而不结合DNA序列信息。对于scJoint，我们在训练和测试阶段都使用scATAC-seq数据。Cellcano使用其原始设置进行评估：当测试集中的目标细胞数量较少时，使用第一轮训练的结果；否则，使用第二轮的结果。相比之下，SANGO[15]结合了DNA序列和基于峰值的特征进行联合表示学习。annATAC[22]是一个基于语言模型的自动scATAC-seq细胞类型注释框架，通过预训练、微调和预测来实现准确标记。AtacAnnoR[23]是一种基于参考的scATAC-seq细胞类型注释方法，采用两轮策略从注释的scRNA-seq数据转移标签，并使用全基因组染色质可访问性特征来细化预测。MINGLE[24]是一个基于互信息的可解释scATAC-seq细胞类型注释框架，它结合了细胞相似性和拓扑结构建模，以提高稳健性并识别罕见或新的细胞类型。为了确保公平性，所有训练数据都按照SANGO中使用的相同流程进行预处理。

问题定义：我们考虑scATAC-seq数据的模内细胞类型注释任务，其中参考（源领域）和查询（目标领域）数据集都来自相同的模态。尽管这两个数据集都是使用scATAC-seq收集的，但由于测序平台（例如，snATAC-seq、10x、sciATAC-seq）、组织来源或实验设置的不同，它们可能会表现出显著的批量效应[25]。这些差异可能导致源领域和目标领域之间的特征空间分布发生变化，这对直接标签转移提出了挑战，并需要有效的领域适应策略[26]。形式上，让：表示源领域，其中是细胞i的DNA序列和峰值信号表示，是相应的细胞类型标签。表示目标领域，其中标签不可用，需要推断。我们的目标是学习一个函数，使得对于每个，预测的标签尽可能准确。为此，我们定义了一个两阶段解决方案：步骤1：从基因组序列中提取特征；步骤2：通过图领域适应进行细胞类型注释。我们提出的方法的总体框架如图2所示。

下载：PNG（较大图像）、TIFF（原始图像）

图2. 提出的scLLMDA框架概述，用于从scATAC-seq数据中进行细胞类型注释。（A）从基因组序列中提取特征：将染色质可访问区域标记化并使用预训练的DNA语言模型（DNA-LLM）进行编码，生成用于预测可访问性谱型和派生细胞嵌入的上下文化嵌入。（B）通过图领域适应进行细胞类型注释：使用源细胞和目标细胞嵌入构建相应的图。具有注意力机制和共享参数的领域适应模块实现了跨数据集的有效知识转移和细胞类型分类。

从基因组序列中提取特征：为了提取生物学上有意义的序列特征，我们使用预训练的DNA语言模型[27]（即DNABERT-2[28]）对每个峰值序列进行上下文化编码。与传统的卷积方法不同，DNABERT-2能够捕捉复杂的调控语法和长距离依赖性，包括转录因子结合模式和基序共现。结果的序列嵌入整合了局部序列基序和更高层次的调控语义，从而提供了全面且生物学上丰富的特征表示。让表示细胞i中第i个峰值的DNA序列。在编码之前，每个峰值序列都严格遵循官方的DNABERT-2分词器进行分词。具体来说，我们首先将原始峰值序列转换为大写并删除非规范字符（仅保留A/T/C/G；其他符号如N被过滤或替换）。然后，我们应用带有字节对编码[BPE]的SentencePiece分词器将序列分割成一系列可变长度的子序列标记（子词），根据学习到的词汇表（大小212=4096）。接下来，添加Transformer所需的特殊标记（例如，开始标记和结束/分隔符标记），并将结果标记序列映射到整数ID，以形成模型输入（可选地填充/截断到DNABERT-2支持的最大长度）。这些标记ID最终被输入到Transformer编码器中以获得上下文化嵌入。模型输出：（1）其中是峰值的高维嵌入。然后使用全连接输出层[30]预测每个峰值在N个细胞中的二进制可访问性：（2）其中是所有峰值嵌入的矩阵，是输出层的可学习权重矩阵，是逐元素Sigmoid激活函数。预测值表示所有细胞中估计的峰值可访问性。模型通过最小化预测和观察到的可访问性之间的二元交叉熵（BCE）损失来进行训练：（3）训练后，我们从中提取列级权重向量，分别作为源数据集和目标数据集的细胞嵌入。每个列是细胞j的d维表示。

通过图领域适应进行细胞类型注释：给定步骤1学习到的所有细胞的嵌入，我们基于嵌入空间中的相似性构建两个k最近邻图：源领域图：，其中是标记的源细胞，是使用KNN算法计算的边，是特征矩阵。目标领域图：，类似地为未标记的目标细胞定义。捕捉每个图的局部一致性关系。为了对源图和目标图进行局部结构表示学习，我们引入了一个定制的图卷积模块AgConv，该模块基于 CachedGCNConv构建——CacheGCNConv是Kipf和Welling[31]最初提出的GCN的一个计算效率更高的变体。这种设计增强了模型捕捉邻域级交互的能力，同时保持了计算的可扩展性。AgConv在第l层的前向传播规则定义为：(4)其中是添加了自环的邻接矩阵，是对应的度矩阵，对角线元素为。这里，表示第l层的输入细胞特征，和分别是可学习的权重矩阵和偏置向量。函数表示ReLU激活函数。AgConv分别应用于源图和目标图，分别得到源域和目标域的局部特征表示和。捕捉每个图的全局一致性关系。为了克服仅依赖一阶邻域信息的表示限制，并提高模型捕捉高阶结构依赖性的能力[32]，我们引入了一个基于正点互信息（PPMI）的图卷积模块，称为PgConv。该机制应用于源域图和目标域图。给定一个输入图G = (V, E, X)，其中V表示节点集，E表示边集，X表示细胞特征矩阵，我们从每个节点开始进行最大长度为L的随机游走[33]。对于在这些游走中访问的每个其他节点u，我们记录访问计数C(u, v)。这导致了在给定节点u的情况下观察到节点v的经验条件概率，定义为：(5)这个概率反映了基于随机游走轨迹，节点v在节点u的局部邻域中出现的频率。为了量化节点v在所有细胞上下文中的全局出现频率[34]，我们定义边际概率为：(6)每对细胞(u, v)的点互信息（PMI）计算为：(7)为了仅保留统计上显著的节点关联，我们定义PPMI为：(8)其中|V|表示图中的细胞数量，L是最大游走长度，作为归一化因子。基于这些分数，形成了一个新的加权边集：(9)这个过程分别应用于源图和目标图，分别得到相应的PPMI加权邻接矩阵和。给定一个PPMI矩阵P（无论是还是），我们使用以下传播规则进行图卷积：(10)这里，表示P的度矩阵，W(l)和b(l)是第l层的可学习权重和偏置，与AgConv模块共享，表示非线性激活函数，如ReLU。这个操作产生了源图和目标图的全局节点嵌入，分别表示为和。通过注意力进行特征融合。为了整合图中细胞的局部和全局信息，我们设计了一个基于注意力的特征融合模块[35,36]，该模块分别应用于源域图和目标域图。该模块统一了从AgConv（局部结构）和PgConv（全局语义）提取的特征，并执行加权融合以获得更具表现力的细胞表示。具体来说，对于给定的图G = (V, E, X)，让表示通过AgConv提取的节点特征，让表示基于PPMI编码从PgConv提取的特征。首先，我们将两个特征矩阵连接起来：(11)接下来，我们引入三个共享的线性投影将堆叠的特征转换为查询、键和值矩阵：(12)然后我们计算不同特征类型的注意力权重并获得增强注意力的表示：(13)最后，我们聚合这些表示以产生融合的细胞特征：(14)这个融合过程分别应用于源图和目标图，即和，分别得到最终的融合表示和。损失函数在我们的模型中，训练目标同时考虑了源域上的分类准确性和源域与目标域之间的对齐。让和分别表示源域图和目标域图的学习到的细胞嵌入。总体损失函数定义为：(15)其中是源域上的监督分类损失，是基于梯度反转机制的域对抗损失[37]，是平衡这两个项的超参数。分类损失定义为所有标记的源域节点上的平均多类负对数似然[38]：(16)其中是源域节点的数量，C是类别的数量，是第i个源节点的真实标签，是节点i属于类别c的预测概率，是指当条件成立时返回1，否则返回0的指示函数。为了对齐源域和目标域，我们引入了一个梯度反转层并训练了一个域判别器，该判别器鼓励节点嵌入具有域不变性。域对抗损失定义为源节点和目标节点上的二元交叉熵损失：(17)其中是域判别器将源节点i分类为“源”的预测概率，是目标节点j被分类为“目标”的预测概率，是目标域节点的数量。参数设置在细胞表示学习阶段，我们使用具有512、256和128隐藏维度的MLP。初始学习率设置为1e-3，模型训练400个周期。对于图域适应阶段，源图和目标图的所有节点一起输入模型进行训练。这个阶段使用统一的3e-3学习率，源域和目标域的GCN都由两个隐藏层（L=2）组成，网络架构为100–16。训练周期的数量取决于源图：当源图是MosP1、MosA1或MosM1时为55个周期；对于Mouse Brain（10x）为122个周期；对于WholeBrainA或WholeBrainB为22个周期。唯一的例外是当WholeBrainB作为源图而MosM1作为目标图时，训练时间为138个周期。结果 平台内细胞类型注释如表1所示，所有评估方法在平台内细胞类型注释任务上表现出强劲的性能，例如MosA1→MosM1、MosM1→MosP1和MosA1→MosP1，其中参考和查询数据集来自相同的测序平台并具有相似的实验条件。在这些情况下，不同方法之间的性能差距很小（例如，大多数方法的准确率都高于0.95），表明在平台内场景中批量效应和分布变化相对温和。这也表明，当域差异较小时，主要依赖于基于峰值特征的简单模型可能就足够了。下载：PNG较大图像TIFF原始图像表1. 平台内细胞类型注释的性能比较（准确率和F1分数）。https://doi.org/10.1371/journal.pcbi.1014226.t001尽管我们的方法包含了一个专门为跨平台细胞类型注释设计的批量效应校正模块，但在平台内数据集上仍然实现了可比甚至略高的注释准确率。跨平台细胞类型注释为了研究细胞类型注释在跨测序平台上的鲁棒性，我们进行了涉及snATAC-seq和sciATAC-seq数据集的全面评估。如表2所示，我们在snATAC-seq数据集（MosA1、MosM1、MosP1）和sciATAC-seq数据集（WholeBrainA、WholeBrainB）之间进行了双向转移实验。表3通过包括10x Genomics-based MouseBrain(10x)数据集作为跨平台场景中的参考或查询来进一步补充分析。下载：PNG较大图像TIFF原始图像表2. snATAC-seq和sciATAC-seq平台之间的细胞类型注释。https://doi.org/10.1371/journal.pcbi.1014226.t002下载：PNG较大图像TIFF原始图像表3. MouseBrain(10x)和sciATAC-seq平台之间的细胞类型注释。https://doi.org/10.1371/journal.pcbi.1014226.t003在两个表中，我们提出的方法scLLMDA在准确率和宏观F1分数方面始终优于所有基线方法，WholeBrainB→MouseBrain(10x)和WholeBrainA→MosP1转移场景除外。值得注意的是，scLLMDA在大多数评估的方向上表现最佳，显示出在不同技术特性和细胞覆盖范围不同的平台之间转移注释时的强大泛化能力。例如，在从WholeBrainA到MosA1的具有挑战性的转移中（表2），scLLMDA的准确率为0.7691，宏观F1为0.3993，显著优于scJoint和scNym。在涉及MouseBrain(10x)的转移中也观察到了类似的趋势，scLLMDA在WholeBrainB→MouseBrain(10x)方向上获得了最佳的F1分数（0.4249）（表3）。这些结果突出了两个关键观察结果。首先，仅基于峰值的方法如scNym、scJoint和Cellcano表现中等，但在跨技术转移时难以泛化。其次，像SANGO这样的序列感知模型提供了改进，但将DNA序列特征与域适应相结合（如scLLMDA中所做的）进一步显著提高了性能。总之，scLLMDA展示了强大的跨平台转移能力，特别是在涉及异构测序协议（snATAC-seq vs. sciATAC-seq）和可变细胞类型粒度的情况下。这验证了通过基于序列的表示学习结合局部染色质可访问模式与全局调控上下文的优势。UMAP可视化比较为了进一步直观地比较各种方法的注释质量，我们使用UMAP嵌入在MosA1→WholeBrainA转移任务下可视化预测标签和相应的真实标签。图3显示了annATAC、AtacAnnoR、Cellcano、MINGLE、SANGO、scJoint、scNym和scLLMDA的可视化结果。https://doi.org/10.1371/journal.pcbi.1014226.g003对于annATAC，重要的是要注意模型并不直接输出细胞级嵌入。相反，annATAC产生形状为（N, L, 200）的序列级表示，其中N表示细胞数量，L对应于峰值维度。由于没有提供官方定义的细胞嵌入，我们通过沿峰值维度平均获得了近似的细胞级表示，为UMAP可视化生成了（N, 200）特征。这个后处理步骤可能会部分影响annATAC嵌入的几何结构，并解释了图3中观察到的非典型可视化模式。从UMAP比较中可以做出几个观察。首先，大多数基线方法在跨平台转移时表现出明显的混合，表明可分离性有限。特别是像scNym、scJoint、Cellcano、MINGLE和AtacAnnoR这样的方法在神经元亚型和胶质细胞群体之间显示出显著的重叠，反映了在不同技术之间捕捉区分性调控模式的挑战。其次，像SANGO这样的序列感知方法显示出改进的聚类结构，但对于某些细胞类型仍然显示出不完整或分散的簇。一个特别具有挑战性的案例是少突胶质细胞群体。如预测面板所示，几乎所有基线方法都未能为这种细胞类型恢复一个连贯的簇，导致识别率极低。相比之下，scLLMDA成功识别了一部分少突胶质细胞，并形成了与真实分布一致的部分可分离的簇。这种改进突出了结合序列信息调控表示与域适应的好处，以捕捉微妙的染色质可访问性特征。总体而言，UMAP可视化通过证明scLLMDA产生了更结构化且生物学上有意义的嵌入空间，从而提高了跨平台细胞类型的区分能力。计算效率和可扩展性对于单细胞组学方法来说，可扩展性是一个主要问题，特别是在跨数据集注释场景下。为了评估可扩展性，我们针对两个代表性的跨数据集注释任务（即MosA1→WholeBrainA和MouseBrain(10x)→WholeBrainA）进行了系统的计算效率基准测试。我们比较了scLLMDA与几个代表性的基线方法，包括基于序列和基于表达的方法。结果总结在表4中。下载：PNG较大图像TIFF原始图像表4. 两个跨数据集注释任务上的计算效率基准（时间和内存）。对于仅使用CPU的方法，我们在内存列中报告“CPU”。https://doi.org/10.1371/journal.pcbi.1014226.t004对于scLLMDA，整个流程包括三个阶段：（1）DNABERT-2特征提取，（2）细胞嵌入学习，以及（3）带有域适应的图构建。在MosA1→WholeBrainA任务中，总运行时间为53分钟37秒，三个阶段分别为15分钟19秒、37分钟40秒和38秒。相应的GPU内存消耗分别为990MiB、954MiB和1186MiB（峰值约1.2GB）。在MouseBrain(10x)→WholeBrainA任务上也观察到了类似的行为，总运行时间为39分钟19秒，峰值内存占用相当。与序列建模基线SANGO相比，scLLMDA在提供改进的注释性能的同时实现了显著较低的计算开销。例如，在MosA1到WholeBrainA的任务中，SANGO需要127分钟10秒和1656MiB的内存，而scLLMDA仅需53分钟37秒，并且峰值GPU内存使用量约为1.2GB，运行时间减少了50%以上。尽管由于额外的DNABERT-2序列建模，scLLMDA比一些基于表达的方法（如scNym、scJoint）要慢，但它仍然比annATAC（大约需要22GB内存）等方法更加节省内存。总体而言，这些基准测试表明，scLLMDA在序列信息方法中保持了效率和准确性之间的良好平衡，显示出在实际GPU设置中的良好可扩展性。

为了评估scLLMDA对平衡超参数λ的敏感性，我们选择了四个具有代表性的跨平台注释任务。如图4所示，随着λ的逐渐增加，模型的准确性和F1分数表现通常呈现出先上升后下降的趋势，最佳性能通常出现在某个特定值附近。这一观察结果表明，引入适度的领域对抗信号可以有效增强模型对平台间分布变化的适应性。然而，如果设置λ过大，则会引入过强的对抗信号，这会抑制主要分类目标中任务区分特征的学习，从而导致整体性能下降。在平台差异显著的挑战性场景中（如MouseBrain到WholeBrainB），这种下降尤为明显。因此，仔细调整λ对于实现准确和稳健的迁移注释至关重要。基于多次实验，我们建议将λ设置在0.9到1.1的范围内，在这个范围内，scLLMDA在准确性和稳定性之间取得了良好的平衡，表现出强大的泛化能力和跨平台迁移性能。

为了评估所提出的GDA模块在scLLMDA框架中的有效性，我们进行了一项消融研究，比较了两种变体：(i) DNABERT+GDA，即在第一阶段提取的细胞嵌入通过GDA模块进行注释的完整流程；(ii) DNABERT+KNN，其中GDA模块被k最近邻分类器（k=6）替代，作为基线。实验涵盖了10个涉及不同测序平台（如MosA1、MouseBrain(10x)、WholeBrainA/B）的迁移任务，性能通过准确性和宏F1分数来衡量。如图5所示，DNABERT+GDA在两个指标上均显著优于DNABERT+KNN。箱形图显示DNABERT+GDA具有更高的中位数准确性和宏F1分数，而黑点代表每个任务的结果，证实了GDA在多种设置下的稳健性。

特别是，在涉及领域变化的更具挑战性的场景中，GDA显示出显著的优势，表明它能够对齐特征分布并增强对少数或模糊细胞类型的识别能力。这项消融研究强调了领域对抗训练对于基于scATAC-seq数据的细胞类型注释任务中提高泛化能力的重要性。

在这项研究中，我们提出了scLLMDA，这是一个结合了DNA语言模型和基于图的领域适应性的新框架，用于准确的scATAC-seq细胞类型注释。实验结果表明，scLLMDA在平台内和跨平台设置中均一致优于现有方法。我们方法的关键优势在于它能够捕捉丰富的序列语义和细胞之间的结构关系。通过将上下文DNA嵌入与局部和全局图信息相结合，scLLMDA有效缓解了领域变化并提高了注释的稳健性。尽管效果显著，但我们的框架也存在局限性。首先，使用大规模预训练DNA语言模型的计算成本可能相当高[39]，特别是对于包含数十万个峰的数据集。针对scATAC-seq高效地适应或压缩这些模型是一个有前景的方向。其次，虽然我们考虑了局部和全局图结构，但当前的边构建完全基于嵌入空间中的相似性。结合生物学先验知识——如已知的增强子-启动子相互作用或转录因子结合网络[40]——可能会进一步提高可解释性和性能。未来的工作还可以将scLLMDA扩展到多模态集成，即在单细胞水平上结合染色质可及性和转录组或表观基因组谱型[41]。此外，将scLLMDA应用于与疾病相关的数据集或临床样本，可以提供关于病理调控程序[42,43]和细胞类型扰动的见解。

我们提出了scLLMDA，这是一个结合了DNA语言模型和基于图的领域适应性的框架，用于准确的scATAC-seq细胞类型注释。通过捕捉序列语义和细胞-细胞结构关系，scLLMDA在各种数据集上实现了稳健的性能。未来的工作将集中在提高效率、整合生物学先验知识以及将框架扩展到多模态和临床应用上。