TriTower-m6Am：整合语义、序列与结构信息的三塔异构深度学习架构用于mRNA N6,2′-O-二甲基腺苷位点预测

《PLOS Computational Biology》：TriTower-m6Am: A triple-tower heterogeneous deep learning architecture integrating semantic, sequential, and structural information for mRNA N6,2′-O-dimethyladenosine site prediction

　　

摘要 背景 N6,2′-O-二甲基腺苷（m6Am）是一种由PCIF1（磷酸化C末端结构域相互作用因子1）在真核生物mRNA的第一个转录核苷酸处沉积的帽近端修饰。了解m6Am位点的位置有助于阐明细胞如何调控mRNA稳定性和翻译，但目前已有的预测器通常依赖于单一表征，未能联合建模同一RNA序列的多重视角。 结果 研究人员提出了TriTower-m6Am，该方法结合了每个RNA窗口的语义表征（基于预训练RNA基础模型RNA-FM并结合贝尔池化BellPooling）、顺序表征（独热编码双向长短期记忆网络One-Hot BiLSTM）和结构表征（在41-核苷酸窗口上的关系图卷积网络RGCN）。在一个包含640条序列的独立测试集上，TriTower-m6Am达到了0.776的受试者工作特征曲线下面积（AUC）和0.425的马修斯相关系数（MCC），而DTC-m6Am的AUC为0.765、MCC为0.411，且TriTower-m6Am的可训练参数减少了4.4倍；在0.40至0.70之间的每一个匹配特异性水平上，它比DTC-m6Am多恢复1至7个真实位点（共320个）。AUC加权投票使得每个塔对任意单个预测的贡献都是可读的。对图塔的分析将其益处限定于局部主链邻接关系的聚合，而非序列衍生的节点特征：边类型消融实验、节点特征消融实验以及结构置换对照实验一致表明，特定的RNAfold预测折叠并未携带可归因的信号；一项探查分析显示，每个碱基的配对状态在很大程度上可从序列衍生的RNA-FM嵌入中恢复（AUC=0.72，对比原始序列的0.65），因此折叠注释与集成模型已接收的语义表征基本冗余。 结论 结合同一RNA序列的语义、序列和结构视图，其m6Am预测效果优于任何一种单一表征，并且集成模型的投票权重使得每次预测均可审计，无需事后解释器。这种三塔模式是否能迁移到其他RNA修饰预测任务中，尚待未来研究验证。

TriTower-m6Am：面向mRNA m⁶Am位点预测的三塔异构深度学习架构解读

一、研究背景与问题提出

m⁶Am（N⁶,2′-O-二甲基腺苷）是一种独特的真核生物mRNA帽近端修饰，仅存在于第一个转录核苷酸且该核苷酸必须为腺苷。该修饰由PCIF1（磷酸化C末端结构域相互作用因子1）写入，由FTO（脂肪量与肥胖相关蛋白）擦除，属于可逆的表观转录组标记。因其位于帽近端，m⁶Am在减少脱帽、延长转录本半衰期以及调节翻译、剪接和疾病相关表型中发挥重要功能。

目前，单核苷酸分辨率的m⁶Am图谱依赖miCLIP（甲基化单核苷酸分辨率交联免疫沉淀）和m⁶Am-seq等抗体检测方法，这些实验成本高、通量低，促使了一系列计算预测工具的开发。然而，现有方法普遍存在三个突出问题：第一，所有工具均仅以一种方式编码输入序列（如k-mer统计、手工设计的理化特征或独热编码），未能联合利用RNA序列携带的三种信息通道——大规模预训练习得的语义模式、局部的核苷酸顺序以及由碱基配对和邻近关系编码的结构折叠；第二，二级结构（SS）信息几乎被弃置，且其对m⁶Am预测的贡献假设从未被直接检验；第三，模型如同黑箱输出预测，却不揭示驱动预测的特征依据。

为此，研究人员构建了TriTower-m6Am，旨在同时解决上述三个缺陷：利用预训练的RNA语言模型捕获语义模式，采用BiLSTM编码局部核苷酸顺序，并通过带类型边的关系图卷积网络处理结构折叠信息，同时通过AUC加权投票使每个塔的贡献可直接审阅。

二、主要研究方法与技术

研究人员采用了三项核心技术方法构建TriTower-m6Am：RNA-FM语义塔，基于在2370万非编码RNA序列上预训练的Transformer架构RNA基础模型（RNA-FM），为每条41-核苷酸窗口提取640维的逐核苷酸嵌入，随后通过层归一化、线性投影、多尺度一维卷积（核大小为3、5、7）以及一种名为贝尔池化（BellPooling）的可学习注意力机制进行压缩和分类；独热编码BiLSTM顺序塔，将同一窗口作为4维独热码输入，经两层双向长短期记忆网络（BiLSTM，每方向64单元）处理后，仅保留中心位置（候选位点）的隐藏状态作为序列摘要进行分类；RGCN图塔，将RNAfold预测的二级结构转化为包含41个节点的图，定义三种有向边类型——主链边（相邻核苷酸）、碱基配对边（标准沃森-克里克配对及摆动配对G-U）和邻域边（距离为2的核苷酸），并为每个节点构建21维结构特征向量（包括核苷酸独热编码、位置编码、环类型、GC含量、堆叠深度、环长度、配对几何形状和二级结构状态），通过两个关系图卷积网络（RGCN）层进行消息传递后，拼接全局平均池化和中心节点嵌入进行分类。数据集来源于DTC-m6Am发布的基准，包含40700条训练窗口（正负样本比约1:10）和640条平衡的独立测试窗口，所有窗口均为以候选腺苷为中心的41-核苷酸片段。

三、研究结果

整体性能：ROC与精确率-召回率分析

在独立测试集上，TriTower-m6Am实现了最高的AUC（0.776）、MCC（0.425）和F1分数（0.743），超越DTC-m6Am（AUC=0.765，MCC=0.411），且可训练参数减少4.4倍。在0.40至0.70的每个匹配特异性水平上，TriTower-m6Am比DTC-m6Am多恢复1至7个真实阳性位点（平均3.5个）。三个单表征深度学习基线（CNN、BiLSTM、Transformer）均落后于集成模型，证实提升来自异质表征的组合而非单一架构选择。集成模型处理一个样本需12.41毫秒，含33万可训练参数。

表征互补性：消融研究与参数匹配基线

塔消融实验显示，移除RGCN导致AUC下降最大（-0.68个百分点），移除BiLSTM下降最小（-0.27个百分点），三个塔均非冗余。参数匹配的“宽”单塔基线（各塔扩大隐藏维度以匹配集成总参数量）在测试集上全面低于完整集成，且出现明显过拟合，证明集成增益源于异质表征的互补性而非模型容量增加。

图机制：边类型与节点特征消融

边类型消融表明，图信号集中于主链边：移除此边导致AUC下降2.91个百分点（0.768→0.739），而仅用主链边即可达到AUC=0.757，接近全图的0.768；碱基配对边贡献最小（移除后AUC仅降0.002）。节点特征消融确认，核苷酸独热编码是最关键的特征组（移除后AUC从0.764降至0.698），位置编码次之（降至0.724），而二级结构状态和配对几何特征的移除影响极小（AUC变化小于0.002），表明结构注释信息与序列衍生表征高度冗余。

可解释性：贝尔池化、积分梯度与集成权重

贝尔池化权重在训练后仍保持中心峰值但出现轻微不对称（位置18-19权重略增），替换为均值池化仅造成AUC下降0.27%。BiLSTM塔的积分梯度（IG）分析显示，判别信号集中在BCA基序下游的位置22，而非修饰位点本身，这与PCIF1的底物识别生物学机制一致。AUC加权投票权重呈近均匀分布：RNA-FM占31.6%，BiLSTM占34.5%，RGCN占33.9%，证实三个塔各自携带独立的预测价值。

鲁棒性与泛化能力

三种子随机种子复现的AUC变异系数仅0.42%，MCC变异系数3.00%，表现高度稳定。训练数据可用性实验表明，性能随负样本池增大而单调提升。在固定数据集大小的损失函数正类权重敏感性实验中，AUC在1.0至10.0的权重范围内波动仅0.016，默认权重3.0即为AUC最优设置。在GENCODE v44人类参考转录组衍生的外部BCA阴性样本评估中，不平衡比从1:1增至1:100时，AUC从0.776升至0.951，但平均精确率从0.759骤降至0.315，揭示了基因组范围筛选场景下的实际挑战。

四、讨论与结论

讨论部分指出，三个塔的表征通过中心核对齐（CKA）评分显示相关性中等（0.55-0.67），确认为真正的互补而非冗余。可控的结构消融分析明确界定了图塔的贡献来源：其优势在于对序列衍生特征进行局部邻接的关系编码，而非依赖特定的RNAfold预测折叠——碱基配对边贡献可忽略、节点特征中结构注释移除影响微小、随机化预测二级结构不降低性能，且探查分析表明碱基配对状态可从RNA-FM嵌入中以较高AUC（0.72）恢复，故折叠注释与语义表征实质冗余。

结论：结合同一RNA序列的语义、序列和结构视图，其m⁶Am预测效果优于任何一种单一表征，并且集成模型的投票权重使得每次预测均可审计，无需事后解释器。这种三塔模式是否能迁移到其他RNA修饰预测任务中，尚待未来研究验证。