一种基于蛋白质折叠反向信息的预训练模型，用于预测蛋白质-蛋白质相互作用中的突变效应

《iScience》：An inverse-protein-folding pre-trained model for predicting the mutational effects in protein-protein interactions

　　亮点
• 开发了一种基于IPF预训练的MPNN（DGMPNN），用于预测蛋白质-蛋白质相互作用（PPI）的ΔΔG
• DGMPNN采用类似SAG的池化策略，以实现残基级别的可解释性
• DGMPNN在ΔΔG预测任务上取得了最优性能（SOTA），针对的是基准数据集
• DGMPNN识别出以前未观察到的SARS-CoV2抗体逃逸变体

摘要
蛋白质-蛋白质相互作用（PPI）是众多生物学过程的基础。准确预测突变对PPI的影响对于蛋白质工程和药物发现至关重要。大多数现有的PPI预测方法依赖于精细的物理化学特征或计算密集型的结构采样。在这里，我们提出了delta-G消息传递神经网络（DGMPNN），这是一种用于预测突变对PPI影响的消息传递神经网络框架。DGMPNN在反向蛋白质折叠（IPF）任务上进行了预训练，并采用了自适应的残基级别注意力池化机制，以实现有效的迁移学习，从而预测蛋白质结合亲和力的变化。该模型在多个基准数据集和深度突变扫描（DMS）数据集上达到了最先进的性能。使用计算选定的SARS-CoV-2 RBD-hACE2复合物的多点位突变进行的实验验证显示，预测的结合亲和力与实验测量的结合亲和力高度一致。

引言
细胞的生理功能，如信号转导、基因表达调控和蛋白质降解，主要通过蛋白质-蛋白质相互作用（PPI）来实现。PPI的强度通常通过蛋白质结合亲和力来评估，这种亲和力可以通过结合自由能（ΔG）或KD等指标来量化，这些指标反映了相互作用动态。准确评估蛋白质结合亲和力对于预测蛋白质特性和帮助开发生物活性大分子非常重要。突变，无论是通过自然进化还是有意设计产生的，都可能显著影响PPI，从而改变相关蛋白质的特性。预测突变对PPI的影响有助于评估突变的功能后果。尽管实验方法（如表面等离子共振（SPR）和生物层干涉测量（BLI）测定可以准确评估PPI，但它们往往受到高成本和低通量的限制。这些限制限制了它们的可扩展性，尤其是在评估自然界中或通过实验室工程产生的大量蛋白质复合物及其离散变体时。

在过去的二十年里，已经开发出计算方法，能够快速准确地估计PPI及其强度的变化。这些方法利用从经验力场派生的物理或统计能量项来预测蛋白质复合物的ΔG以及突变型与野生型（WT）复合物之间的结合自由能变化（ΔΔG）。代表性的方法包括PoPMuSiC、Rosetta和FoldX，这些方法依赖于广泛的构象采样，因此耗时且可能因离散构象采样的局限性而不够准确。随着可用PPI数据量的增长，标准数据集（如S1131和S4169，来自突变蛋白质相互作用的结构与动力学数据库SKEMPI）被建立起来，并最近被用作开发基于机器学习的ΔΔG预测方法的基准。这类预测器的典型例子包括mCSM-PPI、MutaBind和BindProfX。这些ΔΔG预测器利用了各种机器学习模型的非线性拟合能力。与基于经验力场的方法相比，这些基于机器学习的方法在PPI预测上可以获得更好的准确性，但其准确性取决于预定义和预先计算的输入特征。

近年来，发展了一系列基于深度学习（DL）的方法来预测PPI。其中，PerSpect-EL和TopNetTree依赖于拓扑数据分析（TDA），将残基的拓扑特征组织成图，并训练神经网络以拟合实验PPI亲和力标签。其他方法如GeoPPI、RDE-Net和DiffAffinity则通过重构侧链构象来采用自监督学习方案。最近的模式如MpbPPI和Deep Local Analysis（DLA）进一步扩展了PPI预测的预训练框架。然而，MpbPPI和DLA仍然需要辅助特征作为模型输入。基于DL的预测器利用预训练策略来利用丰富的未标记数据并捕捉与PPI相关的通用特征。理论上，这些特征可以直接转移到下游任务中，如PPI预测。蛋白质反向折叠任务可以绕过对显式侧链构象的需求，仅依赖于合理的骨架结构，可以整合到基于DL的PPI预测器中。从评估突变对PPI影响的角度来看，可以使用蛋白质反向折叠任务作为主要预训练目标的方法可以进一步探索。此外，深突变扫描（DMS）的最新发展和应用显著扩展了数据集，有助于进一步开发PPI预测方法和模型。

在这项工作中，我们提出了一个消息传递神经网络（MPNN）框架，用于预测蛋白质-蛋白质结合亲和力（KD/ΔG）（即delta-G MPNN，DGMPNN），并在大规模上评估突变对蛋白质-蛋白质界面影响的效应。我们在IPF任务上进行了预训练，使模型能够感知序列和结构上下文中的残基局部化学环境。随后通过基于残基级别的注意力图池化机制进行迁移学习，以预测突变效应，从而使模型能够从PPI界面的空间和序列信息中获取知识。DGMPNN框架在SKEMPI衍生的基准数据集和DMS衍生的PPI数据集上取得了最先进的性能（SOTA），无需额外的结构采样或任何预先计算的生化特征。通过高效地探索庞大的组合序列空间，我们识别出了SARS-CoV-2 RBD和hACE2复合物中的多点位变异，这些变异具有复杂的表观遗传效应，单独使用DMS难以检测。结果表明预测结果与实验测量数据高度一致。我们的方法为加速基于蛋白质的生物技术和治疗剂的开发提供了一个通用平台，同时提供了一种积极主动的计算策略来评估新兴病原体变体的潜力。

模型框架概述
我们提出了一种用于准确且可解释的PPI预测的MPNN，即DGMPNN（图1）。DGMPNN通过IPF预训练任务获取蛋白质结构和PPI的知识，该任务采用自回归方案学习残基身份的概率，结合蛋白质骨架结构和序列的信息。然后引入了一个额外的消息传递模块来分配残基级别的注意力分数。该模块的功能类似于自注意力图（SAG）池化块，并根据前面块产生的未屏蔽结构和序列表示生成分数。DGMPNN模型用这些注意力分数重新加权残基级别表示，并将加权特征输入全局池化块，以进行后续的对数解离常数（ln(KD)）预测。然后可以使用这个预测的KD来计算ΔΔG。

图1 DGMPNN模型框架

图视图器
DGMPNN模型通过基于图的表示整合结构和序列信息，其中每个节点代表一个氨基酸残基，每条边编码骨架原子（Cα、C、N、O和Cβ）之间的原子间距离以及多肽链上的相对序列位置。在编码器阶段，模型使用零向量作为节点特征，以适应仅包含骨架和无序列的输入。消息传递在k个最近邻节点（根据Cα?Cα′距离，k = 48）及其相关边以及中心节点上进行。堆叠的编码器层扩展了感受野并产生了富含全局结构信息的更新节点和边表示。在解码器阶段，序列嵌入与相同k个最近邻节点的消息传递过程融合到节点特征中。在池化和读出阶段，结合的序列-结构表示经过额外的消息传递步骤，以实现逐节点的注意力重新加权。最终蛋白质表示通过2层MLP进行下游PPI预测，该表示经过自适应注意力分数的调节。

在知识获取步骤中，我们采用了一个编码器层来从蛋白质骨架中提取空间信息。蛋白质结构被转换为图表示。图中的每个节点代表蛋白质复合物中的一个残基。收集主链原子（N、O、Cα和C）和侧链Cβ原子的坐标，并用于计算每两个残基之间的原子间距离。将每个蛋白质残基到48个最近邻残基的距离及其肽链关系存储在图中。这些48个最近邻节点被定义为每个残基的相邻节点。在消息传递过程中，边连接被分配给残基及其邻居。每个编码器层由多层感知器（MLP，3层）组成，激活函数为高斯误差线性单元（GELU）。在每层应用层归一化和聚合信息的丢弃，以提高训练性能。接下来的解码器层使用与编码器层类似的模块，但嵌入了残基信息，以获得蛋白质结构及其上下文序列的高维表示。编码器和解码器层构成了蛋白质MPNN。在网络的预训练阶段，解码器层中的残基身份被屏蔽。通过编码蛋白质或蛋白质复合物的结构数据并对每个节点以教学力自回归方式恢复原始残基身份来训练网络（详情参见STAR方法）。然后将预训练网络适配用于PPI亲和力预测，其中读出层受到SAG池化策略的启发，采用了额外的图神经网络（GNN）编码层（图1）。这个额外的编码器进行另一轮消息传递，为每个节点生成多头注意力分数。与传统的SAG池化策略相比，我们的工作框架中的池化阶段保留了节点上的所有信息，因此池化阶段中的消息传递过程应被视为类似SAG的策略。全局加法池化被引入到重新加权特征图中作为读出（详情参见STAR方法）。然后，带有自适应图注意力的读出与全局最大池化结合，输入到MLP（2层）中进行PPI的特定任务预测。使用ln(KD)预测与实验标签之间的均方误差（MSE）损失来更新池化和读出组件的参数。

训练数据集和消融策略的选择
我们通过对SKEMPI v2.0数据集进行筛选，选择了具有单点突变的2链复合物，并通过实验测定量化了突变对PPI的影响。精炼的数据包含2462个非冗余突变和相应的205个独特复合物，称为S2462。为了公正地比较其他方法的PPI亲和力预测性能，我们使用了最常用的S1131和S4169进行基准测试。我们在这些数据集上进行了10折交叉验证。我们的模型直接给出了ln(KD)的预测。ΔΔG进一步根据变体和WT的预测计算得出（详情参见STAR方法）。我们使用皮尔逊相关系数（PCC）和均方根误差（RMSE）作为评估指标。我们对SAG类似池化功能进行了消融研究，以评估注意力头数量的影响，并将我们的方法与传统池化方法进行比较。结果显示，在数据集S2462上，当使用超过8个注意力头时性能达到饱和（表S1）。将SAG类似的自适应池化模块与全局最大池化结合获得了最佳性能。与传统最大池化或平均池化相比，可学习的自注意力机制和全局最大池化都有助于模型的整体性能提升（表S1）。

DGMPNN模型在基准数据集上的性能
我们的DGMPNN模型在ln(KD)预测上的PCC为0.93，RMSE为2.04，在ΔΔG预测上的PCC为0.80，RMSE为1.22（数据集S2462，图2A和2B）。进一步分析结果显示，该模型在极性和带电残基突变上的PCC为0.87（ΔΔG为0.87），而在疏水残基突变上的PCC为0.74（ΔΔG为0.74）（图2C和2D）。该模型在不同位置位于相互作用界面的残基上也表现有所不同。在界面核心区域的残基发生突变后，预测吻合系数（PCC）提高到了0.83（ΔΔG），相比之下，界面支撑残基的突变（PCC = 0.66，ΔΔG）、界面边缘残基的突变（PCC = 0.63，ΔΔG）以及非界面残基的突变（PCC = 0.65，ΔΔG）的预测吻合系数较低（图2E–2H）。图2 模型性能显示完整标题 图形查看器 (A) 散点图比较了单点突变变体及其相应野生型双链复合物的对数实验结合亲和力值（ln(KD)（x轴）和预测的ln(KD)值（y轴）。与相应轴对齐的直方图展示了来自实验数据和预测的结果分布。(B) 散点图比较了实验测量的ΔΔG值和预测的ΔΔG值（单位：kcal/mol）。ΔΔG值是通过公式ΔΔG=RTln(KDmU/KTW)计算得出的。与相应轴对齐的直方图显示了值分布。(C-H) 散点图比较了(C)疏水性残基、(D)极性或带电残基、(E)核心残基、(F)边缘残基以及(G)非界面（内部、表面）残基的突变所引起的ΔΔG值变化。使用S1131和S4169这两个最常用于蛋白质-蛋白质（PPI）亲和力预测任务的基准数据集，我们将其模型与其他曾经表现出最佳性能（SOTA）的模型进行了并行比较，这些模型包括UniBind、MpbPPI、Hom-ML-V2、PerSpect-EL、GeoPPI、TopNetTree、mCSM-PPI2、MutaBind2和BindProfX。所有模型均报告是在SKEMPI衍生数据集上经过10折交叉验证训练的。我们也使用相同的10折交叉验证方案评估了DGMPNN。然而，这些报告模型的数据划分细节并不公开。为了考虑数据划分带来的不确定性，我们对DGMPNN进行了三次重复评估，每次测试都使用不同的随机种子生成交叉验证的分割（表1和S2）。FoldX和其他基于能量的方法也被作为基准纳入了评估。模型的PCC和RMSE指标是在优化的模型架构和超参数下确定的。我们的DGMPNN模型在S1131和S4169数据集上的平均PCC分别为0.875和0.790（针对ΔΔG值），表明其性能与其他模型相当或甚至更好（表1）。

方法 S1131a,b S4169a,b 参考文献 DGMPNN 0.874* 0.790– UniBind 0.870 0.780 Wang等人 MpbPPI + FoldX 0.865 0.795 Yue等人 MpbPPI + MODELLER 0.847 0.782 Yue等人 Hom-ML-V2 0.857 0.800* Liu等人 PerSpect-EL (M3) 0.853– Wee等人 GeoPPI 0.850 0.780 Liu等人 TopNetTree 0.760 0.760 Wang等人 mCSM-PPI2– 0.760 Rodrigues等人 MutaBind2– 0.740 Zhang等人 BindProfX 0.738– Xiong等人 Profile-score + FoldX 0.738– Wee等人 Profile-score 0.675– Szilagyi等人 FoldX 0.423 0.326 Schymkowitz等人 表1 不同PPI预测方法在SKEMPI衍生基准数据集上的性能对比 a 前3个PCC值以粗体显示，最高值用星号标出。b DGMPNN的PCC值表示为三次独立重复实验的平均值。在新标签页中打开表格

为了在更具挑战性的情况下评估模型性能，我们使用S1131数据集进行了留一复合物法的交叉验证测试。在每次测试折叠中，属于某一蛋白质复合体的所有数据都被排除在训练之外。最终的PCC是在所有保留的预测结果中计算得出的。DGMPNN的整体PCC值为0.69，与在同一基准策略下评估的SOTA模型相当（表S3）。

为了研究预训练阶段存在的同源蛋白质复合体是否会影响下游的预测性能，我们使用了S1131数据集中的1R0R蛋白质复合体进行了案例研究。1R0R复合体由两条多肽链组成，一条是蛋白酶，另一条是其配体抑制剂，并且在S1131数据集中有152个相关的突变测量结果。用于预训练的PDB数据集包含了1R0R的66个同源复合体，每个复合体都包含蛋白酶和抑制剂链（预测的3D相似性得分超过0.8），且两条链的序列一致性超过30%。我们从预训练数据集中移除了1R0R及其所有同源复合体，从而生成了一个排除了1R0R同源体的PDB数据集。然后在这个新数据集上预训练了一个DGMPNN模型，并使用1R0R复合体排除法的交叉验证方案进行评估。其性能与在原始PDB数据集上预训练的基准模型进行了比较。在1R0R相关数据上，排除1R0R同源体的模型的PCC为0.6870，与基准模型的PCC 0.6847相当（表S4）。这些结果表明，DGMPNN的下游预测能力主要不是依赖于对同源复合体的记忆，而是反映了从大规模蛋白质数据中学到的可转移的结构和序列表示。

此外，这些数据表明我们的模型能够以纯深度学习（DL）的方式实现高级预测性能，而无需使用预先计算的特征、能项或任何额外的结构优化过程。

自COVID-19大流行以来，积累了大量关于SARS-CoV2 RBD与hACE2相互作用的高通量深度突变扫描（DMS）数据。这些DMS数据可以转换为表观KD值和ΔΔG值。我们从DMS数据中选择了23个单点突变，这些突变也通过SPR实验进行了测量。DMS衍生的ΔΔG值的PCC与SPR测量得到的ΔΔG值的PCC一致，显示出不同方法之间数据的一致性良好（表2）。转换后的DMS数据为我们的模型提供了极好的非标准数据资源，用于进一步验证模型的性能以及评估模型从学习中获取知识的能力。在我们的训练数据集S2462中，只有四个与SARS-CoV RBD和hACE2相关的数据点，而没有包含任何与SARS-CoV2 RBD相关的数据。我们的模型（在训练中未使用任何DMS数据，标记为“woDMS”）在没有DMS数据的情况下，预测的PCC为0.45（当预测的ΔΔG值保留两位小数时为0.33），而当使用DMS衍生的ΔΔG数据时，预测的PCC为0.47（当预测的ΔΔG值保留两位小数时为0.47）。如果训练中包含了SARS-CoV2 RBD DMS数据（标记为“wDMS”），我们的模型预测的PCC为0.63（当预测的ΔΔG值保留两位小数时为0.63）。我们的模型记录的PCC数值高于其他报道的模型，后者的PCC范围在0.20到0.31之间（表2）。与Rosetta flex ΔΔG相比，我们的模型表现更好，后者使用结构重采样和经验势能函数进行预测，得到的PCC值为0.36（与SPR衍生的ΔΔG值相比）。然而，我们的模型得到的PCC值低于自由能扰动（FEP）方法，后者得到的PCC值为0.59（与SPR衍生的ΔΔG相比，表2）。

突变 a ΔΔG SPR ΔΔG DMS ΔΔG DGMPNN (woDMS) c ΔΔG DGMPNN (wDMS) d ΔΔG FEP ΔΔG Mutabind2 ΔΔG mCSM-PPI2 d ΔΔG SAAMBE-3D d ΔΔG BeAtMusic d Rosetta flex ΔΔG N501 Y ?0.8 ?1.5 ?0.2 (?0.20) ?2.7 (?2.71) ?1.2 0.7 0.5 0.0 0.1 0.4 Y453 F ?0.7 ?1.9 0.0 (0.02) 0.0 (?0.01) ?0.6 ?0.2 0.1 0.1 0.3 ?0.2 S477 N ?0.5 ?0.8 0.0 (0.04) 0.0 (0.00) ?0.1 ?0.1 ?0.1 0.2 0.1 0.1 N501T ?0.5 ?1.2 ?0.1 (?0.10) ?0.7 (?0.73) ?1.8 ?0.6 ?0.9 ?0.1 0.4 ?0.4 N439K ?0.1 ?0.3 0.1 (0.05) 0.2 (0.19) 0.6 ?0.1 0.5 0.6 0.3 0.0 N440K 0.0 ?0.3 0.0 (0.02) 0.0 (0.00) ?0.4 0.1 ?0.1 0.5 0.0 0.0 F490S 0.0 ?0.1 ?0.1 (?0.06) 0.0 (?0.01) ?0.1 0.6 0.2 0.8 0.7 0.0 L452M 0.0 ?0.2 0.0 (0.03) 0.0 (0.00) 0.2 0.0 0.5 ?0.3 0.2 0.0 L452R 0.0 ?0.2 0.0 (?0.01) 0.0 (0.01) ?0.3 ?0.8 0.0 0.1 0.2 0.0 E484Q 0.1 0.0 0.0 (?0.01) 0.0 (0.00) 0.3 0.1 0.3 0.5 0.2 0.0 T478K 0.1 0.2 0.0 (0.04) 0.0 (0.00) 0.00.2 0.0 0.1 0.2 0.1 N481K 0.1 0.0 0.0 (0.02) 0.0 (0.00) ?0.1 0.0 0.6 0.2 0.0 E484K 0.1 ?0.1 0.0 (0.03) 0.0 (0.00) 0.2 0.2 0.3 0.3 0.1 ?0.1 Q498R 0.2 0.5 0.2 (0.25) ?0.2 (?0.20) 2.7 0.4 1.4 1.1 0.8 ?0.6 S477I 0.2 0.3 0.1 (0.05) 0.7 (0.68) 0.0 0.1 0.0 0.0 0.2 0.0 G446V 0.2 0.7 0.2 (0.16) 0.0 (?0.02) 0.4 ?0.7 0.1 ?0.3 1.3 0.0 T478R 0.2 0.0 0.0 (0.03) 0.0 (0.00) ?0.1 0.1 0.0 0.3 0.2 0.0 S477R 0.3 0.1 0.1 (0.06) 0.5 (0.49) ?0.2 0.2 ?0.1 0.0 0.1 A475V 0.3 0.6 0.0 (?0.03) 0.9 (0.90) ?1.1 0.9 0.0 0.1 0.1 0.2 L455F 0.4 0.8 0.0 (0.00) 0.0 (0.00) 1.7 1.5 ?0.7 0.2 ?0.1 ?0.6 K417T 0.4 0.7 0.0 (?0.04) 0.0 (0.00) 0.9 0.2 0.4 0.5 0.7 F486L 0.6 1.0 0.0 (?0.03) 0.6 (0.58) 1.3 0.3 0.9 0.5 0.7 1.8 K417N 0.6 1.2 0.0 (?0.02) 0.0 (0.01) 0.9 0.6 0.5 0.4 0.5 0.9 vs SPR b PCC– 0.97 0.45 (0.33) 0.63* (0.63) 0.59 0.31 0.20 0.24 0.22 0.36 RMSE– 0.43 0.33* (0.35) 0.51 (0.51) 0.79 0.52 0.53 0.47 0.49 0.49 vs DMS b PCC 0.97– 0.47 (0.35) 0.54 (0.55) 0.65* 0.34 0.25 0.24 0.31 0.35 RMSE 0.43– 0.72 (0.73) 0.68* (0.68) 0.75 0.77 0.80 0.80 0.79 0.75 表2 不同方法在SARS-CoV-2子数据集上的性能对比 a 单点突变基于野生型RBD背景，ΔΔG值以kcal/mol为单位列出。b PCC和RMSE是分别根据实验SPR和DMS标签计算的。前3个值以粗体显示，最高值用星号标出。c DMS数据未被纳入训练，标记为woDMS。d DMS数据被纳入训练，标记为wDMS。

我们进一步使用MaveDB数据库中的Clostridium thermocellum复合体dockerin-cohesin数据集验证了wDMS模型的性能。wDMS模型在界面残基和所有残基上的ΔΔG预测中分别获得了0.514和0.242的PCC，这优于相应的FoldX预测值（分别为0.460和0.145）。值得注意的是，在这种特定情况下，woDMS模型的性能较差，其PCC分别为0.396和0.133（表S5）。这种差异可能反映了这些不同测量技术之间的系统性偏差。在同一类型数据上的微调可以提升模型的能力。

从我们模型的SAG-like池化组件中，我们可以获得特定残基的关注度分数，以评估每个节点（残基）对PPIs的贡献。这一特性为模型提供了显著的优势，通过它能够识别出对PPIs有重要贡献的关键残基。我们构建了一个热图（图S1），显示了复合体中RBD和hACE2殘基的min-max标准化关注度分数。根据头部平均关注度值对RBD和hACE2的复合体结构进行了着色（图3）。通过对热图和复合体结构的分析，发现RBD的Q493、Q498、T500、N501和Y505残基以及hACE2的H34、D38、Y41、K353和D355残基对PPIs有关键贡献（图3）。这些残基已被广泛证实对RBD-hACE2相互作用至关重要，其角色已通过先前的研究得到了证实，这表明我们的模型能够区分出PPIs的关键贡献者。

图3 hACE2和SARS-CoV2 RBD复合体的残基级关注度分数可视化显示完整标题 图形查看器 hACE2-SARS-CoV2 RBD复合体（PDB: 6M0J）的结构以带状表示，RBD结构由橙色线条勾勒。复合体的残基根据头部平均关注度分数从青色到深棕色编码。插图显示了关键相互作用热点的放大视图。

值得一提的是，包括G339、N343、S366和G447在内的几个残基虽然不直接参与ACE2结合界面，但也获得了显著的关注度分配（图3），尽管训练数据中不存在与这些残基位点相关的数据点。进一步的文献研究表明，这些非界面残基通过不同的机制影响ACE2的结合。例如，残基G339和N343参与了RBD中间和右侧：表面渲染的图像展示了RBD的Q498/R498周围的局部区域以及hACE2上对应的接触区域。表面根据头部平均关注度得分进行着色。（E和F）左侧： ribbon和stick表示法展示了残基N501/Y501周围的局部区域。虚线表示氢键。中间和右侧：表面渲染的图像展示了RBD的N501/Y501周围的局部区域以及hACE2上对应的接触区域。表面根据头部平均关注度得分进行着色。为了定量评估关注度得分与突变引起的ΔΔG之间的关系，我们计算了残基级别关注度得分与实验测量的ΔΔG值之间的相关性。在整个RBD中，平均关注度得分与平均ΔΔG之间的相关性相对较弱（皮尔逊相关性r = 0.140，斯皮尔曼相关性ρ = 0.221）。然而，分层分析揭示了显著的区域差异。在受体结合基序（RBM）区域内，相关性显著提高（皮尔逊相关性r = 0.189，斯皮尔曼相关性ρ = 0.508），而在非RBM区域则基本不存在这种相关性（表S6）。这种明显的数值对比支持了使用关注度权重来解释PPIs中残基级别贡献的可行性。整个RBD中的适度全局相关性表明实验测量ΔΔG存在固有的局限性，这不仅反映了直接结合相互作用的变化，还反映了由于其他理化性质改变而产生的间接耦合效应。

通过DGMPNN预测SARS-CoV-2的进化我们进一步使用来自SARS-COV-2 BA.1菌株的转换后的DMS数据训练了我们的模型。在10倍交叉验证方案下，该模型在基于DMS的SARS-COV-2 RBD和hACE2的ΔΔG预测上达到了0.92的PCC（图5A）。由于缺乏BA.1菌株的SPR或BLI数据，我们使用了一个包含33个WT基RBD突变体（包括27个单点突变体和6个多点突变体）的外部数据集进行了独立测试。这些突变体与hACE2的KD值是通过先前的研究使用SPR或BLI实验测量的。我们的模型在33个突变体与其实验ΔΔG值上达到了0.82的PCC和0.89的RMSE（图5B）。应考虑局部区域的多点突变，以探索突变在自然选择压力下的病毒进化效应，例如中和抗体的压力。观察到的局部区域的相关变化表明该模型能够感知并捕捉单一突变位点的综合效应（图4）。这一特性可用于评估具有多点突变的突变体。我们收集了不同SARS-CoV-2变体的数据，每个变体在与hACE2的相互作用界面处都包含多点突变（表S7）。预测的ΔΔG值与实验确定的值显示出 strong 相关性（PCC = 0.57），而这些单点突变的ΔΔG的直接总和则显示出较弱的相关性（PCC = 0.09）（表S7）。结果表明多点突变存在协同和上位效应，这支持了该模型评估多点突变非线性影响的能力。

图5 模型在DMS数据上的性能以及通过基于片段的多点突变筛选揭示的位点偏好显示完整标题图观看器(A) 散点图比较DGMPNN预测值与来自DMS数据集的实验ΔΔG值。x轴代表来自DMS数据集的实验ΔΔG值，y轴代表模型预测的ΔΔG值（单位为kcal/mol）。(B) 散点图比较DGMPNN预测值与外部实验结合亲和力数据集（来自SPR和BLI检测的hACE2和RBD突变体）。x轴代表实验ΔΔG值，y轴代表模型预测的ΔΔG值（单位为kcal/mol）。(C) 序列logo（SeqLogo）显示RBD上44个不同位点的标准化氨基酸分布。每一列代表一个RBD残基（位点索引显示在底部）。每个1个字母的氨基酸符号的高度反映了该残基的概率。字母按频率降序排列。BA.1菌株在该位点的原始氨基酸身份用绿色框标出。先前VOCs/VOIs或当前VOI中出现的突变分别用绿色框和橙色框突出显示。

我们进一步使用针对SARS-CoV2 BA.1菌株训练的DMS数据进行了系统的基于片段的突变检测。为了减少计算时间，我们将RBM区域划分成小的片段，每个片段包含五个残基位点。共生成了21个片段以覆盖RBM区域（表S8）。对每个片段进行了3,200,000（205种）种可能的组合进行了广泛的探索。选择了仍然能够保持与受体结合亲和力的突变体（ΔGMUT <= ΔGWT）。然后分析这些突变体，以识别可能有助于病毒逃避已经在先前文献中表征的各种中和抗体的突变。SeqLogo图（图5C）中的结果显示，大约66%（29/44）的BA.1 RBD位点的原始身份强烈受受体结合的青睐。其中一些残基位点具有单一主导的氨基酸身份，例如R454、G476、N487、P491、F497、R498（WT中的Q498R）、P499、Y501（WT中的N501Y）、G502和Q506。这些残基高度保守，几乎没有被其他氨基酸取代，这与病毒当前的自然进化结果一致。我们还注意到，一些BA.1突变在计算中统计上更受青睐，并在不同SARS-CoV2变体中得到很好的保留，包括S477N、T478K、Y505H。一些在早期循环变体（VOCs）或感兴趣的变体（VOIs）中观察到的突变，包括K444T（BQ.1）、K444R（BA.2.3.20）、Y449H（C.1.2）、L452M（BA.2.3.20）、L452R（BA.4/BA.5）、L455F（XBB.1.5）和K478R（XBB.1.16），在我们的预测中也得到了富集。其他在当前VOIs中众所周知的突变，包括N450D（BA.2.86）、L452W（BA.2.86）、A484K（BA.2.86）、L455S（JN.1）和F456L（KP.3），虽然在频率上较低，但与BA.1中的身份相当。最近高适应性变体对增强受体结合亲和力的突变的依赖性降低，这表明选择压力可能正在塑造SARS-CoV2的进化（图5C）。值得注意的是，DMS数据集中具有最强受体结合亲和力的几个单点突变并不是基于片段的分析中最富集的。这些包括RBD的位点417（N417F）、446（S446I）、449（Y449N）、453（Y453F）、475（S475A）、478（K478S）和504（G504G），这表明多点突变中的上位效应和协同效应可以显著改变单个突变的贡献。

使用RBD-hACE2验证多点突变预测我们基于基于片段的分析生成的SeqLogo图选择了每个位点上高频率的残基。选择进一步通过考虑核苷酸的可及性和抗体的逃逸能力进行了细化。通过不同残基的组合生成了大约3100万个突变体（表S9）。然后我们的模型对这些突变体进行了评估，获得了超过440万个保持与WTRBD相当ΔG的突变体，构成了“ESCAPE”库。这些突变组合在当前的SARS-CoV2变体中均未出现，表明SARS-CoV2 RBD的突变还有很大的未探索空间。我们从库中随机挑选了9个BA.1 RBD突变体，这些突变体的突变数量不同（从4到14个），并且预测的ACE2结合亲和力范围也不同（表S10），分别是RBD-4M（Y449D、L452R、A484K和L455W）、RBD-5M-A（N450T、K444E、A484K、L455W和F486S）、RBD-5M-B（V503D、Y449D、S446V、L452R和A484K）、RBD-6M（S446V、K444E、L452R、A484K、L455W和F486S）、RBD-7M（L492V、Y495F、V503D、N450K、L452R、A484K和L455W）、RBD-8M-A（S446V、N450T、K444E、L452R、A484K、L455W、F486S和N448K）、RBD-8M-B（L492V、V503D、Y449D、R493K、N450K、L452R、A484K和L455W）、RBD-10M（L492V、Y495F、V503D、Y449D、R493K、N450K、L452R、A484K和L455W）、RBD-14M（L492V、S496R、N417E、Y449D、S446V、R493K、K444E、L452R、A484K、Y453H和Q474E）（图6）。我们制备了重组蛋白，并使用SEC进行纯化和分析（图S2和S3）。然后我们实验验证了它们的受体结合亲和力以及它们与4种广谱中和抗体BD30-614、LY-CoV1404（bebtelovimab）、BD55-3372和BD55-5514（图7A、7B、S4和S5）的结合能力。在选定的广谱中和抗体中，BD30-614、LY-CoV1404和BD55-3372据报道可以有效中和WT、BA.1、BA.2、BA.2.12和BA.4/BA.5，而BD55-5514可以进一步中和BA2.86、XBB.1.5和JN.1菌株。根据我们的预测，这些突变体可以保持与WT RBD相同的结合亲和力。BLI数据显示，在9个选定的突变体中，4M、5M-B、6M、8M-A和10M与hACE2的结合亲和力相似或甚至更强（图7A）。然而，突变体5M-A（145.00 nM）和8M-B（65.60 nM）与hACE2的结合亲和力略弱于BA.1 RBD。然而，突变体7M和14M与hACE2的结合亲和力显著较弱。对突变体的SEC分析显示，7M、8M-B和14M处于异常的寡聚状态（图S3），这超出了我们的计算和预测范围。排除这三个突变体后，我们的基于计算的RBD突变体在预测ΔΔG与BLI结果之间获得了0.886的斯皮尔曼相关系数和0.726的PCC（表S11）。我们的预测报告了SARS-CoV-2 RBD的组合多点突变体（表S7 [n = 13] 和表S11 [n = 6]）的预测ΔΔG值与实验标签之间的0.751斯皮尔曼相关系数和0.741的PCC。

图6 突变位点和抗体表位的比较显示完整标题图观看器表面渲染的图像展示了突变位点和抗体表位区域。突变位点用粉红色突出显示。BD30-614、LY-CoV-1404、BD55-3372和BD55-5514的表位区域分别用红色、蓝色、橙色和绿色轮廓线表示。每张图像显示了一个不同的RBD突变体及其相应的表位和突变映射。

图7 多点突变变体的表征显示完整标题图观看器(A) BLI检测结果显示了6个选定的多点突变体（4M、5M-A、5M-B、6M、8M-A和10M）与hACE2的结合亲和力。每次测量都独立重复进行两次，每个图表上显示的KD值是两次独立测量的平均值及其标准差（平均值 ± 标准差）。(B) ELISA检测结果显示了四种nAbs（BD30-614，类别1；LY-CoV1404，类别3；BD55-3372，类别4；BD55-5514 [也称为SA55]，类别4）与6个多点突变体的结合情况。抗体在8个浓度范围内进行了4倍系列稀释，结合曲线按抗体浓度的对数刻度绘制（平均值为三个技术重复测量的平均值，误差条表示标准差），而轴刻度标签表示实际浓度值。进一步的ELISA分析显示，选定的突变体显著失去了与上述所有或部分广谱中和抗体的结合亲和力（图7B和S5）。在这些突变体中，5M-B、6M和8M-A显著失去了与所有四种广谱中和抗体的结合。突变体4M部分失去了与LY-CoV-1404和BD55-5514的结合，而显著失去了与其他三种抗体的结合。5M-A仍然保持与BD55-5514的强结合，但显著失去了与其他三种抗体的结合。进一步分析突变位点和BD55-5514靶向的表位显示，5M-A不包含BD55-5514表位中的任何突变位点。值得注意的是，突变体10M仍然保持与BD30-614和LY-CoV-1404的强结合，而突变使其与BD55-3372和BD55-5514的结合略微减弱。突变体10M包含的突变位点V503D同时位于BD55-3372和BD55-5514的表位中。据报道，V503D突变在DMS数据中显著影响了BD55-3372和BD55-5514的结合。根据突变的共现情况，当V503D突变与N450T/K和Y495F突变一起出现时，V503D的负面影响可能通过某种远距离效应得到补偿（图6）。进一步分析RBD和BD55-3372、RBD和BD55-5514复合物后发现，残基S446的关注度得分显著（表S12），这表明残基446可能在塑造RBD抗体BD55-3372和BD55-5514的表位中起作用。为了探究这些折叠不稳定的变体的可能原因，我们使用广泛使用的蛋白质聚集和溶解度预测模型对选定的变体进行了评估。然而，没有一个模型能够准确区分那些不可溶/聚集的变体（表13）。这表明当前模型在PPI（蛋白质-蛋白质相互作用）预测方面存在局限性。

讨论
深度学习模型，尤其是图神经网络（GNN），已经广泛应用于高维蛋白质的表示和蛋白质性质的预测。然而，不依赖外部预定义特征的独立预测仍然具有挑战性。DGMPNN代表了一种全面的DL风格模型（图1），它不再需要通过使用经验力场的工具得到的任何预定义特征。相反，它通过感知残基的局部环境来获取关于残基身份的信息，并且可以通过基于注意力的可学习GNN模块进行微调以进行特定预测。与原始的SAG池化不同，我们定制了可学习的SAG池化模块，保持了代表整个蛋白质复合体的图的结构完整性，而不进行基于注意力的节点剪枝。此外，GNN模块整合了节点和边特征，这与传统的自注意力机制不同，在传统机制中，注意力通常仅从节点特征中得出。我们的应用表明，这种基于IPF（Interaction Potential Field）的架构可以很容易地扩展到各种下游任务，只要有特定于任务的标记数据即可。该框架特别适用于处理各种生物实体之间复杂拓扑和语义关系的未来生物系统应用。然而，与其他PPI预测模型一样，DGMPNN无法评估蛋白质的折叠稳定性。克服这一局限性需要未来通过结合与蛋白质稳定性、溶解度和聚集相关的额外训练标签来开发模型。

DGMPNN的一个独特特点是它能够区分接触界面处或界面的关键残基，这表明该模型具有感知局部生化环境的能力。我们用于训练的数据集仅包含少量关于SARS-CoV RBD和ACE2相互作用的数据点。我们的模型能够对SARS-CoV2 RBD和ACE2的相互作用给出可接受的预测，这表明模型参数可以转移到与训练集中的情况具有某种同源性的复合物上。

目前评估单点突变对蛋白质结合亲和力影响的数据集在规模上仍然有限。包含多点突变的条目较少，相关基准数据集的建立仍有大量未知领域有待探索。这种数据稀缺性可能导致某些单点突变的过度代表，并且仍然是准确预测多点突变对PPI综合影响的主要瓶颈。我们对SARS-CoV-2 RBD和ACE2相互作用的预测和评估测试表明，该模型能够预测多点突变的影响，这表明基于IPF的模型可以在捕获多点突变引起的局部结构适应的同时，保持对蛋白质折叠和蛋白质-蛋白质界面的几何意识。然而，进一步验证该模型处理复杂突变组合的能力需要相关的基准数据。

基于IPF的模型需要准确的蛋白质复合体结构预测的支持，这可能也是一个限制。结合对接扰动或构象采样的方法可能会提高模型性能，这突显了开发物理信息驱动的蛋白质复合体结构预测和构象采样方法的重要性。这些考虑强调了在这一领域整合结构生物学约束与数据驱动方法的重要性。

研究的局限性
目前，我们的模型无法预测蛋白质折叠稳定性和聚集倾向等关键功能属性；将这些特征纳入模型对于更好地服务于更广泛的蛋白质工程应用至关重要。此外，我们预训练的IPF任务模型在预测PPI突变效应方面的性能可能会受到依赖潜在不准确的突变复合体结构建模的影响。引入精确的结构建模或突变结构的构象采样方法可能有助于我们更准确地评估PPI突变效应，特别是对于重塑复合体相互作用界面的多点突变。此外，本研究的另一个局限性是用于预训练的结构数据与下游分析的Omicron变异体之间的时间间隔。预训练数据集仅限于2021年8月2日之前沉积的PDB结构，而大多数Omicron RBD变异体的结构是随后获得的。因此，预训练数据集中没有明确表示Omicron特有的结构特征。尽管如此，DGMPNN在Omicron衍生的DMS数据上表现合理，并能够预测多点变异体，表明模型尽管存在结构数据的时间间隔，仍保留了对这些变异体的预测性能。未来结合更多最近沉积的结构的研究可以进一步评估并可能提高模型对新兴变异体的性能。

资源可用性
如需更多信息和资源，请联系主要联系人Ye Xiang（[e-mail]）。

材料可用性
本研究没有生成新的独特试剂或微生物菌株。

数据和代码可用性
• 本文报告的数据将在收到请求时由主要联系人提供。
• 本文报告了原创的定制代码。代码可从代码仓库获取：https://github.com/MaoSihong/DGMPNN。
• 如需重新分析本文报告的数据所需的所有额外信息，也可向主要联系人请求。

致谢
我们感谢清华大学中国国家蛋白质科学中心（北京分部）提供的设施支持。感谢Miao Rong博士和Ruofan Li博士提供的材料。感谢P. F. Lai在BLI测定方面的帮助。本工作得到了中国国家重点研发计划（项目编号2023YFC2306300和2021YFA1300204）、国家自然科学基金（NSFC，项目编号31925023、21827810和31861143027）、北京生物结构前沿研究中心、四川医药大学-清华大学前沿医学合作创新中心以及清华-北京生命科学中心的资助。

作者贡献
S. Mao设计了模型架构并进行了计算案例研究。S. Mao和S. Meng计划并进行了生化实验。S. Mao和S. Meng分析了数据、准备了图表，并与Y.X.共同撰写了手稿。Y.X.计划并监督了所有的计算和生化实验、分析了数据，并撰写了手稿。

利益声明
作者声明没有利益冲突。

星号★方法
关键资源表
**试剂或资源**
**来源** | **标识符**
**抗体** | **horseradish-peroxidase-conjugated anti-human IgG** | Promega | Cat# W4031; RRID: AB_430835
**细菌和病毒菌株** | **DH5α Competent E.coli** | BiomedCat#: BC102-01
**化学品、肽和重组蛋白** | **polyethyleneimine (PEI)** | Polysciences | Cat# 24765-1
**Anti-DYKDDDDK G1 Affinity Resin** | GenScript | Cat# L00432-253×
**Flag peptide** | QYAOBio | N/A
**HEPES** | Gibco | Cat# 15630080
**NaCl** | JSENB | Cat# JS0492; EINECS: 231-791-2
**Superose 6 increase, 10/300 GL column** | Cytiva | Cat# 29-0915-96
**Protein A Captarose HL** | HUACHUN | Cat# HB08D0701
**GLYCINE** | VWR LIFE SCIENCE | Cat# 0167
**Tris** | MLCC | Cat# MG57433
**SurePAGE, Bis-Tris, 10?8, 4-20%, 15 wells** | GenScript | Cat# M00657
**Ni–nitrilotriacetic acid (NTA) biosensor** | FortéBio | Cat# 185101
**PBS** | Gibco | Cat# C10010500
**BTTween 20** | Beyotime | Cat# ST825
**BSAGPCS** | CIC | Cat# AA6913, 3', 5, 5' -tetramethylbenzidine**
**InnoReagents** | Cat# TMB-S-003**

沉积数据
**DGMPNN Repo** | https://github.com/MaoSihong/DGMPNN
**ProteinMPNN Repo** | https://github.com/dauparas/ProteinMPNN
**ASAGPool Repo** | https://github.com/inyeoplee77/SAGPool
**ASKEMPI v2.0 Database** | https://life.bsc.es/pid/skempi2
**PDB中的蛋白质组装（截至2021年8月2日）** | https://www.rcsb.org/N/ACtDock-Ct
**Coh DMS dataset** | https://www.mavedb.org/score-sets/urn:mavedb:00000077-b-2
**ASARS-CoV-2 RBD - hACE2 DMS dataset** | github.com/jbloomlab/SARS-CoV-2-RBD_DMS_Omicron/results/final_variant_scores
**实验模型：细胞系** | HEK293F | Thermo Fisher Scientific | Cat# R79007
**Recombinant DNA** | pCDNA3.1-Strep-Flag (empty) | This Paper
**pCDNA3.1-RBD-BA.1-Strep-Flag** | This Paper
**pCDNA3.1-RBD-4M-Strep-Flag** | This Paper
**pCDNA3.1-RBD-5M-A-Strep-Flag** | This Paper
**pCDNA3.1-RBD-5M-B-Strep-Flag** | This Paper
**pCDNA3.1-RBD-6M-Strep-Flag** | This Paper
**pCDNA3.1-RBD-7M-Strep-Flag** | This Paper
**pCDNA3.1-RBD-8M-A-Strep-Flag** | This Paper
**pCDNA3.1-RBD-8M-B-Strep-Flag** | This Paper
**pCDNA3.1-RBD-10M-Strep-Flag** | This Paper
**pCDNA3.1-RBD-14M-Strep-Flag** | This Paper
**pCMV-10?His-Flag (empty)** | This Paper
**pCMV-hACE2-10?His-Flag** | GenBank | BAB40370.1
**pCMV_BD30-614_HC** | https://opig.stats.ox.ac.uk/webapps/covabdab/N/
**pCMV_BD30-614_LC** | https://opig.stats.ox.ac.uk/webapps/covabdab/N/
**pCMV_LY-COV1404_HC** | https://opig.stats.ox.ac.uk/webapps/covabdab/N/
**pCMV_BD55-3372_HC** | https://opig.stats.ox.ac.uk/webapps/covabdab/N/
**pCMV_BD55-3372_LC** | https://opig.stats.ox.ac.uk/webapps/covabdab/N/
**pCMV_BD55-5514_HC** | https://opig.stats.ox.ac.uk/webapps/covabdab/N/
**ASoftware和算法** | Octet Analysis Studio v13.0 | FortéBio | N/
**GraphPad Prism v10.2.0** | GraphPad | N/
**UCSF ChimeraX v1.9** | https://www.cgl.ucsf.edu/chimerax/N/
**AFoldX_Linux_v4** | https://foldxsuite.crg.eu/N/
**其他** | ELISA plates | Corning | Cat# 9018
**Octet RED384 system** | FortéBio | N/
**实验模型和研究参与者详情**：
本研究中使用的细胞系列在关键资源表中列出，并在标准生长条件（37°C, 5% CO2）下培养。HEK293F细胞来自Thermo Fisher Scientific（Cat# R79007），并在培养基SMM 293-TII（Sino Biological Inc., M293TII-1）中培养。该细胞系在我们的实验室中没有进行进一步独立验证，并且常规检测了支原体污染，结果为阴性。

细菌菌株和生长条件
大肠杆菌菌株DH5α（Biomed Cat#: BC102-01）在添加了适当抗生素的LB培养基中于37°C和220 rpm下培养。使用的抗生素浓度如下：卡那霉素（Kan, 50 μg/mL）；氨苄西林（Amp; 100 μg/mL）。

方法细节
我们在模型中使用了蛋白质几何信息作为边嵌入。没有引入额外的预计算功能特征，如溶剂可及表面积（SASA）、进化保守性、结构区域分类和其他物理化学性质。引入了一个用零初始化的张量作为节点特征的占位符，并参与了后续的消息传递过程。通过编码残基对之间的欧几里得距离来捕获蛋白质复合体的几何特征。为了适应逆蛋白质折叠预训练任务，仅包括骨架原子和理想化的Cβ原子来计算欧几里得距离。对于每对残基，计算25对原子（Cα、C、N和Cβ原子对）之间的距离，然后使用高斯径向基函数进行转换。具体来说，应用了16个中心均匀间隔在2到22 ?之间的高斯核，每个残基产生一个400维的向量来捕获残基间的几何关系。为了对蛋白质复合体进行特征化，引入了残基的相对位置嵌入，使用长度为65位的one-hot向量（±32）。该向量编码了沿肽链的残基对之间的相对距离作为不对称的边特征，从而使蛋白质复合体表示为一个有向图。为了区分蛋白质复合体内的链内和链间相互作用，在one-hot向量中引入了一个额外的位，标记残基是否属于同一链或不同的肽链。

模型架构
DGMPNN采用了基于消息传递神经网络（MPNN）的编码器-解码器架构。它由编码器块、解码器块、基于注意力的池化层和2层MLP分类器组成，旨在适应下游预测任务。编码器块由3个堆叠的编码器层组成，它们以蛋白质几何编码图作为输入，并为每个节点和边生成一个隐藏维度为128的蛋白质结构表示。使用带有GELU激活函数的3层MLP来计算消息传递。为了定义消息传递区域，我们通过排名Cα-Cα距离来获取每个中心残剂的的前48个最近邻居。节点特征使用dropout和skip连接操作进行更新，然后进行层归一化。边特征也使用带有GELU激活的3层MLP进行更新，以及类似的dropout和skip连接操作。由于中心残基周围的局部环境不同，边特征在消息传递过程中是不对称更新的，这与有向图的公式一致。解码器块的结构与编码器块类似，由3个堆叠的解码器层组成，隐藏维度也为128。来自编码器的蛋白质图表示被输入到解码器中，以生成IPF预测任务或其他节点级预测任务的节点级logits。除了将掩码后的蛋白质序列嵌入连接到边特征之外，解码器应用了类似的消息传递过程，但没有更新边特征。解码器中还包括了使用GELU激活的前馈层，配置与普通变换器相同。为了适应下游的PPI预测任务，我们采用了一个基于注意力的池化层，该层修改自自注意力图池化策略。在这个池化层中，使用了一个额外的编码器层为每个节点（残基）生成一个折叠的一维值来生成注意力分数。这个注意力块基于编码器的复合体几何表示和解码器的融合结构序列表示来计算节点级注意力分数。应用SoftMax操作来归一化注意力分数。为了充分利用编码器和解码器捕获的高维结构和序列表示，使用注意力分数重新加权解码器的更新节点特征。然后将重新加权的节点特征求和，以在空间域中产生节点特征的加权和，作为图级输出，称为单头基于注意力的图输出。多头输出与全局最大值/平均值池化的结果进行了连接，然后将组合表示输入到后续的MLP层中，以生成蛋白质复合物的最终亲和力预测。预训练程序：来自PDB（截至2021年8月2日）中通过X射线晶体学或冷冻电镜确定的蛋白质组装的蛋白质复合物，根据先前的描述程序进行了过滤。随后使用30%序列同一性阈值将这些序列聚类为25,361组。对这些蛋白质复合物数据进行了自回归逆蛋白质折叠任务。为了监控收敛情况，我们测量了对数概率输出与独热编码的真实序列之间的负对数似然损失。在这个预训练阶段，应用了一种教学力策略。在恢复蛋白质序列的每一步中，只有一部分原始序列对模型可见作为上下文输入。序列的可见位置是基于每个 epoch 中每个样本的随机采样解码顺序确定的，而其余未暴露残基的身份被保持掩码状态。对于每个训练 epoch，从每个序列簇中随机选择一个成员来构成训练集，称为‘查询’序列。在具有多个同源链的蛋白质寡聚体中，使用70%的序列同一性阈值来识别与查询同源的链。在这些寡聚体中，所有同源链都将被保持掩码状态以防止信息泄露。使用Adam优化器（beta1 = 0.9, beta2 = 0.98, epsilon = 10^-9）来调度学习率。模型在单个NVIDIA RTX 4090 GPU上以10,000个令牌的批量大小进行训练。

针对下游PPI亲和力预测任务的微调：我们过滤了最常用的SKEMPI v2.0数据集，仅保留了由2个肽链组成的蛋白质复合物，从而得到一个包含205个独特蛋白质复合物的数据集。此外，标记为“无结合”（n.b）或“展开”（unf）的条目被丢弃。保留了标记为不等结合亲和力的条目，并使用了记录的近似KD值。保留了每个复合物上的独特数据点（独特突变体），以获得非冗余条目。结果，从205个独特蛋白质复合物中选出了2462个具有单个点突变的突变体，即S2462。对于数据集中的每个数据点，从其野生型中提取了背骨结构。序列信息被单独处理并输入模型。然后整合结构和序列特征，基于预训练模型的权重，获得每个蛋白质-蛋白质复合物的全面表示。为了实现PPI亲和力的监督下游预测，池化和读出层中的参数从Xavier均匀分布中初始化。在模型预测和实验测量值（表示为ln(KD)）之间逐批计算均方误差（MSE）损失。此外，还直接使用WT和突变体的预测ln(KD)值计算了ΔΔG。通过基于突变的10折交叉验证来评估模型性能和超参数选择，使用数据集的固定划分。对SKEMPI派生的基准测试（S1131和S4169）进行了类似的10折交叉验证，使用了三个随机种子的独立数据划分（种子包括12、41和1234）。为了比较不同的模型架构，我们使用Adam优化器以初始学习率3 × 10^-5训练每个模型，共500个epoch。为了重新缩放全局图池化表示，增加了一个额外的线性层，确保与不同模型架构的共享MLP预测器兼容。为了进行公平比较，所有微调模型都基于相同的ProteinMPNN检查点（即v_48_020.pt）。

在SARS-COV-2 RBD和hACE2深度突变扫描（DMS）数据上进行训练：DMS数据集来自github.com/jbloomlab/SARS-CoV-2-RBD_DMS_Omicron/results/final_variant_scores，按SARS-COV-2菌株分层，得到7个子集。在这些数据集中，RBD和hACE2之间的结合亲和力（表示为-log10KD）已经被量化并分配给每个单点突变变体。我们将对数转换后的数据转换回KD值。然后通过丢弃标记为无结合的突变体来过滤数据集。根据有效数据点的数量，选择了SARS-COV-2 BA.1菌株基线子集进行后续交叉验证和分析，包括总共3880个具有有效KD值的BA.1 RBD突变体。通过将每个位点上的20个氨基酸突变更分为10个互斥集来进行突变级划分。这些子集用于进行10折交叉验证。还计算了PCC和RMSE指标来评估模型性能。还使用实验测量生成了外部测试集进行评估。该数据集包含33个数据点，包括27个单点突变和6个多站点突变，来自先前发表的研究。

为了评估模型的泛化能力并防止在迁移学习和预训练阶段可能的数据泄露，我们在SKEMPI S1131基准测试上进行了更具挑战性和严格性的评估。对于S1131数据集的留一复合物验证，将特定野生型复合物的所有突变样本保留出来作为测试集，而模型则在所有剩余复合物的突变样本上进行训练。之前发表的研究中报告的先前先进模型的性能是在相同的基准设置下收集的。我们使用S1131数据集中的1R0R复合体的样本点（n = 152）作为测试案例进行实验，以防止在预训练期间由于同源复合物的存在而造成的人为性能膨胀。具体来说，我们查询了整个预训练数据库，并严格移除了所有预测的3D相似性得分超过0.8或两条链的序列同一性超过30%的蛋白质复合物。使用这个去除同源物的PDB数据集，我们用相同的架构和配置对模型进行了预训练。为了进行性能比较，我们在S1131上进行了迁移学习，排除了原始预训练和去除同源物预训练模型中的1R0R相关突变样本。性能以五个独立测试的平均值±标准差报告，这些测试使用了不同的模型权重初始化。为了进一步验证非SKEMPI数据，我们从Mave数据库（MaveDB）收集了一个DMS数据集。这个特定的DMS数据集描述了C. thermocellum cohesin和dockerin的结合亲和力。相应的参考结构在PDB访问号1OHZ下。从数据集中保留了包含结构中所有残基的非同义突变体，得到了一个包含对应于dockerin的结合亲和力的cohesin突变体数据集（n = 2,609），即CtDock-CtCoh。通过ChimeraX接口分析工具选择了由直接相互作用涉及的界面残基的突变组成的分层子集（n = 171），分别标记为‘woDMS’和‘wDMS’。FoldX ΔΔG预测性能是使用PSSM应用和默认设置进行评估的。

为了分析多站点突变对SARS-COV-2 RBD和ACE2相互作用的影响，我们根据PDB结构7WPB选择了BA.1菌株的所有RBD界面残基。界面残基的识别基于以下标准之一：1）任何具有至少一个原子与ACE2原子的范德华重叠（VDW重叠）大于-0.4 ?且小于0.6 ?的残基，其中VDW重叠定义为原子对范德华半径之和减去原子对距离；2）任何在复合体形成时埋藏溶剂可接近表面积（dSASA）变化大于15 ?2的残基。我们选择了BA.1 RBD的18个界面残基，包括449Y、453Y、455L、456F、473Y、475A、477N、486F、487N、489Y、493R、494S、496S、498R、500T、501Y、502G、505H。以每个位点为中心，我们定义了相邻区域来探索多个突变的组合效应。为了使计算可行，我们将RBM区域划分为21个每个包含5个残基的补丁，其中中心残基来自18个界面残基。这21个补丁覆盖了整个RBM区域，并包含了RBD的44个残基（表S8）。计算在单个NVIDIA RTX 4090 GPU上完成，耗时约21天，相当于每个变体的平均运行时间少于0.025秒。相比之下，FoldX在单个CPU核心上每个变体大约需要10秒。我们用位点出现频率标准化了氨基酸序列频率，并绘制了44个位点的SeqLogo。我们手动选择了满足以下规则的多个突变位点：1）保持受体结合能力；2）每个突变的核苷酸可访问性由NCBI基于SARS-CoV-2参考序列（NCBI Reference Sequence NC_045512.2）的标准代码定义。仅需要单个核苷酸替换来改变氨基酸残基；3）能够逃避大多数抗体的中和，这是根据之前研究中不同抗体的统计结果得出的。选择了失去与大多数抗体结合能力的突变。

为了生成BA.1 RBD和BA.1 RBD突变体，编码BA.1 RBD（GenBank Accession: OM570259.1）及其突变体（包括RBD-4M（Y449D, L452R, A484K, L455W）、RBD-5M-A（N450T, K444E, A484K, L455W, F486S）、RBD-5M-B（V503D, Y449D, S446V, L452R, A484K）、RBD-6M（S446V, K444E, L452R, A484K, L455W, F486S）、RBD-7M（L492V, Y495F, V503D, N450K, L452R, A484K, L455W）、RBD-8M-A（S446V, N450T, K444E, L452R, A484K, L455W, F486S, N448K）、RBD-8M-B（L492V, V503D, Y449D, R493K, N450K, L452R, A484K, L455W, Q474E）和RBD-14M（L492V, S496R, N417E, Y449D, S446V, R493K, K444E, L452R, A484K, L455W, Q474E）（表S11）的基因进行了密码子优化和合成（XiangHongBiotech, China）。合成的基因被克隆到pCDNA3.1载体中，并在RBD的C端融合了1 × Strep-1 × FLAG标签。质粒用于用聚乙烯亚胺（PEI）（Polysciences, Cat# 24765-1）对HEK293F细胞进行瞬时转染。质粒与PEI的混合比例为1:3。转染后四天收集上清液。使用anti-DYKDDDDK G1亲和树脂（GenScript, Cat# L00432-25）从上清液中亲和纯化RBD，并使用0.1 mg/mL 3×Flag肽（QYAOBio, China）在20 mM HEPES和150 mM NaCl（pH 7.6）中洗脱（图S2A）。然后使用Superose 6增加、10/300 GL柱（Cytiva, Cat# 29-0915-96）在20mM HEPES和150mM NaCl中进行尺寸排阻色谱（SEC）进一步纯化蛋白质。SEC的峰被分别收集并浓缩至约1 mg/mL。含有单体RBD和RBD突变体的峰分用于进一步实验。突变体7M、8M-B和14M没有单体峰，因此收集了可能包含目标蛋白聚集的峰分。

为了生成人ACE2（hACE2），将编码hACE2（GenBank Accession: BAB40370.1）的基因克隆到pCMV载体中，并在重组蛋白的C端引入了10 × His-1 × FLAG标签。质粒与PEI的混合比例为1:3，然后使用6.4 mg的质粒-PEI混合物对800 mL HEK293F细胞进行瞬时转染，浓度为2 × 10^6细胞/mL。转染后四天收集重组蛋白，并使用anti-DYKDDDDK G1亲和树脂从上清液中亲和纯化目标蛋白。使用0.1 mg/mL 3×Flag肽在20 mM HEPES和150 mM NaCl（pH 7.6）中洗脱目标蛋白（图S2B）。中和抗体BD30-614、LY-COV1404、BD55-3372和BD55-5514的序列来自CoV-AbDab。抗体的重链和轻链基因进行了密码子优化、合成并克隆到pCMV载体中。将1.6 mg的重链质粒、1.6 mg的轻链质粒和4.8 mg的PEI混合，然后用浓度为2 × 10^6细胞/mL的胶粒转染800 mL HEK293F细胞。转染后四天收集含有抗体的上清液。抗体是通过使用蛋白A Captarose HL（HUACHUN，目录号HB08D0701）捕获的，并用0.1 M甘氨酸在pH 3.2的条件下洗脱的。洗脱后通过加入1.0 M Tris将pH调整至7.6。纯化的蛋白质通过SDS-PAGE进行分析（见图S2C和S2D）。

生物层干涉测量（BLI）用于测量RBD-ACE2之间的相互作用，使用的是Octet RED384系统（FortéBio，Octet数据采集版本v13.0），在30°C下以1000 rpm的轨道摇动速度进行实验。ACE2（0.1 mg/mL）被固定在Ni-硝基三乙酸（NTA）生物传感器上（FortéBio，目录号185101）10分钟。生物传感器用含有0.05% Tween 20和0.1% BSA的PBS冲洗380秒以达到稳定的基线状态。将加载了ACE2的生物传感器与不同浓度的RBD一起孵育200秒，然后将其浸入含有0.05% Tween 20和0.1% BSA的PBS中200秒，以测量RBD从生物传感器表面的解离情况。BLI数据通过Octet软件（版本13.0，FortéBio）进行处理和分析，并选择了1:1的结合模式。

抗体的RBD结合能力通过滴定ELISA来确定。RBD及其突变体（1 μg/mL）被固定在ELISA板（每个孔100 μL）上（Corning，目录号9018），并在4°C下过夜孵育。抗原包被的板在37°C下用含有3% BSA的PBS封闭1小时。抗体的系列稀释液在含有3% BSA的PBS中制备，然后加入板和在37°C下孵育1小时。板用含有0.05% Tween 20的PBS冲洗五次，随后在37°C下与1:5,000稀释的辣根过氧化物酶偶联抗人IgG（Promega，目录号W4031）共孵育1小时，该抗体也溶解在含有3% BSA的PBS中。板再次用含有0.05% Tween 20的PBS冲洗五次，然后在室温下与3,3′,5,5′-四甲基联苯胺底物孵育150秒。反应通过加入50 μL 1 M H2SO4来终止。吸光度在450 nm的光学波长下读取。数据使用Prism 10.2.0软件进行处理和分析。每个实验重复三次，图中的数据点是三个独立实验的平均值。

统计显著性是通过Student's未配对t检验和Steiger’s t检验来确定的（Steiger, J.H., 1980）。报告的皮尔逊相关系数和斯皮尔曼等级相关系数是通过Scipy.stats包计算的。误差条表示标准偏差（SD）。n或N代表每个实验中的样本数量，在图例中提供，并附带统计分析细节。星号的含义在图例或表格中分别说明。p值≤0.05被认为是有意义的。

补充信息（3）：
- 下载所有内容：PDF（1.15 MB） 文件S1：包含图S1–S5和表S1–S13
- 档案（11.72 MB）：数据S1，其中包含多站点变异体潜在寡聚体的AlphaFold3预测结果，位于压缩文件中
- 档案（28.50 MB）：数据S2，其中包含多站点变异体的AlphaFold3预测结果，位于压缩文件中