Redian新闻
>
南开&山大&北理工团队开发trRosettaRNA:利用Transformer网络自动预测RNA 3D结构

南开&山大&北理工团队开发trRosettaRNA:利用Transformer网络自动预测RNA 3D结构

公众号新闻

ScienceAI 设为星标

第一时间掌握

新鲜的 AI for Science 资讯


编辑 | 萝卜皮

RNA 3D 结构预测是一个长期存在的挑战。

受最近蛋白质结构预测领域突破的启发,南开大学、山东大学以及北京理工大学的研究团队开发了 trRosettaRNA,这是一种基于深度学习的自动化 RNA 3D 结构预测方法。

trRosettaRNA 流程包括两个主要步骤:通过transformer网络进行 1D 和 2D 几何形状预测;以及通过能量最小化进行的 3D 结构折叠。基准测试表明 trRosettaRNA 优于传统的自动化方法。

在 CASP15 和 RNA-Puzzles 实验的盲测中,对天然 RNA 的自动 trRosettaRNA 预测与人类的顶级预测具有竞争力。当通过均方根偏差的 Z 分数进行测量时,trRosettaRNA 的性能也优于 CASP15 中其他基于深度学习的方法。

该研究以「trRosettaRNA: automated prediction of RNA 3D structure with transformer network」为题,于 2023 年 11 月 9 日发布在《Nature Communications》。

学界对 RNA 3D 结构预测的需求与日俱增

核糖核酸(RNA)是活细胞中最重要的功能分子类型之一。它参与许多基本的生物和细胞过程,例如,作为遗传信息的转录本,发挥催化、支架和结构功能。过去几十年来,随着每年新型 ncRNA 的发现,人们对非编码 RNA (ncRNA),例如转移 RNA (tRNA) 和核糖体 RNA (rRNA),结构和功能的兴趣与日俱增。

与蛋白质类似,ncRNA 分子的生物学功能通常由其 3D 结构决定。然而,由于灵活的主链和弱的长程三级相互作用引起的内在结构异质性,通过实验解决RNA的结构比蛋白质更具挑战性。例如,蛋白质数据库 (PDB) 中仅存放了约 6000 个 RNA 结构,远少于存放的蛋白质结构的数量(约 190,000 个)。因此,迫切需要开发有效的算法来预测 RNA 3D 结构。

当前 RNA 3D 结构预测仍有巨大挑战

目前的 RNA 3D结构预测方法可以分为两类:基于模板的方法和从头方法。基于模板的方法使用 PDB 中的同源模板来预测目标结构。例如,ModeRNA 和 MMB 等代表性方法通过减少同源结构的采样空间来工作。一般来说,当PDB中存在同源模板时,基于模板的方法预测的结构模型是准确的。然而,由于已知RNA结构的数量有限以及RNA序列比对的困难,基于模板的方法进展缓慢。

相反,从头方法通过从头开始模拟折叠过程来构建 3D 构象。通过分子动力学模拟或片段组装,FARNA5、FARFAR、FARFAR2、SimRNA、iFoldRNA、RNAComposer 和 3dRNA 等方法对于某些小 RNA(<100 个核苷酸)效果良好。然而,由于不准确的力场参数和巨大的采样空间,很难为具有复杂拓扑的大RNA生成精确的3D结构。为了部分解决这个问题,通过直接耦合分析(DCA)预测的核苷酸间接触已被用来指导结构模拟。

此外,考虑到 RNA 结构折叠的层次性质,一些方法从二级结构衍生出 3D 结构,例如 Vfold 和 MC-Fold。它们非常快,但建模精度很大程度上取决于输入二级结构的质量。RNA-Puzzles 实验表明,准确预测具有复杂结构的大 RNA 的结构仍然是一个巨大的挑战。

深度学习用于 RNA 3D 结构预测

深度学习最近被用来改进从头 RNA 3D 结构预测。残差卷积网络(ResNet)预测的核苷酸间接触比 DCA 准确约两倍,在一定程度上改善了 3D 结构预测。结果表明,通过从基于几何深度学习的评分系统 (ARES) 中选择模型,FARFAR2 协议在 RNA-Puzzles 实验的盲测中预测了四个目标的最准确模型。受 AlphaFold2 成功的启发,科学家开发了一些新的基于深度学习的方法,例如 DeepFoldRNA、RoseTTAFoldNA 和 RhoFold。

在最新的工作中,南开大学、山东大学以及北京理工大学的研究团队开发了 trRosettaRNA,一种基于深度学习的自动化 RNA 3D 结构预测方法。它的部分灵感来自于深度学习在蛋白质结构预测中的成功应用,特别是在 AlphaFold2 和 trRosetta 中。基准测试和盲测表明 trRosettaRNA 有希望增强 RNA 结构预测。

trRosettaRNA 的结构如图 1 所示。从 RNA 的核苷酸序列开始,首先分别通过程序 rMSA 和 SPOT-RNA 生成多重序列比对 (MSA) 和二级结构。然后将它们转换为 MSA 表示和配对表示,然后将其输入 transformer 网络(名为 RNAformer)以预测 1D 和 2D 几何形状。与 trRosetta 类似,这些几何形状被转换为约束,以指导基于能量最小化的 3D 结构折叠的最后步骤。除非另有说明,下面提到的 RMSD 是通过使用 RNA-Puzzles 社区提供的评估工具包考虑所有原子来计算的。

图1:trRosettaRNA 的总体架构。(来源:论文)

研究人员使用两个独立的数据集和两个盲测对 trRosettaRNA 进行了严格评估。基准测试表明,trRosettaRNA 预测的模型比其他自动化方法更准确。trRosettaRNA 在两个实验中进行了盲评估:RNA-Puzzles(3 个目标)和 CASP15(12 个目标)。RNA-Puzzles 实验表明,trRosettaRNA 的自动预测与人类对三分之二目标的预测具有竞争力。CASP15 实验表明,trRosettaRNA 在基于 RMSD 的累积 Z 分数方面优于其他基于深度学习的方法。该方法在 8 种天然 RNA 上达到了与顶级人类群体相当的准确性,尽管没有任何人为干预。

局限性与未来

然而,研究人员注意到 CASP15 盲测中天然 RNA 的平均 RMSD(第一个模型为 14.8 Å)高于两个基准数据集 RNA 的平均 RMSD (30 个独立 RNA 为 8.5 Å,之前 20 个 RNA-Puzzles 靶标为 10.5 Å)。

建模准确性的差异可以通过目标难度和新颖性来解释。

(1)目标难度。大多数CASP15 RNA表现出高度的灵活性,可以采用多种构象(R1116和R1117除外)。此外,还有两个二聚体(R1107、R1108)和两个具有许多单链区域的蛋白质结合RNA(R1189、R1190)。这些特征对 SPOT-RNA 预测可信二级结构提出了挑战。为了说明这一点,与 20 个 RNA-Puzzles 目标相比,来自 CASP15 的 8 个天然 RNA 的 SPOT-RNA 预测二级结构的平均 F1 分数要低得多(分别为 0.62 和 0.72)。

(2)目标新颖。非冗余基准数据集中的很大一部分 RNA(三分之二,30 个中的 20 个)与之前已知的 RNA 表现出高度相似性 (TM-scoreRNA > 0.6),这使得它们很容易通过数据驱动方法(如 trRosettaRNA)进行预测。相反,CASP15 的 RNA 没有表现出如此程度的相似性。

这反映了与 trRosettaRNA 和该研究中采用的基准测试相关的局限性。首先,trRosettaRNA 的性能容易受到预测二级结构质量的影响。其次,尽管 trRosettaRNA 在内部基准测试中实现了令人鼓舞的准确性,但其在新型 RNA 上的性能仍然有限。此外,合成 RNA 的自动结构预测仍然具有挑战性。

CASP15 实验中的盲测表明,RNA 结构预测的深度学习方法仍处于起步阶段。然而,随着持续发展,深度学习应该有望推进 RNA 结构预测。将基于物理的建模融入深度学习是未来改进的方向之一。

最直接的替代方案之一是将其与其他传统方法相结合,并针对未来那些代表性不足的 RNA 结构优化算法。例如,为了克服对已知 RNA 折叠的偏见,可以利用神经网络(例如基于物理的神经网络)来学习力场或识别/组装局部图案,而不是直接预测全局 3D 结构。

源代码:https://yanglab.qd.sdu.edu.cn/trRosettaRNA

论文链接:https://www.nature.com/articles/s41467-023-42528-4

人工智能 × [ 生物 神经科学 数学 物理 化学 材料 ]

「ScienceAI」关注人工智能与其他前沿技术及基础科学的交叉研究与融合发展

欢迎注标星,并点击右下角点赞在看

点击读原文,加入专业从业者社区,以获得更多交流合作机会及服务。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
当下一代Transformer遇上ViT:Vision RetNet已来!Transformer竟是无限状态RNN?早茶&免费咖啡MIT斯坦福Transformer最新研究:过度训练让中度模型「涌现」结构泛化能力PyTorch最新工具mm来了!3D可视化矩阵乘法、Transformer注意力!旅美散记(22):Who's number one6016 血壮山河之随枣会战 南昌之战 9基于Transformer和注意力的可解释核苷酸语言模型,用于pegRNA优化设计NeurIPS 2023 | MixFormerV2:基于Transformer的高效跟踪器Transformer挑战者出现!斯坦福CMU联合团队,开源模型及代码,公司已创办Transformer是唯一选择吗?无Attention和MLP的语言模型反而更强了我在Performer中发现了Transformer-VQ的踪迹For Tern : something hot & spicyYann LeCun点赞!Meta对Transformer架构下手了:新注意力机制更懂推理起底PC新机皇:高通4nm芯片,Arm架构Windows系统,内置Transformer加速,还配了5G和WiFi7矩阵模拟!Transformer大模型3D可视化,GPT-3、Nano-GPT每一层清晰可见马斯克让盗梦空间成真?初创公司用Transformer诱导清醒梦,Neuralink技术操控梦境效果惊人改进分子表征学习,清华团队提出知识引导的图 Transformer 预训练框架MD/PhD 经验分享:小女2020年申请 42所医学院的 MD & MD/PhD programNeurIPS 2023 | MCUFormer: 可在内存有限微控制器上部署的Vison Transformer模型卷积网络又行了?DeepMind推翻Transformer最强传说,LeCun怒赞Transformer变革3D建模!MeshGPT来了!效果惊动专业建模师。。。重新审视Transformer:倒置更有效,真实世界预测的新SOTA出现了智能的本质就是压缩?马毅团队5年心血提出「白盒」Transformer, 打开LLM黑盒!预测token速度翻番!Transformer新解码算法火了,来自小羊驼团队|代码已开源红色日记 形势大好 7.26-31AI测出你几岁死亡?Transformer「算命」登Nature子刊,成功预测意外死亡「GPT-4只是在压缩数据」,马毅团队造出白盒Transformer,可解释的大模型要来了吗?仅根据蛋白质序列便可预测相互作用界面,一种基于Transformer的蛋白预测模型Transformer王者归来!无需修改任何模块,时序预测全面领先关注养兰知识,终于入手极美的兜兰Transformer变革3D建模,MeshGPT生成效果惊动专业建模师,网友:革命性idea矩阵成真!Pytorch最新工具mm,3D可视化矩阵乘法、Transformer注意力夏婳:两情难相知(十四)Meta对Transformer架构下手了:新注意力机制更懂推理Gunn HSConvNet与Transformer谁更强?Meta评测4个领先视觉模型,LeCun转赞NeurIPS 2023 | 结合脉冲神经网络和Transformer的纯加法Transformer当你使用Transformer时,张小斐告诉你:适合我们的才是最好的!刚在Costco看到Organic NuttZo 7 Nuts & Seed Butter,估计不错。大家可以看看:
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。