Redian新闻
>
药物-靶标亲和力预测,上科大团队开发了一种Transformer编码器和指纹图谱相结合的方法

药物-靶标亲和力预测,上科大团队开发了一种Transformer编码器和指纹图谱相结合的方法

公众号新闻

ScienceAI 设为星标

第一时间掌握

新鲜的 AI for Science 资讯


编辑 | 萝卜皮

药物与靶标之间的结合亲和力的预测对于药物发现至关重要。然而,现有方法的准确性仍需提高。另一方面,大多数深度学习方法只关注非共价(非键合)结合分子系统的预测,而忽略了在药物开发领域越来越受到关注的共价结合的情况。

上海科技大学的研究团队提出了一种新的基于注意力的模型,称为 TEFDTA Transformer Encoder and Fingerprint combined Prediction method for Drug-Target Affinity),来预测键合和非键合药物-靶标相互作用的结合亲和力。

为了处理如此复杂的问题,研究人员分别对蛋白质和药物分子使用了不同的表示。具体来说,通过使用非键合蛋白质-配体相互作用的数据集训练模型来构建初始框架。

对于广泛使用的数据集 Davis,该团队提供了一个手动校正的 Davis 数据库。为了优化性能,还在 CovalentInDB 数据库中的较小共价相互作用数据集上对该模型进行了微调。

结果表明,与单独使用 BindingDB 数据相比有了显著改进,预测非共价结合亲和力平均提高了 7.6%,预测共价结合亲和力平均提高了 62.9%。

该研究以「TEFDTA: a transformer encoder and fingerprint representation combined prediction method for bonded and non-bonded drug–target affinities」为题,于 2023 年 12 月 23 日发布在《Bioinformatics》。

在药物研发领域,预测药物与靶点相互作用/亲和力(DTI/DTA)是不可或缺的组成部分。

在早期阶段,研究人员通过实验确定这些相互作用,这既耗时又昂贵。随着计算机技术的进步,研究人员开始利用计算机来预测药物与靶点的相互作用,并使用对接程序(例如 GLIDE、Molegro Virtual Docker)模拟药物与靶点的结合姿势。但这种对接方法也有相应的局限性,即对接过程也需要较长的计算时间,并且需要蛋白质的三维结构。

随着机器学习和深度学习的发展,研究人员尝试将这些领域纳入DTI。目前,基于深度学习的方法已得到广泛应用。这些方法的优点是能够自动提取特征。然而,初始输入数据,特别是蛋白质和小分子的数据描述,显著影响模型的性能。

在最新的研究中,上海科技大学的研究团队提出了一种用于预测药物-蛋白质相互作用中的共价(键合)和非共价(非键合)结合亲和力的新模型,称为指纹编码器 DTA (TEFDTA)。

图示:TEFDTA 框架。(来源:论文)

TEFDTA 从两个现有模型 DeepDTA 和 TransformerCPI 中汲取灵感。DeepDTA 提供了一种使用 1D-CNN(一维卷积神经网络)从序列中提取特征的方法。该模型侧重于从序列信息中提取局部模式特征,以方便特征提取。虽然循环神经网络(RNN)也可以处理一维输入并执行特征提取,但它们存在某些局限性。

另一方面,CNN 在有效捕获全局特征方面存在局限性。RNN 尽管能够通过网络传播处理整个序列,但会遇到随着时间的推移而忘记信息的问题。TransformerCPI 证明 Transformer 可以有效解决 CNN 和 RNN 模型中存在的问题。Transformer 构建在编码器和解码器之上。

鉴于此,该团队利用 Transformer 作为特征提取器来提取复杂的分子序列。值得注意的是,单个编码器足以完成此任务,因为由于潜在的收敛困难,更复杂的模型将需要更长的训练时间,而不必增强信息提取。

为了评估 TEFDTA 的性能,研究人员在 Davis、KIBA 和 BindingDB 数据集上进行了实验,并将结果与其他结合亲和力预测模型(即 DeepDTA 和 DeepCDA)进行了比较。

结果证实了 TEFDTA 在结合亲和力预测方面的性能。此外,通过对数据库 CovalentInDB 中键合蛋白-配体相互作用的数据集进行微调,进一步优化了该模型。共价结合数据根据常见弹头进行分类,并对每个弹头类别进行单独微调。结果表明,微调过程显著提高了模型对共价结合亲和力的预测准确性,强调了专门训练的重要性。

图示:六种常见弹头微调前后的共价结合亲和力预测比较。(来源:论文)

此外,该团队还进行了预测针对 EGFR 的药物分子的结合亲和力的案例研究。结果表明,虽然该模型可能无法精确预测具有相同主链结构但取代基不同的分子的确切结合亲和力值,但它能够捕获分子上不同取代基引入的亲和力方差的趋势。这表明该模型对局部结构变化的潜在敏感性及其近似结合亲和力强度的能力,需要用更大的数据集进行确认以进行进一步的评估或训练。

图示:TEFDTA 对区分由微小结构差异引起的结合亲和力 (pKd) 差异的敏感性的结果。(来源:论文)

总之,TEFDTA 结合了指纹变换和 Transformer 编码器模块,为准确预测药物-靶标相互作用提供了一种改进的方法。

同样该模型也存在一些局限性。虽然该模型可以成功捕获分子序列的微小变化对亲和力的影响,但它对蛋白质片段的突变(包括单个或几个氨基酸变化)并不敏感。对于虚拟筛选任务,当突变发生时检测亲和力的可观察变化非常有价值。

直接从蛋白质的 FASTA 序列中提取特征很难实现这一目标,因为单个氨基酸突变在整个蛋白质的嵌入中是难以察觉的。然而,随着大型语言模型的出现,通过在大量蛋白质序列上预训练这些模型,通过无监督学习来提取蛋白质的表示已经成为可能。通过使用下游任务(例如具有突变的数据)对模型进行微调,模型变得对关键氨基酸敏感。

未来,该团队还将尝试使用大型语言模型来提取蛋白质表示。此外,目前对共价结合亲和力的预测需要先验了解配体和靶标对的共价键类型,这可能限制了广泛和正确的应用,特别是对于非化学家来说不友好。这些方向值得在未来的研究工作中进一步探索。

论文链接:https://academic.oup.com/bioinformatics/article/40/1/btad778/7492659

人工智能 × [ 生物 神经科学 数学 物理 化学 材料 ]

「ScienceAI」关注人工智能与其他前沿技术及基础科学的交叉研究与融合发展

欢迎注标星,并点击右下角点赞在看

点击读原文,加入专业从业者社区,以获得更多交流合作机会及服务。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
现场围观 | 黄仁勋对话Transformer论文作者:世界该给Tranformer翻篇了抛弃编码器-解码器架构,用扩散模型做边缘检测效果更好,国防科大提出DiffusionEdge6058 血壮山河之随枣会战 第三章 12华为改进Transformer架构!盘古-π解决特征缺陷问题,同规模性能超LLaMAAI测出你几岁死亡?Transformer「算命」登Nature子刊,成功预测意外死亡个人感慨之三十七 反人类历史Transformer竟是无限状态RNN?Transformer挑战者出现!斯坦福CMU联合团队,开源模型及代码,公司已创办矩阵模拟!Transformer大模型3D可视化,GPT-3、Nano-GPT每一层清晰可见ChatGPT的力量来自“变形金刚”(Transformer)? | 白若然、潘瓒颠覆Transformer霸权!CMU普林斯顿推Mamba新架构,解决致命bug推理速度暴增5倍颠覆Transformer!新架构Mamba引爆AI圈!Web ML 库 Transformers.js 提供文本转语音功能纯加法Transformer!结合脉冲神经网络和Transformer的脉冲Transformer | NeurIPS 2023OpenAI官宣开源Transformer Debugger!不用写代码,人人可以破解LLM黑箱Transformer的无限之路:位置编码视角下的长度外推综述泰國水燈節MIT斯坦福Transformer最新研究:过度训练让中度模型「涌现」结构泛化能力我在Performer中发现了Transformer-VQ的踪迹你没有看过的全新版本,Transformer数学原理揭秘CNN、Transformer、Uniformer之外,我们终于有了更高效的视频理解技术Transformer变革3D建模!MeshGPT来了!效果惊动专业建模师。。。简化版Transformer来了!网友:年度论文那些挑战Transformer的模型架构都在做些什么个人感慨之三十六 乌纱帽Mamba可以替代Transformer,但它们也能组合起来使用五倍吞吐量,性能全面包围Transformer:新架构Mamba引爆AI圈个人感慨之三十五 经济状况Transformer变革3D建模,MeshGPT生成效果惊动专业建模师,网友:革命性ideaHyena成下一代Transformer?StripedHyena-7B开源:最高128k输入,训练速度提升50%简化版Transformer来了,网友:年度论文Arxiv最热论文推荐:揭秘Transformer新身份、谷歌VLM蒸馏、复旦LEGO模型Robot Transformers 是什么 Transformer?ConvNet与Transformer谁更强?Meta评测4个领先视觉模型,LeCun转赞挑战 Transformer 霸权? Yan 架构竟以半价成本实现百万级参数大模型
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。