Redian新闻
>
突破神经网络限制,量子蒙特卡洛研究新进展登Nature子刊

突破神经网络限制,量子蒙特卡洛研究新进展登Nature子刊

公众号新闻
机器之心专栏

机器之心编辑部


时隔四个月,ByteDance Research 与北京大学物理学院陈基课题组又一合作工作登上国际顶级刊物 Nature Communications:论文《 Towards the ground state of molecules via diffusion Monte Carlo on neural networks 》将神经网络与扩散蒙特卡洛方法结合,大幅提升神经网络方法在量子化学相关任务上的计算精度、效率以及体系规模,成为最新 SOTA。


  • 论文链接:
    https://www.nature.com/articles/s41467-023-37609-3
  • 代码地址:
    https://github.com/bytedance/jaqmc

简介

作者将基于神经网络的试探波函数运用于固定节点面的扩散蒙特卡洛方法 (Diffusion Monte Carlo, or DMC) ,用以精确计算具有不同电子特性的原子以及分子系统。

扩散蒙特卡洛方法是量子化学领域精确计算分子和材料基态能量的常用方法之一。通过与扩散蒙特卡洛方法结合,作者显著提高了量子化学中神经网络 SOTA 方法的计算精度与效率。此外作者还提出了一种基于经验线性关系的外推方法,大幅改善了分子结合能计算。总体而言,该计算框架作为求解量子多体问题的高精度方法,为化学分子性质的深入理解提供了更强大的工具。

 基于神经网络的量子蒙特卡洛方法



2018 年以来,多个研究小组将神经网络运用于变分蒙特卡洛方法 (Variational Monte Carlo, or VMC) 中 [1,2,3],借助神经网络强大的表达能力,得到了更为精确的分子基态能量。本工作于 2022 年公开时,基于神经网络的变分蒙特卡洛方法中的 SOTA 工作是 DeepMind 于 2019 年提出的 FermiNet [2],能够在规模较小的体系上得到非常精确的结果。然而变分蒙特卡洛方法的精度受限于神经网络的表达能力,在处理较大体系时会有越来越明显的精度问题。此外该类方法在处理较大体系时收敛非常缓慢,对计算资源提出了巨大挑战。

扩散蒙特卡洛方法作为量子化学领域的经典高精度算法之一,具有精度高、可并行性好、适合进行大规模计算等良好的特性。此外扩散蒙特卡洛可以突破神经网络的表达能力限制,利用投影算法超越变分蒙特卡洛方法的精度。

本工作中,作者将 SOTA 的神经网络 (FermiNet) 作为试探波函数与扩散蒙特卡洛方法结合。新的计算方法相比于 FermiNet 显著提升了精度并减少了所需的计算步数。本工作中所设计并实现的扩散蒙特卡洛软件具有神经网络友好、GPU 友好、并行友好的特点,可以与广泛的神经网络波函数结合,自动提升其精度与效率。

计算结果

1. 原子

使用神经网络对大型分子体系进行量子蒙特卡洛计算时,由于算力限制,所能使用的神经网络的表达能力也会受到一定限制。为了模拟这一场景,作者使用了仅仅两层的神经网络来研究第二、三排的原子。计算结果显示随着体系变大,变分蒙特卡洛方法的精度愈来愈差,而扩散蒙特卡洛方法所带来的精度提升也愈来愈明显。


2. 分子

作者在一系列分子体系上也验证了基于神经网络的扩散蒙特卡洛方法的有效性,包括氮气分子,环丁二烯以及双水分子。在所测试的体系上均观察到了明显的计算精度提升。


3. 苯环及双苯环

本工作公开前,量子化学领域中基于变分蒙特卡洛的神经网络波函数方法只处理过 30 电子以内的小型分子。本工作首次将神经网络波函数方法应用于 42~84 个电子的体系,即苯环与双苯环。计算结果显示,扩散蒙特卡洛方法在精度上显著优于变分蒙特卡洛方法,同时可以用少一个数量级的计算步数达到相同或更优的精度。



4. 线性关系及外推方法

作者在考察神经网络的不同训练阶段所对应的能量时,在很多体系上均发现变分蒙特卡洛与扩散蒙特卡洛的计算结果具有经验性的线性关系(下左图)。使用该线性关系对双苯环的解离能计算进行外推,显著提升了计算精度,得到了吻合于化学实验的结果(下右图)。



结语与展望

本工作表明,基于神经网络的扩散蒙特卡洛方法在精度与效率上均优于变分蒙特卡洛方法。作者开源的扩散蒙特卡洛代码可以与量子化学领域不断推陈出新的神经网络 [4,5] 快速结合,实现对研究社区的赋能。此外扩散蒙特卡洛方法也可以与处理真实固体的周期性神经网络 [6]、带赝势的神经网络 [7] 等一系列方法结合,在相应任务上提升计算效果。

参考文献
[1] Han, J., Zhang, L., & Weinan, E. (2019). Solving many-electron Schrödinger equation using deep neural networks. Journal of Computational Physics, 399, 108929.
[2] Pfau, D., Spencer, J. S., Matthews, A. G., & Foulkes, W. M. C. (2020). Ab initio solution of the many-electron Schrödinger equation with deep neural networks. Physical Review Research, 2 (3), 033429.
[3] Hermann, J., Schätzle, Z., & Noé, F. (2020). Deep-neural-network solution of the electronic Schrödinger equation. Nature Chemistry, 12 (10), 891-897.
[4]  Gerard, L., Scherbela, M., Marquetand, P., & Grohs, P. (2022). Gold-standard solutions to the Schrödinger equation using deep learning: How much physics do we need?. In Advances in Neural Information Processing Systems.
[5] von Glehn, I., Spencer, J. S., & Pfau, D. (2023). A Self-Attention Ansatz for Ab-initio Quantum Chemistry. The Eleventh International Conference on Learning Representations.
[6] Li, X., Li, Z., & Chen, J. (2022). Ab initio calculation of real solids via neural network ansatz. Nature Communications, 13 (1), 7895.
[7] Li, X., Fan, C., Ren, W., & Chen, J. (2022). Fermionic neural network with effective core potential. Physical Review Research, 4 (1), 013021.

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
到Costco买披萨和螃蟹Nature子刊| 男性避孕的新希望:科学家发现了关键基因清华可穿戴智能喉登Nature子刊,实测准确率90%+,网友:@李雪健老师两篇Nature论文打架:云南大学最新Nature论文指出两年前Nature重磅研究有误全方位分析大模型参数高效微调,清华研究登Nature子刊大脑分层预测让大模型更卷!Meta最新研究登Nature子刊眨眼就能照相?哈佛从神经信号提取出图像,成果登Nature!平平无奇的病理组学套路,是什么让它发到Nature子刊?Nature子刊 | 不确定性驱动、用于主动学习的动力学用于自动采样“盟友”的陷阱和诡辩之欺骗性中科院量子信息与量子科技创新研究院在寻找粒子自旋与引力的耦合方面取得重要进展|量子科话脂肪也分好坏!Nature子刊:美国斯坦福大学最新研究揭示膳食脂肪酸延长寿命的机制钙钛矿太阳能电池研究新进展:提升使用寿命,或破解商业化难题|最前线Nature子刊:两种野生植物提取物可抑制SARS-CoV-2感染人体细胞Nature子刊:诺如病毒通过一种意想不到的机制入侵胃肠道细胞!抗美援越博士3年前被判定学术不端、失去工作,如今发Nature子刊证明自己是对的通用量子计算实用化又进一步,俞大鹏团队实现量子纠错领域重大进展,首次超越盈亏平衡点|Nature酸了!没有自己的原创也能登Nature子刊发14分SCI,原来还有这种操作(看到最后!)Nature子刊:五万多对夫妇的数据分析,找对象真的需要“门当户对”吗?少吃真能让你变年轻!Nature子刊新研究:七分饱,抗衰老!利用AI发现3种Senolytics化合物,James Collins团队新成果登Nature子刊,已落地公司推进抗衰老研究合成新进展|Nature子刊:娄春波/欧阳颀/钱珑团队合作提出精准可控的哺乳动物细胞基因表达系统不婚的小表妹量子计算第二里程碑!谷歌实现量子纠错突破,150多位作者成果登Nature陈玉国/徐峰团队在Nature子刊发表重磅综述:乙醛脱氢酶2与心血管疾病眨眼就能照相?哈佛从神经信号提取出图像,成果登Nature颠覆!为什么一天一包烟的“老烟枪”反而不患肺癌?Nature子刊给出答案!循证领航,再启新章——麝香保心丸MUST研究新进展发布会暨第四届匠医国药创新发展论坛圆满落幕博士3年前被判定学术不端、失去工作!如今发Nature子刊证明自己是对的!​一本绝不会进入黑名单的期刊,IF值17+的NATURE子刊,仅中科院发文量就超3000篇首款针对铜绿假单胞菌肺部感染「活药」登Nature子刊,或消除抗生素耐药性,成立公司已融资390万欧元Nature子刊丨揭示能反映AD病理改变的更优生物标志:CSF中tau T217和T205处的磷酸化占比女狙击手,雇佣军和气球类器官鼻祖Hans Clevers 团队Nature子刊最新研究:利用纤维板层癌突变的类器官揭示肝细胞转分化
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。