华为大模型登Nature正刊！审稿人：让人们重新审视预报模型的未来
允中 发自 凹非寺
量子位 | 公众号 QbitAI
比传统方法快1万倍、只需要1.4秒就能完成24小时全球气象预报——
它就是来自华为云的盘古气象大模型。
今天，它登上了Nature，据称还是近年来首篇以中国科技公司作为唯一署名单位发表的Nature正刊论文（也就是华为云独作）。
审稿人给予它高度评价，这一模型使人类得以重新审视气象预报模型的未来。
言外之意，就是有了它，原来的传统方法都不香了。
那么，它究竟是如何被开发出来的？解决了哪些关键难题？又有何具体成效和应用？
顺着这篇论文带你一文看尽。
破解现有AI气象预报模型精度不足问题
上世纪20年代以来，特别是近三十年随着算力的迅速发展，传统的数值天气预报在每日天气预报、极端灾害预警、气候变化预测等领域取得了巨大的成功。
但是随着算力增长的趋缓和物理模型的逐渐复杂化，这一方式的瓶颈日益突出。
于是研究者们开始挖掘新的气象预报范式如使用深度学习方法预测未来天气。
华为云研发团队于2年前开始这方面的研究。
他们发现，在数值方法应用最广泛的领域如中长期预报中，现有的AI预报方法精度仍然显著低于数值预报方法，并受到可解释性欠缺，极端天气预测不准等问题的制约。
而造成AI气象预报模型的精度不足主要有两个原因：
第一，现有的AI气象预报模型都是基于2D神经网络，无法很好地处理不均匀的3D气象数据；
第二，AI方法缺少数学物理机理约束，因此在迭代的过程中会不断积累迭代误差。
在此，华为云的研究人员提出了3D Earth-Specific Transformer（3DEST）来处理复杂的不均匀3D气象数据，从而打造了盘古气象大模型。
其主要思想是使用一个视觉transformer的3D变种来处理复杂的不均匀的气象要素，并且使用层次化时域聚合策略，训练了4个不同预报间隔的模型（分别为1小时间隔、3小时间隔、6小时间隔、24小时间隔），使得预测特定时间气象状况的迭代次数最小，从而减少迭代误差，也避免了由递归训练带来的训练资源消耗。
为了训练每个模型，研究人员使用1979-2021年的气象数据，以小时为单位采样，训练了100个epoch。
每个模型需要在192块V100显卡上训练16天。事实上，即使经历100个epoch，这些模型依旧没有完全收敛。
也就是说，在计算资源更加充足的情况下，AI预报的精度还能够进一步提升。
最终推理时，盘古气象大模型仅需在一张V100显卡上运行1.4秒，即可完成24小时全球气象预报，包括位势、湿度、风速、温度、海平面气压等，其中水平空间分辨率达到 0.25∘×0.25∘ ，时间分辨率为1小时，覆盖13层垂直高度，可以精准地预测细粒度气象特征。
而作为首个精度超过传统数值预报方法的AI方法，它的计算速度相比传统数值预报提升超过10000倍。
可直接应用于多个下游场景
今年5月，台风“玛娃”走向受到广泛关注。
中央气象局表示，华为云盘古大模型在“玛娃”的路径预报中表现优异，提前五天预报出其将在台湾岛东部海域转向路径。
在第19届世界气象大会上，欧洲气象局也指出，华为云盘古气象大模型在精度上有不可否认的能力，纯数据驱动的AI天气预报模型，展现出了可与欧洲中期天气预报中心业务数值模式媲美的预报实力。
欧洲中期天气预报中心主任弗洛伦斯·哈比耶详细地展示了华为云盘古气象大模型与欧洲中期天气预报中心的实时运行检验对比情况：
为了探索AI捕获极端天气的能力，我们研究了今年2月芬兰的一个案例，当时观测到了-29℃的寒潮，我们发现盘古较早认识到了这一事件的严重性。
弗洛伦斯·哈比耶还强调，AI预测方法资源消耗少，为发展中国家提供了重要机遇，因为它不再需要大规模的超算资源，还为提升全球预报能力提供了难得的机遇。
至于华为云选择AI气象预报领域作为一个“突破口”，一方面，气象预报尤其是对极端天气如暴雨、台风、干旱、寒潮的精准预测关乎国际民生，另一方面，气象预测问题非常复杂，AI可以从海量数据中挖掘出新的大气演变规律，在精度和速度上具有巨大的提升潜力。
据了解，世界气象组织（WMO）即将发布的WMO2024—2027年战略计划吸收了人工智能元素，使其成为推动气象科技发展的重要力量。
WMO还将积极推动AI在临近预报及数值天气预报等领域的示范应用，创建人工智能产品应用国际比对平台，制定AI气象应用标准和指南，推动人工智能数据集共享等相关工作，探索并发挥AI在气象领域的应用潜力，有效支撑全民早期预警倡议。
未来三大关键
最后，华为云盘古气象大模型团队如何看待AI气象预报的未来？
答案是三大关键：
首先，大数据。庞大的气象数据是AI模型的基石，当前盘古气象大模型仅使用部分ERA5再分析数据，未来的AI模型将基于海量的、更精细的全球观测数据。
其次，大算力。气象数据超高的分辨率对AI模型的训练造成了巨大的挑战，盘古气象大模型现在的输入分辨率为1440×720×14×5，相比计算视觉任务常用的分辨率224×224×3大约500倍，随着分辨率的进一步增加和模型的增大，需要的算力资源也会迅速增加。
最后，大模型。复杂的气象规律，超高的分辨率与庞大的数据量都决定了AI气象预报需要使用计算量极高的AI模型。
同时，想要不断迭代领先的AI气象预报模型，稳定的云上环境、工作套件和对应的运维也是必不可少的。
论文地址：
https://www.nature.com/articles/s41586-023-06185-3
— 完 —
「AIGC+垂直领域社群」
招募中！
欢迎关注AIGC的伙伴们加入AIGC+垂直领域社群，一起学习、探索、创新AIGC！
请备注您想加入的垂直领域「教育」或「电商零售」，加入AIGC人才社群请备注「人才」&「姓名-公司-职位」。
点这里👇关注我，记得标星哦～
微信扫码关注该文公众号作者