Redian新闻
>
有了超算和大模型,就能预测任何一场气象灾害了?

有了超算和大模型,就能预测任何一场气象灾害了?

科技
作者薛良Neil
邮箱[email protected]

难以捕捉的蝴蝶

世界范围内通行的对天气预报的方法被称为数值计算,采集足够多、足够丰富的气象数据后,把它们代入复杂方程,得到的结果就是所谓预测,重复这个过程,预测就连续了起来。
这些方程背后是一些坚固的理论,比如流体运动方程,热力学方程和不同介面,气、水、陆冰物质能量交换方程等等,它们代表的物理、化学规律是经过严密的计算和验证的。
但天气预报依然做不到绝对的准确。这种数值预测,是通过已经发生的气象要素的变化推测未来的趋势,它的准确程度严重受到观测数据精度的影响。
更何况,随着时间、空间尺度的变化,气象系统的复杂性将会剧烈增长,分析气象的成因时一方面会挂一漏万,另一方面数据的误差也会更多,这又反过来影响了预测的结果。
而当尺度大到一定程度时,气象会进入一种混沌状态。这不是比喻,气象系统是典型的混沌系统,混沌理论最早就是气象学家在1963年提出的。
混沌系统意味着系统非常小的扰动也可能造成巨大差别的后果——它的另一个名字叫蝴蝶效应,加利福尼亚的蝴蝶扇动翅膀,德克萨斯和墨西哥湾将掀起一场风暴。
这就要求对数值最开始的测算必须非常精确,然而我们都知道绝对的精确是不存在的,更何况面对如此复杂的气象运动,要采集的数据种类和数量实在太多。
人类对天气的预测就像努力学习蝴蝶的翅膀同风暴眼移动轨迹之间的关系那样,既壮丽,有时又有些绝望,甚至还带有一种玄奥的成分。
一面在精确度上构建越来越复杂的函数方程组,尽可能收集更多、间隔更短的数据,另一面则依赖一种近乎是“直觉”的经验。
时至今日,所有的天气预报结果依然由两部分决定——数值计算的结果,加上预报员的判断。天气预报依然高度依赖人的经验。
某种程度上,人类在用自己的感觉,对抗大自然的混沌。

超级计算机

因此气象预测呈现出一种诡异的特质——因为只要依靠人类的经验感觉,那么总会遇到失灵的时候,在一些极端气候中更是如此,因为有关极端气候的数据太过稀少,导致人对它无法形成连贯的经验。
但随着数值预测精度几十年来的提升,目前的天气预报在许多时候已可以达到相当准确的程度,中期可用性预报时效已经接近10天,而短期的预测——比如说冷空气什么时候到来,会降温多少度,人类已能判断的十分精准。这是因为尽管总体上全球的气候环境变化是混沌的,但在许多微观层面,比如气团的形成,气压的变化,云层运动的轨迹,正在被越来越多的函数和公式形象而准确的描述。
比如最近在京津冀肆虐的暴雨。
7月29日到8月1日,台风杜苏芮带着丰富的水汽北上,在华北遭到高压拦截,京津冀地区出现了历史罕见的极端暴雨。
极端体现在几个方面,首先是量大。河北邢台临城县降雨量超过1000毫米,也就是1米,等于这里原本两年降水量的综合。其次是时间长,从7月29日开始一直绵延了近四天,连北京都连续下了83小时的雨。河北、陕西、河南等地也连续两天出现大暴雨。最后是影响范围广,整个华北都被阴雨笼罩。
天气预报几乎完全准确地预告了这场极端降雨的到来。这背后是天气预报几十年来的巨大进步——数值计算已经从简单的方程组发展成世界上最复杂的算法之一,毕竟,对莫测的天气的捕捉,数据和算法都是越多越好,而为了处理这海量的数据和复杂的算法,超级计算机被引入。
许多人可能对气象数据的庞大没什么概念,在这里可以举一个数字:每一天,中国的气象数据增长高达40TB。我国建立的一整套立体的天气观测网络,有7万多个气象观测站覆盖全国99.6%的乡镇,这些数据传输的时间从过去的1小时近年来缩短为1分钟。
如此巨量的数据本身处理起来就已颇有难度,而把它们同数值计算的方程结合起来,则几乎是不可能完成的任务——复杂的偏微分方程和浮点计算都需要消耗大量的算力,特别是天气预报还要求极高的时效性,种种条件约束下,只有超级计算机能够满足需求。
所幸,中国在这方面走在世界前列。
超算一直是一张中国名片,比如全世界最快的500台超级计算机,中国就占了162台;再比如我过三次获得国际超算应用最高奖——戈登·贝尔奖,其中的两次获奖内容“大气动力框架”和“地震模拟”都和气象有关。
目前中国使用的超算名叫“派—曙光”,它峰值运算速度达到每秒8189.5万亿次,存储能力达到23088TB,这套完全国产的超算2018年开始服务后,我国高性能计算机系统总体规模已经跃居气象领域世界第三位。
这还不算完,随着数据量快速增长和硬件的磨损,超算的服役年限多在6到8年,因此在“派—曙光”之后,新的超算也在陆续上马,今年第一批新国家级高性能计算(HPC)子系统1已经安装建设完成,它的性能相比“派—曙光”进一步提升,达到13PFlops,储存能力也增长到了76PB。
更多的超算还在路上。
国产高性能计算机系统“派—曙光”概念图,图片来自国家气象信息中心。

“停滞”与新路

总的来说,成百上千颗CPU组成的超算构成了天气预报坚实的基础,但它仍有不能做到、或者很难做到的事情。
比如台风。我们对台风杜苏芮的预测,远没有达到对特大暴雨预测的精准程度。国际上主流的台风预测方式均采用了动力模型,它根据大气物理定律,包括流体动力学和热力学等来模拟大气运动,进而预测台风的变化。
动力模型有许多不准确之处,这让大家一开始对杜苏芮的路径预测五花八门,这个领域公认比较权威准确的欧洲中期天气预报中心一度认为杜苏芮会直冲珠三角。
事实上,台风预报一直是个世界性难题,因为台风在很短时间内可以发生剧烈的强度变化,而它的路径又由于处于非常大的时空尺度上,受多种因素影响而显得变幻莫测。
它是一个典型的混沌系统。
由此数值预测为主的天气预报成为了一种矛盾的综合体,这让它能提升的空间尽管巨大,但又十分受限——人们逼近准确性的方法除了积累经验,只有尽可能多地收集数据和构建越来越复杂的函数,但它的边际效益正在越来越强的显现,更多的数据并不能大幅度、全面地提升天气预报在宏观和微观尺度上的准确性,而通用计算的成本却在持续增长。
到此处,情况仿佛陷入了一个僵局。海量数据,复杂算法以及高算力需求,让数值计算某种程度上走向瓶颈,但这三个条件看上去是不是有点眼熟?
似乎有点像大模型的三个要素?
实际上,在品玩看到的某个气象技术内部研讨会资料上,有专家直接宣称:人工智能和气象工作在方法论上是相通的。
既然数值计算的公式实际上并不能穷尽整个混沌系统里的所有因果,为什么不用神经网络的方法,把海量的数据导入其中,让计算机自己来寻找和学习其中的规律?
这看上去像是一种不可言说,又异常玄妙合理的解释。
人类的第一台电子计算机ENIAC埃尼阿克和第一台根据冯·诺依曼结构打造的计算机EDSAC实际上都用来进行过气象学相关的科学计算,气象学的发展始终和计算机科学的进步紧密连接——高性能计算推动了气象科学的复杂问题的解决,而跳出通用计算的思路后,神经网络和大模型看上去是气象学和天气预报的一个非常有趣且合情合理的方向。
实际上,这次对杜苏芮台风轨迹的预测,中央气象台就参考了人工智能大模型的结果。

另辟蹊径

气象大模型并不是随着去年底生成式AI的火爆才出现的,一直以来利用强大算力、巨量数据和各种深度学习架构来预测天气的大模型就有很多,在国外比较有名的有英伟达FourCastNet,DeepMind和谷歌的GraphCast以及微软的ClimaX,国内最近出圈的则是华为盘古大模型和上海风乌大模型,后者来自上海人工智能实验室。
盘古和风乌都使用了欧洲气象中心名为ERA5的气象再分析数据集,它提供了过往60余年,覆盖地表37个等压面的各种气象数据共2000TB。
这些数据给大模型提供了发挥的空间——不再使用精准对应的数值计算,而是让AI更灵活地去挖掘数据之间的各种复杂关系。
盘古构建了一个3D transformer 结构,让海洋、大气和陆地的复杂交互物理过程融为一体,而过往的气候大模型,比如英伟达的FourCastNet则都采用的2D结构——每个等压面为一层,显然,2D平面没有办法更好反应气象变化的过程。
根据品玩看到的材料,华为在这个3D 结构中使用了绝对位置编码,由此明显加速了模型的收敛,此外,华为训练了四个基础模型分别对应1小时、3小时、6小时和24小时的预测,通过时域融合的方法显著减少了过往模型中由于小步长、多次迭代造成的误差。
对于预测老大难台风,盘古使用了平均海平面气压作为预测基准,其结果比欧洲气象局更好。
风乌大模型的思路则是用6个独立的编码器对不同的气象参数(湿度、风、温度等)进行编码解码,不同变量之间用独立的transformer网络进行学习。
同华为时域融合减少误差的方式不同,风乌设计了一个缓存空间用来储存和回放训练过程中的结果,以让神经网络适应其误差,从而实现了更好的预测效果。
这些新的气象大模型预测的效果,尽管目前的成果还很初步,公布的成绩也是在一些具体指标上好于传统数值预测方法,尚需全面的测试和优化,但毋庸置疑它们代表了一种迥然不同于传统气象预测的新范式。
目前,华为的盘古大模型已经在欧洲中期天气预报中心实现了初步业务运行,而风乌则宣称是目前最精准的全球高分辨率AI气象预报模型,提前24小时对杜苏芮预测的误差值为38.7公里,精确度优于欧洲中期气象预报中心的54.11公里。

漫漫前路

变革即将来临。气象大模型在许多方面都很有可能颠覆气象预报模式,比如说速度。风乌用一张GPU在1分钟内就能生成未来14天全球所有地区37个层级高精度高分辨率气象预报结果,而盘古的7天天气预报生成时间只需要9.8秒。
为数值计算所建立的实时天气数据传输系统和通用算力基础设施将会因此改变。根据品玩了解到的气象局内部人士观点认为,尽管短期内还仅仅作为一种预报参考,但中长期看,气象大模型潜力无疑十分巨大。
现在,这些气象大模型主要面对的问题或许有两个方面,首先是调优。极端气候等数据如何在大模型中被正确标注是一个问题,AI模型的拟合能力很强,因此在长期预报中有可能出现错误,这或许可以称之为气象大模型的“幻觉”。
另外,目前的大模型还没有更深的行业 know how 储备,模型的构建都由计算机科学家,而不是气象专家完成,也就是说这些垂直大模型还缺乏“人类反馈”调优。
另一个问题则是老生常谈的算力,虽然我国在超级计算机发展方面位居世界前列,但大模型所使用的并不是传统超级计算机的通用算力,深度网络的运行需要大规模的并行计算,也就是高性能GPU,在这方面我们仍处于卡脖子状态。
所幸气象大模型所直接涉及的算力成本并不高,根据品玩了解到的情况,几十张英伟达显卡(甚至不需要最先进型号)就可以在几周,至多2个月的时间内完成模型的训练。这也成为它相较于传统数值预测模式的一个优势。
在气象大模型加持下,“天有不测风云”这句话或许很快将成为一个伪命题,而有一天,或许我们真的可以同时预测那扇动的蝴蝶与狂暴的飓风究竟来自何处,又要去往何方。

一场聚集人工智能产业头部公司与顶级资本的对话

点击下方图片即可报名参加活动

品玩招聘作者,资深作者及编辑,并长期开放实习生招聘。

世界不平静,我们希望在变动的技术周期和商业周期里继续我们的探索,不熄灭眼里的光。

为了和更多个优秀的你一起记录和改变这个激动人心的时代,做更多有价值的报道,品玩现开放招聘。

岗位信息:全职:4人。实习生长期招聘。工作地点:北京。

一句话总结我们在招聘的岗位的工作内容,就是:

报道最重要的商业和技术新闻,并抽丝剥茧地解释给读者它们为什么重要。


一些共同的岗位要求:

1. 尊重常识。

2.对好内容有感知,有选题发明能力。

3.掌握快速搜索梳理信息的方法,有较强的文献阅读能力,能独立拓展相关资源。

4 英文流利。有阅读英文内容的习惯,可以用英文完成沟通。

5.对真实世界有感知,心智成熟,有职业精神,沟通界面良好稳定。


在招岗位:

-新经济作者、新技术作者

新经济作者负责报道互联网商业领域最新动态;新技术作者负责报道新技术领域(AI,芯片,机器人等)最新动态;

追踪钱的流动,人的变化,商业世界的竞争与合作以及科技的变革,并把它们讲述给我们的读者;

不限工作经验,不限专业背景,我们欢迎不同背景的候选人。


-资深作者/编辑

对互联网商业领域或新技术领域有自己的研究和积累;

有自己获取信息的方法体系,有持续学习的能力;

能发明选题,撰写深度文章,同时也可以辅导初级作者。


长期招募实习生

我们为实习生提供与全职同样的指导与工作支持,并提供留用机会。

或者,以上的描述都不能定义你,但你认为你是我们需要的那个人,也可以发邮件给我们,介绍你自己。

以上岗位应聘者,请将简历及作品发送至:[email protected] 。(请标明应聘岗位)


同时,我们也在招聘其他岗位:

运营部门

岗位信息:全职:3人。实习生长期招聘。工作地点:北京。


内容运营

能够敏锐的捕捉互联网热点,并将其转化为出色的内容;

富有创新意识和强烈的主观能动性,重视流量在工作中的重要性;

有自己独特的数据分析方法论,能发现庞杂数据中的关键点,并反哺内容创作。


视频运营

具备视频的全流程的创作能力;

对各个内容平台均有深刻理解,能抓住平台规则红利;

有自己独特的数据分析方法论,能发现庞杂数据中的关键点,并反哺内容创作。


社区运营

有过国内外成熟知名社区的运营经验;

能够独立承担运营策略、节奏设计,结合运营目标、节点资源等因素制定精细化的社区运营规划;

对UGC的热点、流行趋势、话语体系有充分理解,能够通过创意、热点玩法、活动策划激发UGC参与。

长期招募实习生

我们为实习生提供与全职同样的指导与工作支持,并提供留用机会。

运营岗位应聘者,请将简历及作品发送至:[email protected] 。(请标明应聘岗位)


商务部门

销售总监/高级销售经理

岗位职责:

1. 负责品玩线上广告、线下活动类、品牌营销、市场公关、以及定制方案的商务拓展与销售工作,通过对目标行业客户的销售完成指定收入目标;

2. 对目标行业客户进行研究、识别、接洽、需求、分析、产品演示、方案规划、谈判与签约;

3. 管理与维护指定客户(包括新客户与现有客户),提供优秀的售前与售后服务,建立长期、稳定的合作关系,对客户产品和需求进行持续性的研究与开发;

4. 与各部门保持紧密合作,回馈客户需求与最新行业动向,协助优化产品与服务;

5. 积极参加行业商务与社交活动,拓展人脉资源,持续了解与提升行业知识和洞察力

任职要求:

1. 互联网销售经验2年以上,销售经验5年以上优先;

2. 做事严谨、细心,较强的沟通协调能力;

3. 有市场营销、品牌方或者市场公关乙方工作经历优先;

4. 自我驱动,有很强的学习行业知识及专业知识的能力;

5. 具备应变能力,团队协作能力,能适应多任务处理及工作压力;

6. 拥有intel、华为、华为云、阿里、阿里云、高通等互联网行业直客资源者优先。

更多招聘信息,可以进入官网招聘页面获取。


期待品玩有你的加入。












· 文章版权归品玩所有,未经授权不得转载。
· 发送关键词 转载合作招聘 到品玩微信公众号,获得相应信息。
· 您亦可在微博、知乎、今日头条、百家号上关注我们。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
真的有精尽人亡吗?聊聊江湖传说水利部和中国气象局联合发布红色山洪灾害气象预警曝OpenAI大模型新进展!将推出多模态大模型,新项目Gobi筹备中1句指令+5美元+20分钟,就能训练出小型专业模型,Prompt2Model了解一下退休后搬其他州要做些什么?热搜爆了!浙江广电回应《中国好声音》争议;水利部和中国气象局联合发布橙色山洪灾害气象预警 ;多地市监部门加入医药反腐风暴丨早报百度云上交大模型成绩单:接入42个大模型,月活企业近万家|甲子光年日本一小哥打算和女友结婚,独自拜访岳父母!刚一进家门,就被吓到怀疑人生...极少数据就能微调大模型,一文详解LoRA等方法的运作原理目前只To B,腾讯云为什么优先发布行业大模型,而非大模型?DevOps 是否已死?AI 和大语言模型给云计算和 DevOps 带来了哪些影响?|InfoQ 趋势报告北京降雨趋弱,局地仍有暴雨,地质灾害气象风险红色预警发布→引入33个大模型,百度智能云千帆大模型平台的“破茧时刻”百度华为阿里等入选大模型“国家队”;盘古大模型3.0发布;阿里云推AI绘画大模型丨AIGC大事日报盛夏七月,ArchSummit 深圳会议圆满结束,聚焦 AI 和大模型,精彩丰呈华为率先把大模型接入手机!小艺+大模型,智慧助手智商+++华为云盘古大模型登Nature:秒级完成气象预测,速度快10000多倍特斯拉在德州总部布局超算Dojo;AMD收购AI软件公司Nod.ai;百度文心生物计算大模型登Nature子刊丨AIGC大事日报《老爸第一次出国记》-忆父亲载人月球探测任务新飞行器,等你来起名!中文版开源Llama 2同时有了语言、多模态大模型,完全可商用今年首个!水利部和中国气象局联合发布红色山洪灾害预警对话|三个月诞生79个基础大模型,中国到底需要什么大模型?凶手是男还是女?“闻闻”现场气味就能知道坚持做行业大模型,竹间智能给大模型造了一座「模型工厂」接入Llama 2等33个大模型,上线Prompt模板,百度智能云千帆大模型平台重磅升级两部门联合发布橙色山洪灾害气象预警中国团队自动驾驶大模型斩获CVPR最佳论文;Stability AI推出新文生图模型;京东大模型即将发布丨AIGC大事日报俄罗斯“月球”25任务详解及未来月球探测任务展望君士坦丁:首位基督徒皇帝和君斯坦丁堡的缔造者阵风17级以上、大暴雨、特大暴雨......刚刚,中央气象台连发气象灾害预警除了登上Nature的气象大模型,盘古的下一个爆点在哪里?曼哈顿的富二代别再用“N年一遇”来形容自然灾害了并行科技即将上线超万P超算架构大模型算力
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。