Redian新闻
>
地表最强AI大会上,我看到自己就能训练一个GPT的日子即将到来

地表最强AI大会上,我看到自己就能训练一个GPT的日子即将到来

其他

北京时间3月19日凌晨四点,英伟达GTC 2024主题演讲如期开幕:这不仅五年以来的第一场线下举办的GTC,也是 2024 年重要的一场 AI 峰会


2024GTC丨英伟达


当穿着黑色皮夹克的黄仁勋上台的那一刻,在场所有人都松了一口气:似乎英伟达又回到那个“领先对手的同时也一刻不停奔跑”的时代。


开场keynot丨英伟达


今年黄仁勋演讲的主题为“AI 的进步正在塑造人类的未来”,实际上,这场演讲的主题更像是在讲述“人如何与机器共同相处来改变生活”:在英伟达展示的未来中,包括比亚迪、日产、西门子在内的业内巨头都参与其中。


但黄仁勋还是在演讲中处处提醒观众:这不是幻想,而是即将到来的近未来:一个 AI 改变所有事物所有人的未来。


  “工业革命新引擎”Blackwel  


2018 年,同样是在GTC大会期间,黄仁勋讲出了著名的“黄氏定律” Huang's law:表示为了满足深度学习的计算需求, GPU 效能将会每两年提升一倍以上。


这一定律随着英伟达在生成式 AI 时代的无可撼动的行业地位,也随之广为流传:但实际上,GPU 硬件的性能往往只需要六个月就被翻了一倍 —— 但这更像是属于英伟达的独角戏,每次有资格站在擂台上挑战英伟达的,往往都只有英伟达自己,这也是黄教主敢在演讲中将英伟达与台积电相提并论,称英伟达实际上是一家“人工智能晶圆厂” 的底气所在。


Blackwell 平台架构推理卡:这一平台以“二十世纪最杰出数学家之一”的 David Blackwell 的名字命名。搭载了 2080 亿颗晶体管,同时也是英伟达首个采用多芯片封装技术的 GPU


Blackwell对比Hopper丨英伟达


这一技术能将两颗 GPU 高速串联起来,将其视为一颗 GPU 来分配处理计算任务,同时提供完整的缓存一致性,还具有192GB高带宽内存 (HBM3E),速度为 8 Gbps,每个芯片的带宽为 1.8TB/秒。


老黄还现场对比了 Blackwell 架构 GPU(左)和此前 Hopper 架构 GPU(右)的体积丨英伟达


但更大的体积还不足以完全展示出先进制程所带来的更强性能,更直观的例子是:OpenAI 最新的 GPT-4-1.8T 的参数规模,2000 台 Blackwell 只需要 90 天就可以完成训练。同样的工作量放在 Hopper GPU 上则需要 8000 张才能完成。无论是电力还是生成 token 成本都能被降低至原本的四分之一,能耗与训练效率更是提升了 25 倍。


黄仁勋有一句经典的口号“即使竞争对手的 GPU 是免费送的,也没有我们的更便宜”:这句话的语境,是指英伟达并非单独售卖 GPU,而是为客户提供了一整套的解决方案:例如在 Blackwell GPU 之上,还有用 72 块 Blackwell GPU 及 36 颗 Grace GPU 组合而成的超级计算机 DGX GB200。


算力需求增长丨英伟达


在 GB200 之上,英伟达还提供了通过 NVIDIA Quantum InfiniBand 网络技术,将数万台 GB200 并联成为真正的超级计算机的解决方案,这套系统能将数以十万计的 Blackwell GPU 串联成为一个整体,用于训练地球上最顶级的生成式 AI 大模型。


更形象一点,这就是能够孕育出下一代聪慧如人的生成式多模态对话 AI 的产房。


随着新品的发布,老黄也在演讲中回忆起了自己亲自送货上门的第一台 DGX —— 彼时这台具有划时代意义的训练设备被送给了 OpenAI,当时只有 0.17 Petaflops 的算力,而如 GB200 的算力,相比八年前的“初号机”已经提升了八千倍。


老黄送货上门丨英伟达


现在,除了 OpenAI 之外,包括亚马逊、Google、微软一集以及甲骨文也都是 GB200 的首批用户;此外随着模型参数体积越来越小,而用于训练的英伟达 GPU 性能越来越强,老黄还提醒大家:或许每个人都能训练出自己的 ChatGPT 的时刻,已经用不了多长时间了


AI从只能识别“猫咪”开始到今天丨英伟达


除了硬件,英伟达很早就意识到,想将自己的硬件卖的更好,优秀的软件不可或缺,颠覆时代的潜力往往也最早出现在软件之中,因此早在三十年之前,英伟达就在卖硬件的同时重金投资软件生态


英伟达显卡技术的进步推动了游戏产业的发展,也完全可以说枝繁叶茂的 CUDA Compute Unified Device Architecture,统一计算架构)开发生态,或许也让人类迈入 AI 时代的脚步提前了几年。


时至今日,软件已经是英伟达能够成为 AI 时代卖铲人最重要的实力之一,这次在生成式 AI 的软件平台上,英伟达还展示了用于企业用户开发展示工业数字孪生的工具 Omniverse Cloud,同时还宣布了对 Vision Pro 的支持


英伟达现场展示了一段宣传片,展示了英伟达预想中的场景:通过 Vision Pro,用户可以直接用 Vision Pro 体验到汽车的虚拟驾驶舱内容,进入其中沉浸式体验各种元宇宙内容。


英伟达同时还公布了此前预热过的、名为 NIM 的软件服务:它由预构建的 Kubernetes 容器、模型、API 和推理引擎(例如 Triton)组成,这可以被看作是英伟达硬件与软件结合而来的订阅内容,方便开发者将自己的模型打包放进去,提供给所有用户,其中面对不同硬件、不同配置设备的兼容性问题,就不用开发者自己担心了。


除了可以每颗 GPU 每年 4500 美元的订阅费用,NIM 服务还支持在本地的高性能笔记本电脑上运行开发者自己的模型,你甚至可以将已经上传至 NIM 的其他大模型下载到本地,在自己的设备上端侧运行。


   未来一切移动的东西都是机器人 


“我想我们迎来了一些特别的客人。”无论身高,走路形态都像蹒跚学步的小孩的小型机器人晃晃悠悠走到台前,操着一口人类听不懂的“机器人语言”,时不时打断黄讲话,十分讨喜。这些机器人由Jetson提供“动力”。


可爱的机器人丨英伟达


请出这些机器人之前,黄刚刚总结完,英伟达在人形机器人上的进展。英伟达推出人形机器人通用基础模型 Project GR00T


发布基于Thor SoC的新型计算机 Jetson Thor,该平台能够执行复杂的任务,并安全、自然地与人和机器进行交互。它采用模块化架构,在性能、功耗和尺寸方面进行了优化。


以及Isaac机器人平台的重大升级,Isaac Manipulator 是一系列专为机械臂设计的基础模型。Issac Perceptor 则旨在为机器人提供 "多摄像头、3D 环视功能”,此前世界上大多数机器人都是预先编程的,得益于此,未来机器人将有感知力,你只需要告诉它从A点走到B点,它自己就能找到一条通过的路。


“下一代机器人可能是人形机器人。”黄说。达成人形机器人可能更容易,原因是能为机器人提供更多符合人类习惯的“模拟训练数据”。基础模型通过不断观看,学习人类示例,模仿人类运动,再将其部署到物理机器人上。


机器人模仿人丨英伟达


演讲开场时,黄曾问,知不知道各行各业的我们,是怎么聚集到一起的?从梳理英伟达历程开始,到讲完人形机器人,“计算机图形学,物理,人工智能的交叉点,在这一刻发生了变化。”黄说。这既是黄的“使命必达”,也是英伟达仍在奔赴的未来。


与人形机器人亮相并谢幕丨英伟达


最后,黄用简单的五句话,总结了今天的开场演讲:一场新的“工业革命”到来;这场革命的“生产力”,Blackwell,英伟达对此全力以赴;新计算机创造了新类型的软件,应该以新的方式分发,既可以部署在云端,也可以成为你随身携带的“智能”;英伟达创造了大量 AI foundation,DGX云,软件工具,AI 技术,让开发者不必从头开始写软件;机器人系统需要数字孪生平台。


“今天的发布,对我来说,就是我心目中GPU的样子。”


作者:阿兰锕镧、沈知涵、翻翻

编辑:沈知涵


本文来自果壳,未经授权不得转载.

如有需要请联系[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
三个Agent顶个GPT-4,基于开源小模型的那种|中大阿里联合出品美股基本面 - 2024_01_19 * 晨报 * 贝莱德料美联储6月份开始降息 欧洲央行紧随其后遇到一个好教授有多重要?这些美国大学的教授堪称“地表最强”!放假通知:8天假期即将到来!最新通知来了!复活节长周末即将到来!各州和领地零售商店营业时间公布,华人赶紧囤货!一名24fall网友反馈:同一申请季递交4个G5+1个G6,0 offer全拒信,问题就出现在这里!GPT-4o发布,产品经理如何应对即将到来的“钢铁侠贾维斯助理”时代?负笈不敌温柔乡(1)另一场春季风暴即将到来!多伦多本周还有降雨和大风!从这位学员身上,我看到了中国学生稀缺的精神!PayPal:变革之年即将到来DIR (Floor Time)老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代英伟达地表最强,黄教主被称作AI界“霉霉”南加州最大的一次降雨即将到来!入籍新规、购药更划算、环保补贴上调... 即将到来的2月,德国将迎来这些变化!资质培训补贴、培训期间通勤补贴... 即将到来的4月,德国将迎来这些变化!谷歌2024新年目标曝光:一边做地表最强AI,一边裁更多员工最有前途的职业,人工越来越值钱的时代即将到来孩子即将升读IGCSE,家长应该扮演什么角色?目标牛剑G5,都有一个共同点...加国银行业的变革即将到来!2月房屋销售放缓 风暴前的平静!“我们坚持开源!”阿里云发布“地表最强”中文大模型:半年一迭代、性能翻倍?国税局提醒: 选报税人员要慎重|波音飞机发现新问题|地鼠预示春天即将到来写小说,还是回忆录?牛市最强劲阶段即将到来? 比特币200日均值逼近历史高点史上首个100%开源大模型重磅登场!破纪录公开代码/权重/数据集/训练全过程,AMD都能训父母生前使用医疗白卡!子女后来却被政府追债! 房产将被收走!纳税人注意:联邦所得税延期报税申请截止日期即将到来!!造船板块利润拐点即将到来从他身上,我看到了星巴克的秘密夏令时即将到来,明晚少睡一小时!未来三天,巴黎这些地铁、快铁停运!警惕房贷诈骗爆赚27亿,霉霉和她的“地表最强”经济学不明白播客:大选前夜体验台湾民主的细节财报解读丨Q1业绩稳健,高通的“高光之年”即将到来?景凯旋:在他们身上,我看到某种理想主义的东西春天来了?纽约结束连续11天阴冷,阳光灿烂的日子即将到来
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。