Redian新闻
>
一个顶五个H100的B200,老黄这是打破摩尔定律了?

一个顶五个H100的B200,老黄这是打破摩尔定律了?

公众号新闻


那个爱穿皮衣的黄姓男人又带着他的 “ 家伙事 ” 来炸场了。

就在今天凌晨,英伟达 GTC 大会正式拉开帷幕,英伟达创始人兼 CEO 黄仁勋现场两个小时的演讲,让能容纳两万人的 SAP 体育中心直接被塞爆了。

有网友把黄仁勋比作是新的乔布斯,还问 NVIDIA 会不会成为新的苹果。

就连马斯克也称赞 “ 现在没什么硬件能比英伟达的更适合 AI 。 ” 

反正这次大会,老黄和英伟达是又被捧到了新高度。

那这次开发者大会,到底都讲了些啥?

大会演讲全程两个小时,没有耐心看完演讲的友友们,直接看世超的总结就行。

之前,有网友调侃过老黄是科技圈的泰勒 · 斯威夫特。所以这次一开场,老黄就先水了一波观众:注意注意,这不是演唱会,这是开发者大会。

接着又甩出一张图,跟大家伙儿唠了半小时计算机和英伟达的发展史,还 cue 到了当年把第一台 DGX-1 超级计算机送给 OpenAI 的事儿。

不过这些,都只是些餐前小甜点,真正的大菜在后面呢。

因为这次演讲的主题叫做《 见证 AI 的变革时刻 》,估计大伙儿也能猜出个七七八八,大会内容基本跟 AI 脱不了关系。

首先就是,全新的GPU 架构 Blackwell ,和新芯片 B200 。

大会现场,黄仁勋先是掏出了一块 H100 ,还夸它 “changed the world” 。

但下一秒 Blackwell 架构的 B200 出现以后,大伙儿的注意力就被老黄口中这个 “ 英伟达史上最成功的产品 ” 给吸引住了。

肉眼上看, B200 和 H100 最大的区别就是,前者要更大。

根据介绍, B200 由两个 Die( 裸片 )封装组合而成的,包含了 2080 亿个晶体管( H100 是 800 亿个 ),可以支持参数量多达 10 万亿的 AI 模型搞训练推理。

并且, B200 的算力性能是 20PFlops ,而上一代 H100 只有 4PFlops 。

实际,在芯片制程上 B200 其实是没什么创新的,毕竟 4nm 工艺已经是目前这颗星球上的芯片极限了,所以 B200 另辟蹊径,两个芯片之间的数据传输速度足够快。

这样,两块芯片就来了一波超级合体,约等于是一块芯片,但威力却加倍了。

大会上老黄还装了个 X :他说当他们被告知 Blackwell 的野心超出了物理极限时,英伟达的工程师回了一句: 那又怎样?

另外,芯片还能继续像搭积木一样合体,把两块 B200 组合到一起,再跟英伟达的 Grace CPU 配对之后,又能整出一个超级芯片 GB200 

这个 GB200 ,直接把计算性能拉满了。

按照老黄的说法,在 1750 亿组参数的 GPT-3 模型基准测试中, GB200 的性能是 H100 的 7 倍,以前要 90 天内训练一个 1.8 万亿参数的 MoE 架构 GPT 模型,需要 8000 个 H100 ,但现在,有 2000 个 GB200 就够了。

老黄在这,也算是非官方的透露了一下 GPT-4 的参数量, 1.8 万亿参数的 MoE ,和之前网友猜测的其实也大差不差。

而更夸张的是,还有把 36 个 GB200 放一起的 GB200 NVL72 服务器,还有结合了 8 个 GB200 NVL72 的 DGX SuperPOD ,这些由 Blackwell GPU 垒起来的计算平台,一个比一个炸裂。

甚至于,老黄也直接说 “ DGX SuperPOD 就是 AI 的革命工厂! ” 

之前科技公司不是老嚷嚷着搞大模型算力不够不够,这次老黄直接就整了个算力怪兽出来。。。

世超只想说,友商连 H100 还没赶上呢,这 B200 怎么又遥遥领先了?

而且,操心底层算力还不算完,英伟达这次连 AI 应用的落地也要掺和一脚。

就说这个英伟达要推出的 NIM 推理服务吧,它可以提供预训练好的 AI 模型并开放 API ,再让客户自己来开发应用。

举个例子,英伟达这次推了 25 个医疗场景的微服务,这些微服务包括了一系列模型,比如预测蛋白质结构的 ESMFold 、生成化学的 MolMIM 等等等等,医疗公司就可以基于这些微服务,开发相关的应用出来。

按照老黄的说法,现在的英伟达就是一个 AI 代工厂,里面有模型、有模型开发工具,还有一系列基础设施。

这就相当于扩展了自己的 AI 生态链条,英伟达一下子路就走宽了。

另外,这次大会还有个重头戏,那就是人形机器人基础模型 GROOT

简单来理解,用 GROOT 驱动的人形机器人可以理解自然语言、模仿人类的行为,从而实现跟物理世界的交互,也就是咱们经常提到的具身智能

为了配合人形机器人,英伟达还专门发布了个人形机器人芯片 Jetson Thor 。这又是 GROOT 又是 Thor ,难不成老黄是要致敬漫威?

总的来说,这次英伟达的开发者大会干货还是挺多的。

反正新架构出来之后,英伟达车载计算平台 “ NVIDIA DRIVE Thor ” 要升级的消息一传开,比亚迪以后也要把 NVIDIA DRIVE Thor 芯片用在自家车上了,还要用英伟达的基础设施来开发自动驾驶大模型。

英伟达的 Omniverse 平台也跟苹果来了波联动,让设计师可以戴着 Vision Pro 来设计汽车;台积电和新思科也要引入英伟达的光刻计算平台 cuLitho ,给芯片制造提一波速。

还有什么 AI 游戏数字人技术,地球气候数字孪生,英伟达这次掏出来的东西基本上就没有水货。

AI 军火商果然名不虚传,反正从世超的观察来看,今年以来英伟达的股价已经涨了超过 80% ,财报也是一片欣欣向荣。

但即便如此,不少人还是觉得英伟达的帝国背后,危机重重,有人觉得英伟达的生意太依赖谷歌、微软这些巨头了,不太具有持续性。

也有人把英伟达比作是我们这个时代的思科,因为在上个世纪末,一堆人觉得思科的交换机和路由器,就是互联网时代的黄金,只要互联网在,思科的股价永远涨,可最后,思科的股价在互联网泡沫的破裂中,蒸发大半。

但不论如何,如今的英伟达依旧是 AI 芯片领域的最强话事人。

正如英伟达官网上说的那样,是他们发明了 GPU 。而也是他们让 GPU 从专用的图形处理设备,变成了通用计算平台,从而推动了如今 AI 的发展。

所以在世超的眼里,英伟达不单单只是 AI “ 战争 ” 中的军火商,因为如今 AI 这个火热的场子,一定程度上都是英伟达搭起来的。

而在新一代的 “ 军火 ” 亮相之后,世超已经来不及想看下一阶段的 AI 大战,有多激烈和壮观了。


撰文:西西 编辑:江江 & 面线 封面:萱萱


图片、资料来源

X、NVIDIA

硅星GenAI,英伟达在新架构Blackwell上动了哪些手脚?

澎湃新闻,GTC大会“后劲”有多大?多家中国公司宣布达成合作

部分图源网络



微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
USCIS发布2024H1B数据!一文看懂2024H1B的一切日本世博会新吉祥物又翻车!阴间浓度更上一层,网友:这是打算搞百鬼夜行?两个H1B Final Rules最全解读|一人一抽落地,申请费真的涨了!卖一件顶五件毛利!这个“老网红”有县城一年卖2亿件免中介费和一个月房租|Trac75|接受本科生 | 近BU豪华公寓折后2b2b 3616 3b2b 3735.一个月30万片H100,英伟达欲找英特尔造芯?只因CoWos产能太低8年后再次见证历史!世界首台DGX H200,老黄亲自交付给奥特曼今年H1B中签率会如何变化?FY2025 H1B抽签全梳理流放16:东窗事发被扣押错过考研,高利贷款未收回要别墅,带朱珠和多多迁居摩尔定律终于要失效了?首席分析师揭秘爆火Groq,每小时要烧168美元!10倍H100拥有成本,老黄笑而不语四问摩尔定律老黄炸场!深夜发布全球最强芯片B200!推理速度提升30倍英伟达卷疯了!最强芯片炸裂AI界,老黄还拿出机器人大模型这才是真的“遥遥领先”!地球另一边,老黄半夜捅破天!王友琴:手头有两张纸,与北京宽街小学文革中四个人被打死有关松露虾仁意大利面--筋道滑爽,松露香浓郁,简单易做,味道好极了每10个H1B持有人中9个都是STEM相关,那商科留学生怎么办?浅聊一下最接近英伟达B200的AI芯片民族列根性:虚荣摩尔定律,死了吗?一键换装神器爆火,老黄换上抱抱脸T恤,CEO本人:我被替代了,和他争CEO职位争不过深夜炸场!英伟达发布全球最强 AI 芯片,性能暴涨 30 倍,老黄才是这个时代的乔布斯颠覆性GTC,老黄再扔炸弹 |【经纬低调出品】成立2年产出280篇论文,一个顶尖数学家兼亿万富翁和他打造的新型“科学帝国”|纪念吉姆·西蒙斯(1938-2024)英伟达B200打破摩尔定律!老黄顺便公开GPT-4的秘密被全国单身男女捧上神坛,这个顶流网红怎么还塌房了?英伟达下一代GPU披露:集成八个HBM 4老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代【楚雁低回 】通韵和照兄 【雨后残园】完美女婿清华学霸杀了妻,这是打了谁的脸?顺丰开始做「本地生活」!这是打算和美团抢生意吗?【免中介费和一个月房租】Allston紫线高级公寓 1b1b$2525+ 2b2b$4495+ 3b2b$5075 随时入住基金委新发两项项目指南;Meta手握60万个H100当量的AI芯片 | 学界速递突破摩尔定律极限!前谷歌量子计算团队首创「热力学计算机」,英伟达GPU「退役」?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。