Redian新闻
>
英伟达全球首发超级AI芯片:比上一代快50%,训练大模型成本更低

英伟达全球首发超级AI芯片:比上一代快50%,训练大模型成本更低

公众号新闻


整理|核子可乐、冬梅
老黄总能押对宝。

黄仁勋向数千名开发者和图形专业人士发表讲话,宣布更新 GH200 Grace Hopper 超级芯片、英伟达 AI Workbench,并将把生成式 AI 引入英伟达 Omniverse。

随着生成式 AI 技术继续席卷整个数字化与超互连世界,英伟达创始人兼 CEO 黄仁勋决定以雷霆万钧的气势重回全球顶级计算机图形会议 SIGGRAPH。

1黄仁勋:生成式 AI 开启了人工智能的“iPhone 时刻”

本周二,黄仁勋在洛杉矶举行的一场特别演讲中对数千名观众表示,“生成式 AI 时代即将到来。如果大家愿意,也可以称之为人工智能的 iPhone 时刻。”

他带来的亮点包括下一代 GH200 Grace Hopper 超级芯片平台、英伟达 AI Workbench(新的统一工具包,可在英伟达 AI 平台上引入更精简的模型调整和部署方式),以及搭载生成式 AI 和 OpenUSD 的英伟达 Omniverse 重大升级。

这些公告,无疑是将过去十年来 AI、虚拟世界、加速、模拟和协作等领域的所有重量级创新整合在了一起。

黄仁勋表示,“图形和人工智能密不可分。图形需要 AI,AI 也需要图形。”他同时解释道,AI 将在虚拟世界中学习技能,AI 也将帮助人类创建虚拟世界。

在五年前的 SIGGRAPH 大会上,英伟达通过将 AI 与实时光线追踪引入 GPU 重塑了整个图形世界。黄仁勋指出,“当我们用 AI 重新发明计算机图形学时,也相当于是在为 AI 重新发明 GPU。”

结果就是:系统变得越来越强大。以英伟达 HGX H100 为例,它包含 8 个 GPU 和共计 1 万亿个晶体管。与基于 CPU 的系统相比,其速度表现得以显著提升。

黄仁勋向观众们强调,“正因为如此,全球数据中心才迅速转向加速计算。这才是真正的「买得越多、越省钱」。”

2全球首发 HBM3e 内存,带宽达每秒 5TB

为了延续 AI 的强劲发展势头,英伟达打造了 Grace Hopper 超级芯片 GH200。它将 72 核 Grace CPU 与 Hopper GPU 结合起来,已经于今年 5 月全面投入生产。

黄仁勋还宣布,已经投入生产的英伟达 GH200 还将迎来一个附加版本,其中搭载顶尖 HBM3e 内存。

他随后又宣布将推出下一代 GH200 Grace Hopper 超级芯片平台。该平台能够接入多个 GPU,从而实现卓越的性能和易于扩展的服务器设计。

新平台专为处理世界上最复杂的生成式工作负载而构建,具体涵盖大语言模型、推荐系统和向量数据库等,而且将提供多种配置选项。

相比前一代平台产品,双配置方案的内存容量增加了 3.5 倍、带宽增加 3 倍,由此构建起一台搭载 144 个 Arm Neoverse 核心、8 千万亿次 AI 性能及 282 GB 最新 HBM3e 内存容量的服务器。

HBM3e 是一种高带宽内存,带宽达每秒 5TB。该内存比当前的 HBM3 快 50%,可提供总共每秒 10TB 的组合带宽,使新平台能运行比前代大 3.5 倍的模型,同时通过快三倍的内存带宽提高性能。

预计各领先系统制造商将在 2024 年第二季度,向市场交付基于该平台的新一代计算系统。

英伟达创始人兼 CEO 黄仁勋发表主题演讲,SIGGRAPH 专业图形大会座无虚席。

数据中心的硬件正在快速向加速计算转变,这是黄仁勋一直在强调的一个趋势。相比 CPU,GPU 在能效上有很大的优势,黄仁勋演讲中举的例子是同样 1 亿美元成本,相比 x86 架构 CPU,GH200 将能提供超过 20 倍能效提升。

3英伟达 AI Workbench:加速定制生成式 AI 的普及

为了加快全球企业以定制化方式采用生成式 AI,黄仁勋还宣布推出英伟达 AI Workbench。它将为开发人员提供统一且易于使用的工具包,可在 PC 或工作站平台上快速创建、测试和微调生成式 AI 模型,而后将其扩展至几乎任何数据中心、公有云或英伟达 DGX Cloud。

AI Workbench 消除了企业 AI 项目的入门复杂性。通过在本地系统上运行的精简界面开放访问,开发人员可以使用自定义数据微调 Hugging Face、GitHub 和 NGC 等流行 repo 中的模型,之后在各平台上轻松实现模型共享。

虽然目前市面上已经有数十万种预训练模型可供使用,但基于开源工具的定制化微调往往仍然艰难且耗费时间。

黄仁勋指出,“为了推动这种能力的大众化普及,我们必须让模型几乎能够随时随地运行。”

在 AI Workbench 的帮助下,开发人员只需点击几下即可自定义并运行生成式 AI。这款工具能够将所有必要的企业级模型、框架、软件开发套件和库,都整合到统一的开发者工作区当中。

黄仁勋总结称,“每个人都可以参与 AI 开发。”

领先的 AI 基础设施提供商——包括戴尔科技、HPE、惠普、Lambda、联想和超微等也在积极拥抱 AI Workbench,希望借助它的力量将企业生成式 AI 功能带到开发者需要的任何地方,包括本地设备。

黄仁勋还宣布英伟达与拥有 200 万用户的初创公司 Hugging Face 建立合作伙伴关系,将帮助数百万开发者轻松构建起大语言模型及其他先进 AI 应用,在超级算力的加持下拥抱生成式 AI。

开发人员还可访问 Hugging Face 平台中的英伟达 DGX Cloud AI 超级计算系统,利用它训练并微调各种高级 AI 模型。

“这将是一项全新服务,努力将世界上最大的 AI 社区与世界上最好的训练和基础设施对接起来。”

为了进一步加快生成式 AI 的应用,英伟达又发布了最新版本的企业软件套件英伟达 AI Enterprise 4.0。

英伟达 AI Enterprise 将为企业提供访问生成式 AI 所需要的工具,同时为大规模企业部署提供安全性和 API 稳定性支持。

4Omniverse 迎来大更新:融合生成式 AI 与 OpenUSD 以推动工业数字化

黄仁勋还公布了英伟达 Omniverse 的大版本更新。这是一套 OpenUSD 原生开发平台,可用于跨工具构建、模拟与协作,为开发人员和产业公司提供新的基础应用程序及服务。OpenUSD 框架与生成式 AI 技术将帮助用户优化并增强其 3D 流程与虚拟环境。

他还提到了英伟达对 OpenUSD 的贡献,推动这套用于描述、模拟和跨 3D 工具协作的框架向前发展。

Omniverse 平台此番更新,涵盖 Omniverse Kit(用于开发原生 OpenUSD 应用程序和扩展的引擎)、英伟达 Omniverse Audio2Face 基础应用以及空间计算功能方面的改进。Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics 等客户现已通过 OpenUSB 接入到 Omniverse。

为了扩大在 Adobe Substance 3D、生成式 AI 和 OpenUSB 发展规划中的合作,Adobe 和英伟达宣布将 Adobe Firefly(Adobe 打造的创意生成式 AI 模型家族)以 API 的形式在 Omniverse 中开放。

Omniverse 用户现在可以与其他 OpenUSD 空间计算平台(例如 ARKit 和 RealityKit)相兼容的内容、体验及应用程序。

黄仁勋宣布为开发人员和企业提供广泛的框架、资源和服务,借此加速通用场景描述(即 OpenUSD)的普及度,为地理空间数据模型、指标组合与仿真就绪(简称 SimReady)和 OpenUSD 规范等作出贡献。

黄仁勋还公布了英伟达构建的四种新 Omniverse Cloud API,可供开发人员更加无缝地实施并部署 OpenUSD 管线与应用程序。

  • from text and answering USD knowledge questions.

  • ChatUSD——ChatUSD 是一个大语言模型(LLM)智能体,可帮助开发人员和艺术家处理 OpenUSD 数据及场景,根据文本提示生成 Python-USD 代码脚本并回答关于 USD 的问题。

  • RunUSD——一个云 API,通过检查上传文件与 OpenUSD 版本间的兼容性,并配合使用 Omniverse Cloud 生成渲染,从而将 OpenUSD 文件转换为全路径跟踪的渲染图像。

  • DeepSearch——一个 LLM 智能体,可以在未标记资产的海量数据库内进行快速语义搜索。

  • USD-GDN Publisher——一项一键式服务,可帮助企业和软件开发商从 USD Composer 等基于 Omniverse 的应用程序处,向 Omniverse Cloud 图形交付网络(GDN)发布高保真、基于 OpenUSD 的体验,并将结果实时传输至网络浏览器及移动设备。

这些贡献,也标志着英伟达上周宣布与皮克斯、Adobe、苹果和 Autodesk 共同创立的 OpenUSD 联盟正迎来技术演变新成果。

5强大的新型桌面系统与服务器

黄仁勋表示,英伟及全球各工作站设备制造商正着手推出功能更强大的新型 RTX 工作站,以便为各类需求提供更丰富的算力,用以支持生成式 AI 和数字化时代下的更多开发与内容创作需求。

这些系统(包括来自 BOXX、戴尔科技、惠普和联想的系统)基于英伟达 RTX 6000 Ada Generation GPU,并采用英伟达 AI Enterprise 和英伟达 Omniverse Enterprise 等软件。

另外,英伟达还发布了三款全新的桌面工作站 Ada Generation GPU,分别为英伟达 RTX 5000、RTX 4500 和 RTX 4000,旨在为全球专业人士提供最新的 AI、图形与实时渲染技术。

黄仁勋详细介绍了英伟达如何与全球数据中心系统制造商合作,继续通过搭载有全新英伟达 L40S GPU(一种强大的通用数据中心处理器设计)的英伟达 OVX 来增强生成式 AI 与工业数字化实践。

强大的新系统将通过英伟达 Omniverse 平台为最密集、最复杂的应用程序提供加速计算,具体包括 AI 训练与推理、3D 设计和可视化、视频处理及工业数字化等。

6英伟达研究院带来更多新功能

在英伟达研究院的不懈努力下,更多创新成果也即将揭开面纱。

在本次大秀的现场体验环节中,英伟达研究人员将展示生成式 AI 的工作流程,帮助艺术家们快速创建和迭代 3D 场景材质,使用文本或图像提示词快速生成自定义纹理材质,并进行更精细的创意控制。

英伟达研究院还演示了 AI 如何通过新的 3D 功能,将视频会议体验提升到新的水平。该研究院最近发表一篇论文,探讨了 AI 如何通过最少的捕捉设备为 3D 视频会议系统提供支持。

Maxine 的量产版本现已在英伟达 Enterprise 中开放,允许专业人士、团队、创作者等用户利用 AI 的力量获取高质量音 / 视频效果,甚至借助标准麦克风和网络摄像头即可实现。

参考链接

https://blogs.nvidia.com/blog/2023/08/08/siggraph-2023-special-address/

 活动推荐

以「启航·AIGC 软件工程变革」为主题的 QCon 全球软件开发大会·北京站将于 9 月 3-5 日在北京•富力万丽酒店举办,此次大会策划了从 BI 到 BI+AI,新计算范式下的大数据平台、AIGC 浪潮下的研发效能提升、面向 AI 的存储、大前端融合提效、大模型应用落地、LLMOps、异构算力、微服务架构治理、业务安全技术、构建未来软件的编程语言、FinOps 等近 30 个精彩专题。

现在购票即可享受 9 折优惠,立减 ¥880。咨询购票可联系票务经理 18514549229(微信同手机号)。

点击「阅读原文」即可查看全部专题,期待与各位开发者现场交流。  

今日荐文

会议内容被拿去训练大模型!Zoom:我的AI功能可不“白给”


Python 团队官宣下线 GIL


英伟达、云厂商们也没有H100余粮了!未来全球顶级芯片缺口达40多万张


大模型的竞争格局与产品经理的未来机遇


英伟达挖走小鹏自动驾驶负责人;爱奇艺被曝VR业务停摆、全员欠薪;室温超导新进展:韩国学会称LK-99并非超导体 | AI一周资讯


GitHub工程师分享开发Copilot所采用的提示词工程



你也「在看」吗? 👇

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
成功在于远见?英伟达CEO称英伟达5年前把一切都押在了AI上谷歌火力全开!新一代芯片TPU v5e炸场,大模型训练飙升5倍,成本砍半只给大模型LeetCode编号,也能解题!大模型表现好是源于对训练数据的记忆吗?请不要迷信大模型训练大模型缺少高质量数据?我们找到了一种新的解决方案华为提出Sorted LLaMA:SoFT代替SFT,训练多合一大语言模型650亿参数,训练飙升38%!LLaMA基础大模型复刻最佳实践开源,GitHub已获30k星最新综述!预训练大模型用于医疗健康领域的全面调研Mac mini跌破2900;比亚迪500万辆新能源车下线,全球首家;传BAT向英伟达下50亿美元大单 | 极客早知道英伟达推出大模型加速包;Meta将训练对标GPT-4的大模型;ChatGPT等成费水大户丨AIGC大事日报五十二 保旗棉训练大模型之前,你要了解下向量数据库、算力集群、高性能网络技术底座吗?苹果将在iPhone芯片上省数十亿美元/英伟达推出AI超级芯片/万达回应副总裁被带走调查英特尔发布中国定制版大模型专用芯片Gaudi2,用性价比挑战英伟达|甲子光年思考一下,联邦学习可以训练大语言模型吗?荷顿区全面更新垃圾桶!推出自动化垃圾收集,更安全成本更低!谷歌:大模型不仅有涌现能力,训练时间长了还有「领悟」能力年度最绝融资:拿英伟达H100抵押贷款165亿,买更多英伟达GPU扩建10个数据中心去法国滑雪场的雪屋吃法餐中文LLaMA-2刷榜,开源可商用!千元预算,训练半天,效果媲美主流大模型苏妈战老黄!官宣AMD大模型专用卡,对标英伟达H100,可跑更大模型阿里等大厂豪掷50亿美元买英伟达芯片;寒武纪被爆裁员,硬件部分只保留少数员工;小米曝光64亿参数AI大模型|AI一周资讯百川智能发布Baichuan2大模型:全面领先Llama2,训练切片也开源了百度云上交大模型成绩单:接入42个大模型,月活企业近万家|甲子光年英伟达发布新一代超级芯片平台/苹果能在芯片上省数十亿美元/华为系统云翻新功能上线GPT-4被破解,训练成本,模型架构的秘密都被挖出来了?五十一 治沙全球首用HBM3e,英伟达最强芯片升级第一章 个体的行为法则(2)开源大模型FLM-101B:训练成本最低的超100B参数大模型英伟达H100霸榜权威AI性能测试,11分钟搞定基于GPT-3的大模型训练吴新宙「跳槽」背后,是英伟达全栈智能汽车方案的「野心」打破英伟达芯片短缺制约,OpenAI决定自研AI芯片:正物色收购目标小鹏巨震!自动驾驶「灵魂人物」吴新宙离职,或出任英伟达全球副总万达高级副总裁涉贪腐被带走调查;英伟达推出新一代超级芯片平台;碧桂园否认存在逾期未交付情况丨邦早报去COSTCO 逛花市,需要很强的自制力
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。