英伟达全球首发超级AI芯片:比上一代快50%,训练大模型成本更低
黄仁勋向数千名开发者和图形专业人士发表讲话,宣布更新 GH200 Grace Hopper 超级芯片、英伟达 AI Workbench,并将把生成式 AI 引入英伟达 Omniverse。
随着生成式 AI 技术继续席卷整个数字化与超互连世界,英伟达创始人兼 CEO 黄仁勋决定以雷霆万钧的气势重回全球顶级计算机图形会议 SIGGRAPH。
本周二,黄仁勋在洛杉矶举行的一场特别演讲中对数千名观众表示,“生成式 AI 时代即将到来。如果大家愿意,也可以称之为人工智能的 iPhone 时刻。”
他带来的亮点包括下一代 GH200 Grace Hopper 超级芯片平台、英伟达 AI Workbench(新的统一工具包,可在英伟达 AI 平台上引入更精简的模型调整和部署方式),以及搭载生成式 AI 和 OpenUSD 的英伟达 Omniverse 重大升级。
这些公告,无疑是将过去十年来 AI、虚拟世界、加速、模拟和协作等领域的所有重量级创新整合在了一起。
黄仁勋表示,“图形和人工智能密不可分。图形需要 AI,AI 也需要图形。”他同时解释道,AI 将在虚拟世界中学习技能,AI 也将帮助人类创建虚拟世界。
在五年前的 SIGGRAPH 大会上,英伟达通过将 AI 与实时光线追踪引入 GPU 重塑了整个图形世界。黄仁勋指出,“当我们用 AI 重新发明计算机图形学时,也相当于是在为 AI 重新发明 GPU。”
结果就是:系统变得越来越强大。以英伟达 HGX H100 为例,它包含 8 个 GPU 和共计 1 万亿个晶体管。与基于 CPU 的系统相比,其速度表现得以显著提升。
黄仁勋向观众们强调,“正因为如此,全球数据中心才迅速转向加速计算。这才是真正的「买得越多、越省钱」。”
为了延续 AI 的强劲发展势头,英伟达打造了 Grace Hopper 超级芯片 GH200。它将 72 核 Grace CPU 与 Hopper GPU 结合起来,已经于今年 5 月全面投入生产。
黄仁勋还宣布,已经投入生产的英伟达 GH200 还将迎来一个附加版本,其中搭载顶尖 HBM3e 内存。
他随后又宣布将推出下一代 GH200 Grace Hopper 超级芯片平台。该平台能够接入多个 GPU,从而实现卓越的性能和易于扩展的服务器设计。
新平台专为处理世界上最复杂的生成式工作负载而构建,具体涵盖大语言模型、推荐系统和向量数据库等,而且将提供多种配置选项。
相比前一代平台产品,双配置方案的内存容量增加了 3.5 倍、带宽增加 3 倍,由此构建起一台搭载 144 个 Arm Neoverse 核心、8 千万亿次 AI 性能及 282 GB 最新 HBM3e 内存容量的服务器。
HBM3e 是一种高带宽内存,带宽达每秒 5TB。该内存比当前的 HBM3 快 50%,可提供总共每秒 10TB 的组合带宽,使新平台能运行比前代大 3.5 倍的模型,同时通过快三倍的内存带宽提高性能。
预计各领先系统制造商将在 2024 年第二季度,向市场交付基于该平台的新一代计算系统。
英伟达创始人兼 CEO 黄仁勋发表主题演讲,SIGGRAPH 专业图形大会座无虚席。
数据中心的硬件正在快速向加速计算转变,这是黄仁勋一直在强调的一个趋势。相比 CPU,GPU 在能效上有很大的优势,黄仁勋演讲中举的例子是同样 1 亿美元成本,相比 x86 架构 CPU,GH200 将能提供超过 20 倍能效提升。
为了加快全球企业以定制化方式采用生成式 AI,黄仁勋还宣布推出英伟达 AI Workbench。它将为开发人员提供统一且易于使用的工具包,可在 PC 或工作站平台上快速创建、测试和微调生成式 AI 模型,而后将其扩展至几乎任何数据中心、公有云或英伟达 DGX Cloud。
AI Workbench 消除了企业 AI 项目的入门复杂性。通过在本地系统上运行的精简界面开放访问,开发人员可以使用自定义数据微调 Hugging Face、GitHub 和 NGC 等流行 repo 中的模型,之后在各平台上轻松实现模型共享。
虽然目前市面上已经有数十万种预训练模型可供使用,但基于开源工具的定制化微调往往仍然艰难且耗费时间。
黄仁勋指出,“为了推动这种能力的大众化普及,我们必须让模型几乎能够随时随地运行。”
在 AI Workbench 的帮助下,开发人员只需点击几下即可自定义并运行生成式 AI。这款工具能够将所有必要的企业级模型、框架、软件开发套件和库,都整合到统一的开发者工作区当中。
黄仁勋总结称,“每个人都可以参与 AI 开发。”
领先的 AI 基础设施提供商——包括戴尔科技、HPE、惠普、Lambda、联想和超微等也在积极拥抱 AI Workbench,希望借助它的力量将企业生成式 AI 功能带到开发者需要的任何地方,包括本地设备。
黄仁勋还宣布英伟达与拥有 200 万用户的初创公司 Hugging Face 建立合作伙伴关系,将帮助数百万开发者轻松构建起大语言模型及其他先进 AI 应用,在超级算力的加持下拥抱生成式 AI。
开发人员还可访问 Hugging Face 平台中的英伟达 DGX Cloud AI 超级计算系统,利用它训练并微调各种高级 AI 模型。
“这将是一项全新服务,努力将世界上最大的 AI 社区与世界上最好的训练和基础设施对接起来。”
为了进一步加快生成式 AI 的应用,英伟达又发布了最新版本的企业软件套件英伟达 AI Enterprise 4.0。
英伟达 AI Enterprise 将为企业提供访问生成式 AI 所需要的工具,同时为大规模企业部署提供安全性和 API 稳定性支持。
黄仁勋还公布了英伟达 Omniverse 的大版本更新。这是一套 OpenUSD 原生开发平台,可用于跨工具构建、模拟与协作,为开发人员和产业公司提供新的基础应用程序及服务。OpenUSD 框架与生成式 AI 技术将帮助用户优化并增强其 3D 流程与虚拟环境。
他还提到了英伟达对 OpenUSD 的贡献,推动这套用于描述、模拟和跨 3D 工具协作的框架向前发展。
Omniverse 平台此番更新,涵盖 Omniverse Kit(用于开发原生 OpenUSD 应用程序和扩展的引擎)、英伟达 Omniverse Audio2Face 基础应用以及空间计算功能方面的改进。Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics 等客户现已通过 OpenUSB 接入到 Omniverse。
为了扩大在 Adobe Substance 3D、生成式 AI 和 OpenUSB 发展规划中的合作,Adobe 和英伟达宣布将 Adobe Firefly(Adobe 打造的创意生成式 AI 模型家族)以 API 的形式在 Omniverse 中开放。
Omniverse 用户现在可以与其他 OpenUSD 空间计算平台(例如 ARKit 和 RealityKit)相兼容的内容、体验及应用程序。
黄仁勋宣布为开发人员和企业提供广泛的框架、资源和服务,借此加速通用场景描述(即 OpenUSD)的普及度,为地理空间数据模型、指标组合与仿真就绪(简称 SimReady)和 OpenUSD 规范等作出贡献。
黄仁勋还公布了英伟达构建的四种新 Omniverse Cloud API,可供开发人员更加无缝地实施并部署 OpenUSD 管线与应用程序。
from text and answering USD knowledge questions.
ChatUSD——ChatUSD 是一个大语言模型(LLM)智能体,可帮助开发人员和艺术家处理 OpenUSD 数据及场景,根据文本提示生成 Python-USD 代码脚本并回答关于 USD 的问题。
RunUSD——一个云 API,通过检查上传文件与 OpenUSD 版本间的兼容性,并配合使用 Omniverse Cloud 生成渲染,从而将 OpenUSD 文件转换为全路径跟踪的渲染图像。
DeepSearch——一个 LLM 智能体,可以在未标记资产的海量数据库内进行快速语义搜索。
USD-GDN Publisher——一项一键式服务,可帮助企业和软件开发商从 USD Composer 等基于 Omniverse 的应用程序处,向 Omniverse Cloud 图形交付网络(GDN)发布高保真、基于 OpenUSD 的体验,并将结果实时传输至网络浏览器及移动设备。
这些贡献,也标志着英伟达上周宣布与皮克斯、Adobe、苹果和 Autodesk 共同创立的 OpenUSD 联盟正迎来技术演变新成果。
黄仁勋表示,英伟及全球各工作站设备制造商正着手推出功能更强大的新型 RTX 工作站,以便为各类需求提供更丰富的算力,用以支持生成式 AI 和数字化时代下的更多开发与内容创作需求。
这些系统(包括来自 BOXX、戴尔科技、惠普和联想的系统)基于英伟达 RTX 6000 Ada Generation GPU,并采用英伟达 AI Enterprise 和英伟达 Omniverse Enterprise 等软件。
另外,英伟达还发布了三款全新的桌面工作站 Ada Generation GPU,分别为英伟达 RTX 5000、RTX 4500 和 RTX 4000,旨在为全球专业人士提供最新的 AI、图形与实时渲染技术。
黄仁勋详细介绍了英伟达如何与全球数据中心系统制造商合作,继续通过搭载有全新英伟达 L40S GPU(一种强大的通用数据中心处理器设计)的英伟达 OVX 来增强生成式 AI 与工业数字化实践。
强大的新系统将通过英伟达 Omniverse 平台为最密集、最复杂的应用程序提供加速计算,具体包括 AI 训练与推理、3D 设计和可视化、视频处理及工业数字化等。
在英伟达研究院的不懈努力下,更多创新成果也即将揭开面纱。
在本次大秀的现场体验环节中,英伟达研究人员将展示生成式 AI 的工作流程,帮助艺术家们快速创建和迭代 3D 场景材质,使用文本或图像提示词快速生成自定义纹理材质,并进行更精细的创意控制。
英伟达研究院还演示了 AI 如何通过新的 3D 功能,将视频会议体验提升到新的水平。该研究院最近发表一篇论文,探讨了 AI 如何通过最少的捕捉设备为 3D 视频会议系统提供支持。
Maxine 的量产版本现已在英伟达 Enterprise 中开放,允许专业人士、团队、创作者等用户利用 AI 的力量获取高质量音 / 视频效果,甚至借助标准麦克风和网络摄像头即可实现。
参考链接:
https://blogs.nvidia.com/blog/2023/08/08/siggraph-2023-special-address/
以「启航·AIGC 软件工程变革」为主题的 QCon 全球软件开发大会·北京站将于 9 月 3-5 日在北京•富力万丽酒店举办,此次大会策划了从 BI 到 BI+AI,新计算范式下的大数据平台、AIGC 浪潮下的研发效能提升、面向 AI 的存储、大前端融合提效、大模型应用落地、LLMOps、异构算力、微服务架构治理、业务安全技术、构建未来软件的编程语言、FinOps 等近 30 个精彩专题。
现在购票即可享受 9 折优惠,立减 ¥880。咨询购票可联系票务经理 18514549229(微信同手机号)。
点击「阅读原文」即可查看全部专题,期待与各位开发者现场交流。
今日荐文
会议内容被拿去训练大模型!Zoom:我的AI功能可不“白给”
英伟达、云厂商们也没有H100余粮了!未来全球顶级芯片缺口达40多万张
英伟达挖走小鹏自动驾驶负责人;爱奇艺被曝VR业务停摆、全员欠薪;室温超导新进展:韩国学会称LK-99并非超导体 | AI一周资讯
你也「在看」吗? 👇
微信扫码关注该文公众号作者