logo
Redian新闻
>公众号
>
老黄深夜炸场，世界最强AI芯片H200震撼发布！性能飙升90%，Llama 2推理速度翻倍，大批超算中心来袭

老黄深夜炸场，世界最强AI芯片H200震撼发布！性能飙升90%，Llama 2推理速度翻倍，大批超算中心来袭

科技


  新智元报道  

编辑：编辑部
【新智元导读】刚刚，英伟达发布了目前世界最强的AI芯片H200，性能较H100提升了60%到90%，还能和H100兼容。算力荒下，大科技公司们又要开始疯狂囤货了。

英伟达的节奏，越来越可怕了。
就在刚刚，老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200！
较前任霸主H100，H200的性能直接提升了60%到90%。
不仅如此，这两款芯片还是互相兼容的。这意味着，使用H100训练/推理模型的企业，可以无缝更换成最新的H200。
全世界的AI公司都陷入算力荒，英伟达的GPU已经千金难求。英伟达此前也表示，两年一发布的架构节奏将转变为一年一发布。
就在英伟达宣布这一消息之际，AI公司们正为寻找更多H100而焦头烂额。
英伟达的高端芯片价值连城，已经成为贷款的抵押品。

谁拥有H100，是硅谷最引人注目的顶级八卦
至于H200系统，英伟达表示预计将于明年二季度上市。
同在明年，英伟达还会发布基于Blackwell架构的B100，并计划在2024年将H100的产量增加两倍，目标是生产200多万块H100。
而在发布会上，英伟达甚至全程没有提任何竞争对手，只是不断强调「英伟达的AI超级计算平台，能够更快地解决世界上一些最重要的挑战。」
随着生成式AI的大爆炸，需求只会更大，而且，这还没算上H200呢。赢麻了，老黄真的赢麻了！

141GB超大显存，性能直接翻倍！

H200，将为全球领先的AI计算平台增添动力。
它基于Hopper架构，配备英伟达H200 Tensor Core GPU和先进的显存，因此可以为生成式AI和高性能计算工作负载处理海量数据。
英伟达H200是首款采用HBM3e的GPU，拥有高达141GB的显存。
与A100相比，H200的容量几乎翻了一番，带宽也增加了2.4倍。与H100相比，H200的带宽则从3.35TB/s增加到了4.8TB/s。
英伟达大规模与高性能计算副总裁Ian Buck表示——
要利用生成式人工智能和高性能计算应用创造智能，必须使用大型、快速的GPU显存，来高速高效地处理海量数据。借助H200，业界领先的端到端人工智能超算平台的速度会变得更快，一些世界上最重要的挑战，都可以被解决。

Llama 2推理速度提升近100%

跟前代架构相比，Hopper架构已经实现了前所未有的性能飞跃，而H100持续的升级，和TensorRT-LLM强大的开源库，都在不断提高性能标准。
H200的发布，让性能飞跃又升了一级，直接让Llama2 70B模型的推理速度比H100提高近一倍！
H200基于与H100相同的Hopper架构。这就意味着，除了新的显存功能外，H200还具有与H100相同的功能，例如Transformer Engine，它可以加速基于Transformer架构的LLM和其他深度学习模型。
HGX H200采用英伟达NVLink和NVSwitch高速互连技术，8路HGX H200可提供超过32 Petaflops的FP8深度学习计算能力和1.1TB的超高显存带宽。
当用H200代替H100，与英伟达Grace CPU搭配使用时，就组成了性能更加强劲的GH200 Grace Hopper超级芯片——专为大型HPC和AI应用而设计的计算模块。
下面我们就来具体看看，相较于H100，H200的性能提升到底体现在哪些地方。
首先，H200的性能提升最主要体现在大模型的推理性能表现上。
如上所说，在处理Llama 2等大语言模型时，H200的推理速度比H100提高了接近1倍。
因为计算核心更新幅度不大，如果以训练175B大小的GPT-3为例，性能提升大概在10%左右。
显存带宽对于高性能计算（HPC）应用程序至关重要，因为它可以实现更快的数据传输，减少复杂任务的处理瓶颈。
对于模拟、科学研究和人工智能等显存密集型HPC应用，H200更高的显存带宽可确保高效地访问和操作数据，与CPU相比，获得结果的时间最多可加快110倍。
相较于H100，H200在处理高性能计算的应用程序上也有20%以上的提升。
而对于用户来说非常重要的推理能耗，H200相比H100直接腰斩。
这样，H200能大幅降低用户的使用成本，继续让用户「买的越多，省的越多」！
上个月，外媒SemiAnalysis曾曝出一份英伟达未来几年的硬件路线图，包括万众瞩目的H200、B100和「X100」GPU。
而英伟达官方，也公布了官方的产品路线图，将使用同一构架设计三款芯片，在明年和后年会继续推出B100和X100。

B100，性能已经望不到头了

这次，英伟达更是在官方公告中宣布了全新的H200和B100，将过去数据中心芯片两年一更新的速率直接翻倍。
以推理1750亿参数的GPT-3为例，今年刚发布的H100是前代A100性能的11倍，明年即将上市的H200相对于H100则有超过60%的提升，而再之后的B100，性能更是望不到头。
至此，H100也成为了目前在位最短的「旗舰级」GPU。
如果说H100现在就是科技行业的「黄金」，那么英伟达又成功制造了「铂金」和「钻石」。

H200加持，新一代AI超算中心大批来袭


云服务方面，除了英伟达自己投资的CoreWeave、Lambda和Vultr之外，亚马逊云科技、谷歌云、微软Azure和甲骨文云基础设施，都将成为首批部署基于H200实例的供应商。
此外，在新的H200加持之下，GH200超级芯片也将为全球各地的超级计算中心提供总计约200 Exaflops的AI算力，用以推动科学创新。
在SC23大会上，多家顶级超算中心纷纷宣布，即将使用GH200系统构建自己的超级计算机。
德国尤里希超级计算中心将在超算JUPITER中使用GH200超级芯片。
这台超级计算机将成为欧洲第一台超大规模超级计算机，是欧洲高性能计算联合项目（EuroHPC Joint Undertaking）的一部分。
Jupiter超级计算机基于Eviden的BullSequana XH3000，采用全液冷架构。
它总共拥有24000个英伟达GH200 Grace Hopper超级芯片，通过Quantum-2 Infiniband互联。
每个Grace CPU包含288个Neoverse内核， Jupiter的CPU就有近700万个ARM核心。
它能提供93 Exaflops的低精度AI算力和1 Exaflop的高精度（FP64）算力。这台超级计算机预计将于2024年安装完毕。
由筑波大学和东京大学共同成立的日本先进高性能计算联合中心，将在下一代超级计算机中采用英伟达GH200 Grace Hopper超级芯片构建。
作为世界最大超算中心之一的德克萨斯高级计算中心，也将采用英伟达的GH200构建超级计算机Vista。
伊利诺伊大学香槟分校的美国国家超级计算应用中心，将利用英伟达GH200超级芯片来构建他们的超算DeltaAI，把AI计算能力提高两倍。
此外，布里斯托大学将在英国政府的资助下，负责建造英国最强大的超级计算机Isambard-AI——将配备5000多颗英伟达GH200超级芯片，提供21 Exaflops的AI计算能力。

英伟达、AMD、英特尔：三巨头决战AI芯片


GPU竞赛，也进入了白热化。
面对H200，而老对手AMD的计划是，利用即将推出的大杀器——Instinct MI300X来提升显存性能。
MI300X将配备192GB的HBM3和5.2TB/s的显存带宽，这将使其在容量和带宽上远超H200。
而英特尔也摩拳擦掌，计划提升Gaudi AI芯片的HBM容量，并表示明年推出的第三代Gaudi AI芯片将从上一代的 96GB HBM2e增加到144GB。
英特尔Max系列目前的HBM2容量最高为128GB，英特尔计划在未来几代产品中，还要增加Max系列芯片的容量。

H200价格未知

所以，H200卖多少钱？英伟达暂时还未公布。
要知道，一块H100的售价，在25000美元到40000美元之间。训练AI模型，至少需要数千块。
此前，AI社区曾广为流传这张图片《我们需要多少个GPU》。
GPT-4大约是在10000-25000块A100上训练的；Meta需要大约21000块A100；Stability AI用了大概5000块A100；Falcon-40B的训练，用了384块A100。
根据马斯克的说法，GPT-5可能需要30000-50000块H100。摩根士丹利的说法是25000个GPU。
Sam Altman否认了在训练GPT-5，但却提过「OpenAI的GPU严重短缺，使用我们产品的人越少越好」。
我们能知道的是，等到明年第二季度H200上市，届时必将引发新的风暴。
参考资料：
https://nvidianews.nvidia.com/news/nvidia-supercharges-hopper-the-worlds-leading-ai-computing-platform?ncid=so-twit-685372




微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章
相关阅读
RAG+GPT-4 Turbo让模型性能飙升！更长上下文不是终局，「大海捞针」实验成本仅4%亚马逊年终王炸！两大自研AI芯片性能飙升，推AI助手硬刚微软，联手老黄造最强超算外媒：英伟达特供芯片H20推迟至明年一季度发布PyTorch官方认可！斯坦福博士新作：长上下文LLM推理速度提8倍16000颗H200超级芯片！最强云计算亚马逊云科技和英伟达“合体”了：推出云AI超级计算机逆袭的妈妈一母亲去世周年祭大爆冷！2024泰晤士世界大学排名震撼发布，NYU、哥大排名暴跌…老黄H100再破纪录，4分钟训完GPT-3！全新「特供版」H20、L20和L2曝光，性能史诗级缩水ChatGPT最强竞对更新！上下文长度翻倍，API降价近30%从H20到H200，国产算力差在哪儿？英伟达中国特供版RTX 5880发布！性能比旗舰大砍近25%，比RTX 5000只高6%囤 H100 的都成了大冤种！英伟达发布最新 AI 芯片 H200：性能提升 2 倍，成本下降 50%英伟达H200突然发布！最强AI芯片！容量翻倍，带宽狂飙！颠覆Transformer霸权！CMU普林斯顿推Mamba新架构，解决致命bug推理速度暴增5倍囤H100的都成了大冤种！英伟达发布最新AI芯片H200：性能提升2倍，成本下降50%老黄深夜炸场，世界最强新品震撼发布：性能飙升90%，Llama 2推理速度翻倍 |【经纬低调分享】英伟达发布最强AI芯片H200，性能狂飙/苹果将叫停摇一摇跳转广告/GPT-5 正在开发中长沙超算中心：为新型工业化夯实算力“底座”英伟达H200突然发布：容量翻倍，带宽狂飙最强大模型训练芯片H200发布！141G大内存，AI推理最高提升90%，还兼容H100Midjourney V6来袭！性能对标DALL·E 3，争夺地表最强作图AI称号中科加禾崔慧敏：AI芯片+编译器才是王道！性能提升2~3倍，将推出大模型推理引擎丨GACS 2023可与H100一战，微软首款5纳米自研芯片震撼发布！Copilot引爆办公全家桶，Bing Chat改名H100最强竞品正式发布！推理快1.6倍，内存高达192GB，来自AMD加拿大中国留学生大降40%，印度翻倍，国际学生学费贡献超木材出口《 爵 》小扎深夜炸场，世界首款MR头显暴打Vision Pro！Meta版ChatGPT搬进「元宇宙」，网红神器眼镜高能现身我不是虎妈—另类哈佛妈妈与女儿一起长大（二）Continuous Batching：解锁LLM潜力！让LLM推断速度飙升23倍，降低延迟！老钱：腮腺炎的故事深夜炸场！英伟达发布新一代AI处理器H200；胡润：中国千万净资产家庭达211万户；李佳琦团队回应双11收入250亿丨邦早报幻觉处理国内最优！530亿参数Baichuan2推理能力飙升100%，首次开放API商用逍遥岁月（八） 内讧骤起别再「浪费」GPU了，FlashAttention重磅升级，实现长文本推理速度8倍提升亚马逊年终王炸！两大自研AI芯片性能飙升，推AI助手硬杠微软，联手老黄造最强超算
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章，不代表同意其说法或描述，仅为提供更多信息，也不构成任何建议。文章信息的合法性及真实性由其作者负责，与Redian.news及其运营公司无关。欢迎投稿，如发现稿件侵权，或作者不愿在本网发表文章，请版权拥有者通知本网处理。