一斤黄金和一斤英伟达H100,谁贵?
来源:内容由半导体行业观察(ID:icbank)编译自next platform,谢谢。
这是一个有趣的问题,一盎司黄金和一盎司 Nvidia“Hopper”H100 GPU 加速器哪个更有价值?
两者的价格比您想象的更接近,但看起来黄金仍在获胜,而且按盎司计算 GPU 也比另一种商品贵金属白银更有价值。尽管如此,这些和其他 GPU 的价值(它们被添加到人工智能训练和推理系统以及 HPC 集群中)是推动服务器和存储领域收入增长的主要力量。
IDC 刚刚发布服务器和存储综合收入预测,并修订了 2023 年以及 2027 年按用例和行业部门划分的服务器和存储基础设施销售预测。这让我们开始思考金条、银条和数字黄金,英伟达和 AMD 等公司为了自身利益,正在大数据山上开采它们,英特尔也不甘落后。
H100 加速器最厚的 PCI-Express 版本重 1,286 克,即 45.4 盎司。它的市场价格可能在 20,000 美元左右,但谁能保证有这么多大买家拿着大笔资金追逐 Nvidia 有限的供应呢?计算结果为每盎司 441 美元,这大约是 2005 年黄金的交易价格。截至我们发稿时,黄金的交易价格约为每盎司 1,929 美元,因此每单位重量的价值约为 H100 PCI 的 4.4 倍。相比之下,白银就像新服务器一样闪亮,但今天下午的交易价格仅为每盎司 23 美元左右。与 GPU 加速器一样,黄金和白银也是珍贵的商品,因为它们相对稀有,凭借自身的力量创造新的价值。
这就是人工智能系统大规模建设背后的全部论点,这些系统支撑了第一季度的服务器和存储市场。如果没有它,销量将会下降一些,收入也可能会下降更多。我们不确定,因为 IDC 并未列出为独立于其他工作负载运行 AI 工作负载而购买的服务器和存储销售情况。但它确实表示,第一季度云基础设施的销售超过了非云基础设施的收入,就像几年来的情况一样,并且服务器和存储销售的云部分——数据中心基础设施中最强劲和最大的部分此时此刻,单位出货量大幅下降了 11.4%,但平均售价却上涨了 29%。
我们认为,十多年来,GPU 增强型服务器一直在实质性地支撑服务器收入,并且随着人工智能革命的发展,这种收入一直在增加。显然,随着大型语言模型和深度学习推荐模型成为主流,需求出现爆炸式增长,云构建者和超大规模企业正在尽可能多地购买,以试图追逐人工智能机会。公平地说,由于供应问题和人工智能训练系统的高成本,许多试图将人工智能融入其工作负载的组织将不得不从云端开始,这建立了一个良性循环,有利于云及其租赁模式,而不是购买系统并在本地安装——但值得注意的例外是,大型企业和初创公司有足够的现金购买自己的系统,而不必支付云溢价来获得 GPU 容量训练他们的模型。这种紧张关系将迫使许多人从预训练模型开始并对其进行调整,考虑到训练模型需要很长时间以及硬件和人员的缺乏,这可能是一件好事。
IDC提供的第一季度最新数据显示,面向所有工作负载以及所有客户的服务器和存储销售额总计 353 亿美元,同比增长 8.2%。重要的是要记住,这并不是衡量云构建商和其他服务提供商通过出租他们购买的机器容量而获得的收入的指标。
按交付模式划分,共享云的服务器和存储的销售额(我们称之为云构建者,许多人仍然称之为公共云,尽管它们根本不是真正的公用事业)增长了 22.5%,达到 157 亿美元。
IDC 将市场的另一部分细分为专用云,其中包括在服务提供商之间以更静态的方式出售用于托管应用程序的服务器和存储,以及 OEM 根据租赁协议出售的设备(例如 Hewlett Packard Enterprise GreenLake、Dell APEX、联想 TrueScale 和 Cisco+)。支持专用云的销售额下降了 1.5%,至 58 亿美元,但仍然只占市场的一小部分。但请不要误解。在过去 12 个月中,专用云用例的设备销售额增长了 18.7%,而共享云基础设施的销售额增长了 21%。
将它们加起来,2023 年第一季度,所有云用例的服务器和存储销售额增长了 14.9%,达到 215 亿美元。非云、遗留平台(例如 IBM System z 大型机、Unix 以及运行数据库和事务处理系统的专有系统)的销售额下降了十分之九,降至 138 亿美元。不过,在过去 12 个月中,这些非云系统的销售额增长了 10.1%。
现在的问题是:世界各国央行加息以及国家和地区经济的普遍不确定性是否会导致服务器和存储的销售在 2023 年逐渐减少,还是会通过现有应用程序的潜在增长来推动再加上新兴的人工智能泡沫,在 2023 年及以后会表现出色吗?
如果非云设备的销售是领先指标,那么它看起来并不好。IDC 预计,到 2023 年,此类用例的服务器和存储收入将下降 6.3%,至 604 亿美元。我们认为这不是一个非常好的领先指标,而更多地反映了 IBM System z 和 Power Systems Iron 以及其他基于 X86 的系统执行类似工作的升级周期。
虽然服务器和存储市场今年预计仅增长 1.1%,达到 1,568 亿美元,但云基础设施的销售额预计将增长 7.3%,达到 964 亿美元,其中包括共享云基础设施(出售给亚马逊的产品) Web 服务、微软 Azure、谷歌云、Meta Platform、阿里巴巴、腾讯和百度——预计将增长 8.4%,达到 680 亿美元。专用云基础设施将以较温和的 4.8% 增长,达到 284 亿美元。
如果你对数据进行一些维恩图分析,向企业、政府和学术界销售非云设备似乎是罪魁祸首。以下是我们根据 2022 年更新的 IDC 数据以及 2023 年和 2027 年的预测创建的综合表:
IDC 预计,今年企业、政府和学术机构的服务器和存储支出将下降 5.1%,至 623 亿美元,这不是一个好消息,而且还表明,在人工智能方面,许多组织都在寻求到云端开始。考虑到经济和将人工智能融入应用的方式的双重不确定性,这是有道理的。
IDC 表示,2022 年至 2027 年全球服务器和存储支出的总体预测仍然相当乐观,预计销售额复合年增长率为 6.2%,到预测期结束时将达到 2217 亿美元。从上表可以看出,2027 年云基础设施的销售额将略小于 2022 年所有基础设施的销售额,这本身就很了不起。但同样,大部分增长来自对人工智能训练和推理硬件的投资,无论是本地使用还是通过云使用。
👇👇 点击文末【阅读原文】,可查看原文链接!
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第3454期内容,欢迎关注。
推荐阅读
半导体行业观察
『半导体第一垂直媒体』
实时 专业 原创 深度
识别二维码,回复下方关键词,阅读更多
晶圆|集成电路|设备|汽车芯片|存储|台积电|AI|封装
回复 投稿,看《如何成为“半导体行业观察”的一员 》
回复 搜索,还能轻松找到其他你感兴趣的文章!
微信扫码关注该文公众号作者