Redian新闻
>
HBM需求剧增,最大赢家浮出水面

HBM需求剧增,最大赢家浮出水面

公众号新闻

来源:内容由半导体行业观察(ID:icbank)编译自anandtech,谢谢。


由于人工智能尤其是生成式AI的广泛采用,未来几个季度和几年对高带宽内存的需求将呈爆炸式增长。根据 TrendForce 的数据,SK海力士很可能成为HBM反弹的主要受益者,因为它在这种类型的内存出货量中处于领先地位,到2022年占有50%的份额。


TrendForce 的分析师认为,到 2022 年,配备计算 GPU(如 Nvidia 的 A100 或 H100)的 AI 服务器的出货量将同比增长约 9%。但是,他们没有详细说明它们是指单位出货量还是美元出货量。他们现在估计,生成式人工智能的兴起将催化对人工智能服务器的需求,这个市场将在 2023 年增长 15.4%,并在 2027 年之前继续以 12.2% 的复合年增长率增长。



人工智能服务器使用的激增也将增加对所有类型内存的需求,包括商品 DDR5 SDRAM、HBM2e 以及用于计算 GPU 的 HBM3,以及用于高性能和大容量存储设备的 3D NAND 内存。


TrendForce 估计,虽然通用服务器包含 500 GB - 600 GB 的商品内存,但人工智能服务器使用 1.2 TB - 1.7 TB。此外,此类机器使用配备 80 GB 或更多 HBM2e/HBM3 内存的计算 GPU。由于每台 AI 机器都配备多个计算 GPU,因此每盒 HBM 的总容量现在为 320 GB – 640 GB,而且随着 AMD 的 Instinct MI300 和 Nvidia H100 NVL 等加速器搭载更多 HBM3 内存,它只会进一步增长。



说到 HBM3 的采用,需要注意的是,根据 TrendForce 的说法,SK 海力士是目前唯一量产这种类型内存的制造商。因此,随着对此类内存的需求增长,它将受益最大。去年,SK 海力士占据了 HBM 出货量的 50%,其次是三星,占 40%,美光占 10%。TrendForce 称,今年该公司将巩固其地位并控制 HBM 出货量的 53%,而三星和美光的份额将分别下降至 38% 和 9%。


如今,人工智能服务器主要由美国领先的云服务提供商使用,包括 AWS、谷歌、Meta 和微软。随着越来越多的公司推出他们的生成式 AI 产品,他们将不可避免地不得不使用本地或 AWS 或 Microsoft 的 AI 服务器。例如,百度和字节跳动计划在未来几个季度推出生成式人工智能产品和服务。


NVIDIA和英特尔抢购高速HBM


ChatGPT 和类似技术的出现为存储器制造商打开了新的商机。这样的系统处理大量数据并且需要用于服务器的高速组件。高带宽存储器 (HBM) 的需求越来越大,三星电子和 SK 海力士自今年年初以来已经收到了订单激增。


通过垂直连接多个内存芯片,与其他类型的 DRAM 相比,HBM 显着提高了处理速度。到目前为止,尽管性能出色,但 HBM 的使用比传统 DRAM 少。这是因为 HBM 的平均价格是传统 DRAM 的三倍。HBM 生产更加复杂且技术先进。然而,人工智能技术的发展可以力挽狂澜。


全球最大的计算用 GPU 制造商 NVIDIA 已与 SK 海力士接洽,为其提供最新产品 HBM3 芯片。作为全球最大的服务器处理器制造商,英特尔也在积极致力于推出搭载 HBM3 的产品。业内人士称,与最高性能的 DRAM 相比,HBM3 的价格上涨了五倍。


高性能内存模块市场预计将快速增长,三星和海力士之间的竞争将加剧。HBM 市场仍处于起步阶段,因为 HBM 直到 2022 年才开始在 AI 服务器中正式实施。


SK 海力士引领 HBM 市场。该公司于2013年与AMD合作开发HBM,这家韩国微芯片制造商推出了第一代(HBM)、第二代(HBM2)、第三代(HBM2E)和第四代HBM3模块,占据了60-70%的市场份额。


2021 年 2 月,三星与 AMD 合作开发 HBM-PIM,将存储芯片和 AI 处理器集成为一体。当 HBM-PIM 芯片与 CPU 和 GPU 协同工作时,可以大大加快计算速度。2022年2月,SK海力士还推出了基于PIM技术的解决方案。


专家预测,从中长期来看,HBM等人工智能存储器的发展将对半导体行业产生重大影响。负面趋势可能是设备成本增加。

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。


今天是《半导体行业观察》为您分享的第3376期内容,欢迎关注。

推荐阅读


苹果入局RISC-V,天平已倾斜?

芯片的根本,MOSFET的前世今生

赶超英特尔,索尼做过最美的芯片梦


半导体行业观察

半导体第一垂直媒体

实时 专业 原创 深度


识别二维码,回复下方关键词,阅读更多

晶圆|集成电路|设备|汽车芯片|存储|台积电|AI|封装

回复 投稿,看《如何成为“半导体行业观察”的一员 》

回复 搜索,还能轻松找到其他你感兴趣的文章!

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
一步登天,从唯唯诺诺到飞扬跋扈恐慌蔓延!硅谷银行倒闭7天后,高盛爆出音频:背后黑手浮出水面…一种新型存储浮出水面,集成了DRAM和Flash的优势“太子奶”真相浮出水面,背后的腐败网令人脊背发凉!李小冉的胸,余男的唇,秦岚的腰,这些中年女星性感起来能迷死人未央播报 | 中国版“巴III”浮出水面 香港证监会就监管虚拟资产交易平台的建议展开谘询张家界3男1女跳崖,遗书曝光,家属发声,自杀原因疑似浮出水面!高带宽内存HBM需求猛涨,原因还是……王小川新AI公司浮出水面:成立「五季智能」,召集搜狗旧部,水下估值接近独角兽王菲一家今年照片曝出,亮点却是窦靖童被李亚鹏和周迅夹在中间一周回顾 | 中国版“巴III”浮出水面 横琴、前海各迎三十条金融改革创新举措刘如谦新公司浮出水面,仍隐匿运行,正基于PACE开发新型蛋白酶,让蛋白质组编辑成为可能又有新项目了?米哈游《R-project》《热血》浮出水面见证历史!摩根大通收购千亿银行7天后,背后赢家浮出水面…MLPref放榜!大模型时代算力领域“潜力股”浮出水面加州女子突然失踪!近40年后连环杀人案再度浮出水面,受害者或达25人(图)张家界跳崖事件发生15天后,“约死群”浮出水面,高校教师潜伏其中揭开痛心真相.....让我国核武失效!美国巨大阴谋,浮出水面,外媒:恐有灭顶之灾自动驾驶赛道回暖?传统Tier1加速入场,真正赢家正在浮出水面昨天!北京长峰医院29人死亡!更多细节被曝光!一个“大人物”浮出水面,千万别放过…特朗普最后的战役:公布2024竞选议程,副手浮出水面?惊了!这只股票崩了,前1天一度飙涨超1100%!美核潜艇被迫浮出水面,发生了什么?80岁弟兄在生命最后10年暗助陌生人医药 在他葬礼上才浮出水面推特接班人浮出水面?学老板带娃睡办公室,拥抱硬核精神疯了吗?7年500倍,孟晚舟“火上浇油”!彻悟,AI投资之“锚”浮出水面……我为自己点个赞 - 作曲/编曲/演唱:南方SkyOpen AI最大的对手浮出水面东南某省13个政法委书记罕见接连落马,一段鲜为人知的历史浮出水面普丁接班人浮出水面?重访西班牙(13)-白银之路的礼赞大瓜!又一条大鱼浮出水面,“北极鲶鱼”恐怕都要被秒成虾米绝地反击!A股港股联手暴涨,最佳买入时机到来?莫为宏观忧虑困扰,这些个股早已"浮出水面"【大瓜】又一条大鱼浮出水面,“北极鲶鱼”恐怕都要被秒成虾米张家界3男1女跳崖,遗书曝光,真凶浮出水面,该管管了MLPref放榜!大模型时代算力领域“潜力股”浮出水面:梅开二度拿下世界第一,今年获双料冠军
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。