巨头排队疯抢、价格一路暴涨，HBM乘上生成式AI快车。尽管从最新财报来看，存储芯片复苏未见好转，供应过剩导致营业利润大幅下降，但这些存储芯片巨头们的股价均在上周上涨。力挽狂澜的核心功臣，便是逐渐成为数据中心AI训练必备组件的AI相关内存芯片——高带宽内存（HBM）。因生成式AI开发和商业化竞争加剧，第二季度对AI相关内存的需求大幅增加。HBM的受关注程度，在上周SK海力士和三星发布最新财报后举行的电话会议期间可见一斑，分析师们就HBM相关进展和后续规划密集发问。自去年英伟达发布世界首款采用HBM3的GPU H100以来，HBM3及更先进HBM芯片的热度一直居高不下。据英国《金融时报》援引两位接近SK海力士的消息人士报道，英伟达和AMD要求SK海力士提供尚未量产的下一代HBM3E芯片的样品。英伟达已要求SK海力士尽快供应HBM3E，并愿意支付“溢价”。
▲英伟达GPU及其他AI芯片HBM采用情况（图源：SemiAnaysis）
虽说今年缩减开支是重头戏，但存储芯片巨头们在HBM方向的投资仍相当舍得——合计掌控着全球90%HBM芯片市场的两家大厂SK海力士和三星均表态，计划明年将HBM芯片产量提高一倍，并为了更好应对HBM不断增长的需求，而减少其他类别存储芯片的投资。
高带宽内存（HBM）属于DRAM的一类分支，使用堆叠技术来提高图形处理器（GPU）等计算芯片的带宽和性能，相比传统DRAM芯片产品具有尺寸更小、功耗更低、带宽更高、处理数据速度更快等优势。
▲2015年AMD介绍新型存储芯片HBM（图源：AMD）
HBM最初用于高端游戏显卡，目前在全球动态随机存取存储器（DRAM）市场中占有的市场份额较小，但潜力非常可观。随着云计算及生成式AI服务的发展，全球大型科技公司将越来越多地使用HBM，来快速处理快速增长的数据。据芯片行业咨询公司SemiAnalysis披露，HBM的价格大约是标准DRAM芯片的5倍，利润丰厚，预计到HBM占全球内存收入的比例将从目前的不到5%增长到2026年的20%以上。自2013年开发全球首款HBM芯片以来，全球第二大存储芯片巨头SK海力士一直处于HBM领先地位。这也是SK海力士首次在内存技术竞赛中领先于三星。随后两家韩企进入激烈的HBM抢位赛，争相开始量产HBM2、HBM2E等芯片。2022年6月，SK海力士宣布开始量产业界首款HBM3内存，与英伟达H100 GPU配合使用，预计将于2022年第三季度发货。该内存将为H100提供高达819GB/s的内存带宽。
▲历代HBM性能演进（图源：SK海力士和Rambus）
目前SK海力士是目前唯一一家批量出货HBM3的供应商，拥有超过95%的市场份额。它正在为AMD MI300X和英伟达H100生产数据速率为5.6GT/s的12层24GB HBM3。今年一开年，HBM3便呈大热之势，订单迅速增加。2月份有报道称，据市场人士透露，HBM3价格近期上涨了5倍。随后在5月30日，SK海力士乘胜追击推出最新的HBM3E，每个堆栈的带宽从HBM3的819GB/s增加到1TB/s，将于明年上半年投入生产，据说英伟达、AMD、微软、亚马逊等芯片大厂正排队抢货。这驱动HBM价格进一步大幅上涨。据行研机构TrendForce的数据，SK海力士2022年在全球HBM市场占有50%的份额，三星以40%的份额紧随其后，美国存储芯片巨头对手美光以10%的份额排名第三。SK海力士披露，生成式AI市场的扩张已迅速推高对AI服务器内存的需求。在AI相关需求激增的驱动下，上周三，SK海力士报告其今年第二季度同比由盈转亏，营业亏损为2.88万亿韩元，其股价上周却上涨了12%。
▲过去半年SK海力士股价变化
次日，三星宣布第二季度营业利润为6685亿韩元，同比下降95%。受益于最新一代HBM3芯片在内的高端内存技术订单激增，三星股价周四上涨了2.4%，然后又有所回落。
▲过去半年三星电子股价变化
TrendForce预测，2023年全球HBM芯片需求将增长60%，达到2.9亿GB，明年将再增长30%，2025年整体市场有望达20亿美元以上。预计明年SK海力士将占据HBM市场53%的份额，其次是三星（38%）和美光（9%）。
在财报电话会议上，SK海力士首席财务官Kim Woohyun说：“与传统服务器相比，AI服务器使用的内存至少多出1~8倍，以实现更快的计算处理，并采用HBM等高性能内存产品，这不仅会推动需求，而且对盈利能力产生了积极影响。”他谈道，从今年年初开始，智能手机、个人电脑和服务器的需求一直疲软。但从第二季度开始，AI服务器的需求急剧上升，抵消了其他产品需求的部分损失。自第二季度以来，生成式AI引发的对高端服务器的需求迅速增加。相应地，高密度DDR5和HBM产品的需求也在快速增长。三星内存业务执行副总裁Jaejune Kim在三星财报电话会议上谈到第二季度在服务器方面的内存需求，由于对生成式AI的强劲需求，数据中心领域的投资在有限的资本支出中集中在AI服务器上，对通用服务器和存储的需求相对有限。今年随着企业投资水平的降低，存储芯片客户将重点放在昂贵的AI服务器上的投资，对传统服务器的投资可能会暂时下降。不过，SK海力士分析预测，通用服务器仍将广泛用于AI服务的开发、部署和运营，因此从长远来看也将刺激通用服务器的需求增长。据Kim Woohyun披露，SK海力士的图形DRAM销售额（包括HBM产品）此前仅占DRAM销售额的个位数百分比。但自从去年第四季度达到DRAM销售额的10%以来，这一比例迅速增长到第二季度超过20%。SK海力士用于AI服务器的HBM和高密度DDR5模块的销量大幅增长。该公司预计今年HBM的销量预计将比去年增长两倍以上，并预计明年将进一步增长。
业内专家表示，由于调整产能需要时间，未来两年HBM供应预计仍将紧张，而快速增加HBM产量也很困难，因为它需要专门的生产线。SK海力士和三星给出了相近的产业趋势解读：内存需求一直在从去年创纪录的低增长水平中复苏，当前复苏尚不足以使全行业库存水平恢复正常，上半年库存水平仍较高，但库存已经见顶，并预测随着减产效果进一步显现，下半年存储芯片需求将较上半年有所改善。为了进一步加速库存正常化，两家存储芯片大厂都在选择性地对DRAM和NAND的某些产品进行额外的生产调整，下半年重点抓盈利能力，专注于高附加值和高密度产品来优化其产品组合，特别是加强销售组合中HBM、DDR5等高价值前沿产品的份额的增长，减少库存水平较高、盈利能力不及DRAM的NAND的产量。
▲SK海力士在财报电话会议期间披露公司后续规划，将支持高密度和HBM产品需求
SK海力士相信第三季度AI服务器需求将持续增涨，特别是高密度DDR模块和HBM，这两款产品的收入有望在下半年比上半年增速更高，HBM的需求将在明年保持相当健康的增长。近期，特别是随着超大规模企业对生成式AI服务的竞争加剧，三星收到了来自此类客户的大量需求，预计今年和明年HBM的需求可能会出现相当陡峭的增长。目前SK海力士的首要任务是投资增加HBM的大规模生产。该公司刚刚对今年年初制定的有关技术产能组合的规划进行了调整，以应对对高密度DDR5和HBM不断增长的需求。对于HBM路线图来说，重要的是与GPU的发布或领先加速器市场的公司的时间表保持一致。SK海力士预计将在2026年某个时候转向HBM Gen 4，并正为此做准备。根据其路线图，明年下半年将是HBM3E量产期，也是HBM3E的供应扩大期。今年SK海力士的重点是增加HBM量产所需的1Z纳米的比例，还准备增加1B纳米产能和TSV产能，为明年上半年开始供货的HBM3E做准备。为了与市场增长预期保持一致，三星一直在扩展其HBM业务，产品方面拥有向主要客户独家供应HBM2的记录，后续还就HBM2E开展业务，计划2023年下半年开始大规模生产HBM3。三星HBM3正在接受具有行业顶级性能和密度或容量的客户资格认证，已开始向主要的AI SoC公司和云计算公司发货8层16GB和12层24GB产品。具有更高性能和容量的三星下一代HBM3P芯片计划于今年晚些时候发布。
▲三星HBM3介绍（图源：SemiAnalysis）
三星还一直投资HBM生产能力，基于此已经预订了大约10亿或十亿中值Gb级的客户需求，大约是去年的两倍，并正在通过提高生产力来进一步提高供应能力，到2024年计划将HBM产能增加至少是2023年水平的两倍。另据此前报道，三星拟投资1万亿韩元扩产HBM。对于三星来说，它虽然在HBM竞争的反应比SK海力士慢半拍，但考虑到通常AI芯片与HBM存储器一起集成到单个封装中，三星拥有一个其他芯片企业所不具备的优势——兼具先进GAA工艺技术、HBM技术和先进封装技术。如果未来三星能够推出最大化发挥这三类关键技术协同效应的解决方案，这有望成为未来三星在AI算力市场竞争中的关键壁垒。
随着云计算和生成式AI服务越来越受欢迎，对HBM等高性能内存芯片的需求与日俱增。在HBM价格不断上涨的情况下，英伟达等芯片巨头仍在预订更多HBM产能来满足其GPU需求，这导致HBM3芯片的供给更加紧俏。在今年资本支出大幅下降的情况下，在HBM市场领先的SK海力士正通过提高生产力、加快设备交付时间和削减其他领域的投资等努力，确保HBM3的产能和投资。稳居全球存储芯片第一的三星，自然不甘在HBM这一极具前景的细分市场屈居于SK海力士身后，亦加大马力争取新订单并专注于HBM等高附加值产品的销售。全球排名第三的美国存储芯片巨头美光科技也在上周面向AI客户发布了最新DRAM四年路线图，包括用于AI和高性能计算应用的HBMNext。到2024年，美光科技HBM3E预计将在第三季度/第四季度开始出货。
▲美光科技披露面向AI基础设施需求的解决方案路线图
存储芯片巨头们正在严阵以待，通过加大在先进技术突破和扩大产能方面的投资，为持续到来的HBM等支持大规模数据处理的高性能内存产品的需求激增做好准备。SK海力士能否在HBM技术和市场保持领先身位、长期掌握议价权，也是业界强烈关注的焦点。
