作者 | MM Research
编译 | 美股研究社
2023 年的人工智能热潮给科技股投资人带来了巨大回报。人工智能激发了分析师的想象力，英伟达（NASDAQ：NVDA）是人工智能宠儿，其需求呈抛物线式增长，股价也出现类似的抛物线式变动。需求增长速度明显快于供应增长速度。
英伟达对其GPU芯片的需求远远超过了台积电的总产能。由于无法采购足够数量的芯片，英伟达不得不将配额“分配”给其他供应商（微软、亚马逊、谷歌等）。当客户“已满”时，这意味着他们已经购买了全部配额，并且必须等待更多供应。
在财报电话会议上需要注意的一件事是任何有关客户“满负荷”的情况，这意味着：
1）英伟达GPU供不应求，产能不足；
2）芯片供应的创新能力落后，目前受到计算能力的限制，而不是创新速度的限制。与英伟达合作的公司可能处于人工智能模型开发的前沿，并在等待更多芯片供应的同时积压模型增强功能。目前尚不清楚英伟达是否会对每个客户的售价和分配利用率保持透明，但任何提及这一点的行为都应仔细关注。
这种短缺是由芯片制造过程中的一个特定步骤造成的。尽管光刻在制造工艺中往往受到广泛关注，但还有许多其他极其复杂和微观的工艺步骤。其中之一就是先进封装。HBM（高带宽内存）的使用是在 2015 年左右创建的，专门用于游戏应用程序，但它在这个市场上举步维艰。为了制造 HBM，芯片设计者将一堆 DRAM（动态随机存取存储器）芯片垂直堆叠在“控制器”逻辑芯片之上。DRAM 使芯片能够存储大量内存，而不占用芯片本身的空间，从而提高性能。AMD和英伟达领先的 AI GPU（分别为 MI300X 和 H100）均采用 HBM 设计。随着流经数据中心的数据量快速增长，对内存容量大幅增加的需求为 HBM 提供了相当引人注目的用例。现在，随着数据中心托管参数大小不断增长的 AI 模型，HBM 解决了一个关键瓶颈。AI模型训练和推理需要从内存中存储和检索大量数据，这被称为内存墙。如果没有足够的内存空间，AI模型将无法继续增长。英伟达的H100 GPU仅采用SK Hynix HBM3设计，使SK Hynix占据了95%的市场份额。HBM 极大地增加了制造复杂性，因为它需要使用 TSV、硅通孔或使用光刻技术在 DRAM 芯片上钻出的小孔来构建垂直连接。HBM3E 是领先的下一代创新产品，预计将于 2024 年第一季度开始发货，因此请仔细聆听有关该产品的提及。最后，我们到达真正的瓶颈：CoWoS 高级封装。基板上晶圆芯片架构是一种2.5D先进封装设计。CoWoS 使用 TSV 将各种 DRAM 芯片彼此连接、与逻辑芯片和硅中介层连接。内插器将芯片与 PCB 连接起来，PCB 是连接组件并促进芯片间通信的电路板。这就是俗称的“倒装芯片封装”，目前正成为整个人工智能行业的瓶颈。任何提及 CoWoS包装的生产能力或相关改进对投资者来说都很重要。仔细聆听CoWoS-S的更新。这是用于英伟达数据中心 GPU A100、P100 和 V100 的包装。具体来说，如果 CoWoS 制造有所改善，GPU 短缺问题可能会自行解决。如果 CoWoS 容量几乎没有进展，短缺将持续存在。英伟达表示，他们相信供应量将在 2023 年下半年增加，因此任何提及HBM、CoWoS 和任何供应能力的内容都值得密切关注。GPU短缺的影响已经波及整个人工智能行业，并已经为人工智能初创公司创造了困难的运营环境。对于拥有大量资金的知名企业来说，获得 H100 容量分配更容易，但这并没有完全排除初创生态系统。近年来，大型科技公司越来越依赖内部芯片设计，这使它们成为英伟达的直接竞争对手。换句话说，英伟达最大的客户正在成为主要竞争对手。尽管尚未正式说明，但这可能会影响分配决策。虽然大型科技公司仍然是英伟达的主要客户，但英伟达可能更愿意为在芯片设计方面不具备竞争力的初创公司提供更多分配。但并非所有初创公司都是如此。大型云服务提供商和一些值得注意的人工智能初创公司占据了英伟达分配的绝大多数。这切断了对许多较低级别竞争对手的供应。他们既买不到也买不起 H100 GPU，每单位的成本高达 38 万美元。从理论上讲，这对超微计算机等服务器 OEM 来说是有利的，但 SMCI 也同样受到分配限制的影响。根本没有足够的英伟达GPU 可供使用。H100芯片从晶圆到可供销售的芯片通常需要大约 6 个月的时间。供应短缺已经遍及整个人工智能生态系统，并将继续阻碍企业的创新能力，直至其得到缓解。财报电话会议的另一个关键讨论将是下一代 AI GPU英伟达GH200。GH200 并不是一个新的 GPU，而是许多 H100 GPU 与英伟达的新型高性能 CPU Grace Hopper CPU 连接。预计大约在 2024 年第二季度左右投入生产，因此该产品的开发和生产的任何更新都非常重要。该芯片将充当 H100 和下一代 GPU 之间的中介，为客户提供更多计算能力，为英伟达提供更多定价能力。GH200 专门用于 AI，预计可提供比 H100 GPU 高 3.5 倍的内存容量和 3 倍的带宽。与训练相比，这些方法可以提高推理效率，OpenAI 首席执行官 Sam Altman 表示，如果被迫选择的话，他更愿意选择后者。
英伟达预计于 8 月 23 日盘后发布的财报将对整个科技行业产生巨大影响，并将在整个市场产生连锁反应。如果有关于供应限制的好消息，芯片股可能会进入牛市的另一个阶段。然而，如果供应状况不变或恶化，市场可能会陷入长期低迷。
END
美股研究社（meigushe）所发布文章不具有投资建议，请各位投资者自行判断。
听说好看的人都点赞了~
