中信证券许英博：从英伟达看国产GPU的挑战与前景

什么是伟大的公司？

自2010年起，《麻省理工科技评论》每年都会依据“高精尖科技创新”和“成功的商业模式”两个核心指标遴选出“50家聪明公司”，旨在寻找对世界具有预见性并引领科技浪潮的创新公司。从创新的角度，一家伟大的公司应具有改变世界的能力。

在英伟达的官方介绍中，就用简短的几句话总结了在这方面的独到之处：“英伟达率先采用加速计算应对原本无法解决的挑战。在 AI 和计算机图形领域，我们的研究成果正在改变总价值达 100 万亿美元的各行各业（包括游戏、医疗健康和交通运输），并对社会产生了深远的影响。”

英伟达也理所应当多次上榜《麻省理工科技评论》“50家聪明公司”榜单。这家成立于1993年的GPU公司在技术层面到底有什么特别之处？

专业人士如何看待GPU这个领域？

为什么GPU可以做“通用计算”，这是怎么实现的？

CUDA到底有什么优于其他软件的特殊之处？它是如何帮助英伟达打通产品上下游的呢?

今天的《创业内幕》，我们将和中信证券的首席科技产业分析师许英博，以及GGV纪源资本的投资副总裁陈于思一起从英伟达聊起，深入浅出地分析国产GPU的挑战与前景。

Lily：

本期我们要聊一个非常有意义的话题——全宇宙知名的公司英伟达。因为这个话题非常热，所以我请到了两位超级重磅嘉宾，一位是来自中信证券的首席科技产业分析师许英博，另一位就是我们非常熟悉的GGV纪源资本的投资副总裁陈于思。

英博：

大家好，我是中信证券的科技分析员许英博。有别于比较典型的证券分析师，在相对短的时间内，对一个行业做纵深切入研究，我的研究更多是一种更大范围内偏横向的比较研究，以及在更长历史维度上的研究。简而言之就是，在更大空间和更长时间内去做科技产业的比较研究。

于思：

大家好，我是GGV纪源资本的陈于思。我目前主要在看人工智能、元宇宙还有芯片半导体方向的投资。我原来也是学芯片出身，在斯坦福获得了电子工程的博士学位。今天要聊英伟达，我有非常多的同学、朋友包括老师，有在英伟达工作的经验。所以我今天非常高兴和大家一起讨论这个话题。

Lily：

如果让我从投资行业来讲，过去一年最火爆的，无非就是元宇宙和AI。今天我们聊的话题GPU其实就是元宇宙和AI背后的算力大脑。我想请问一下英博，您怎么看GPU这个领域呢？

英博：

目前GPU领域关注度非常高，其实源于它是交叉赛道里并行计算的一个基础。这种交叉赛道，一方面来自于比如说人工智能的训练端和推理端，一方面来自于大规模的科学计算和仿真需求，同样也有对于未来元宇宙的猜测和判断。

在不同的科技浪潮的迭代情况下，我们发现大量的运算变成了其中重要的需求。为了支撑这种大量的计。GPU的通用性并行计算的需求的优势就逐步显现出来，GPU自然也就得到了市场更多关注，包括英伟达的大幅持续上涨，也带来了市场对该领域更多的关注。

Lily：

您刚才提到一个词叫“通用计算”，为什么GPU可以做“通用计算”，这是怎么实现的呢？

英博：

其实我们看到GPU最早是用来做图形渲染，做一些跟3D图形处理相关的事情。英伟达也算是最开始发现GPU还可以去做更多人工智能相关计算或者所谓“通用计算”，那么他们通过持续快速的迭代，进入到通用计算领域。从整个基础上来讲，GPU里面大量并行的ALU的计算单元，使它的并行计算成为可能。

Lily：

于思，你作为芯片方向的专家，要不要给我们科普一下，赛道里GPU（图形处理器）和GPGPU（通用图形处理器）这两个概念有什么不同？这两类公司有什么不同？

于思：

首先我觉得不管是GPU还是GPGPU，都属于这种超大算力的大算力芯片，在国际上来说，其实是一个格局更加明确的市场，主要只有英伟达、AMD两个玩家。

如果单是从市占率来说，英伟达远超AMD。国内市场由于政策扶持，也是有一个结构性的机会，让国内有非常多创业公司。

所谓GPU和GPGPU，大家可以这么理解：其实GPU是 GPGPU加上图形渲染的功能，所谓GPGPU其实是GPU整个功能的一个子集，它去掉了GPU用于图形渲染的一部分功能，主要用来做一些计算。

从英伟达的发展史来说，它其实一直都是在做GPU，它的GPU的产品，本身也包括了图形计算能力，同时也有并行计算，也可以做AI，它整个算力的有效性其实是更高的，更加具备通用性，包括它有一整套Cuda的软件算法，能够支撑非常广泛的应用。

英伟达其实一直没有强调自己到底是做GPGPU还是做GPU的，他强调的还是自己就是做“通用计算”的一个平台。

其实从我们投资角度，或者说产业/行业分析角度来看，GPU和GPGPU并没有特别本质的一个区别，只不过在国内可能因为一些技术上的原因，很多初创公司会选择一开始先不做图形功能，就只是把计算做出来，于是就有GPGPU的概念。我觉得从投资/行业发展终局/市场空间来说，GPU显然是一个更大的市场，因为它兼顾了图形、AI、高性能计算等等所有算力需求，可以做大量的跨界应用，不光可以做AI、科学计算，也可以做数字孪生，包括支持元宇宙的很多底层算法。

关于GPGPU，我觉得国内外很多公司更多是在做一些计算的加速卡。我们有个说法叫“domain-specific” （领域特定），主要是做计算加速，因此应用相对来说是比较窄的。严格意义上来说，比如我要做AI加速，本质上是用到图形渲染里非常小的一个子集，或者说所有算子里很小的一个子集，像矩阵向量的计算或者矩阵乘加的运算。

现在的问题就是，行业的发展非常快，像AI模型的发展速度是非常快的，不同模型之间的架构也很不一样。而现实是芯片本身研发需要周期，很可能你针对之前一个比较流行的模型做出来一款芯片，那么后面可能又有一个新的模型架构出来了，因此说这样的产品往往可能会应用比较窄，市场比较小。

最难的就是，怎么能够和现有整个GPU的应用生态去做兼容，因为GPU是一个非常通用的生态，生态本身已经是一个比较明确的体系。我们国产的玩家/公司，怎么能够更好和现有生态做兼容，光是软件甚至还有应用，包括大家的使用习惯。整体来说，我们也是觉得GPU方向是更值得去进行投资和布局的。

Lily：

英博，其实我想知道你的研究里怎么看待这两种技术流派？您可以对应英伟达和AMD来给我们延展讲一讲，这两个流派的发展史，以及在中国的一些情况。

英博：

其实我做个类比，当我们回头去看这个事情的历史时，你发现它是有原因的。英伟达1993年成立，起于图形，兴盛于后面的通用计算，但是其实“通用计算”（人工智能计算、科学计算）在1993年并没有如此繁盛。直到它成立成立很多年之后，它发现自己做图形的功能改一改，迁移一下，就可以用来做“通用计算”，并且效果还不错。所以它其实是一个先有图形、后有“通用计算”的方式。它的做法也很简单，因为已经有了图形基础，就看能不能复用一些架构、功能去做一个延展，站在英伟达角度来讲，这个过程是很通顺的。

但是其他竞争对手比如AMD，包括后面其他竞争对手，如果自己没有极强的图形基础，面对蓬勃发展的通用计算需求，那就要面对一个想法选择：是像英伟达一样去做一个图形很强，同时兼容“通用计算”的方式，还是把图形放在一边，先把通用计算弄明白。这个时候按我们理解，所谓GPGPU，其实跟它进入的时间点的路线选择是有关系的。如果我们认为未来是元宇宙，那我们会发现人工智能通用计算跟图形渲染分不开了，因为元宇宙里是有非常强的视觉要求的。

其实英伟达一直在做一件非常聪明的事情，那就是软硬一体，在GPU本身硬件的半导体的基础上，它衍生出了基于通用计算要用的CUDA。CUDA这套软件的生态很恐怖，英伟达自己公布过，已经下载过并且在用CUDA的软件开发人员，2020年是一百七八十万，2021年到了230万，一年有60万左右的一个增长，到了2022年又变成350万，生态是快速增长。这个时候，英伟达就拿到了软件和硬件的双重规模效应。

在硬件端，因为它是图形和计算的统一架构，它的通用性保证了它有规模性，而规模性摊薄了它的研发成本，所以硬件上，本身它通过它的规模性可以拿到一个比较优势的研发成本。在软件端，因为它有庞大的开发者生态，这些宝贵的软件开发人员即便换了公司，可能还是在继续用CUDA，CUDA软件的星星之火还在持续燃烧。可以猜想，明年再开GTC（全球 AI 开发者大会）时，这个数字还会呈现可观的增长，它在软件上的生态就会更强大，软硬一体的路就走得会更顺。

Lily：

传统PC时代大家都知道的芯片巨头AMD，其实1969年就已经成立了，但是1993年成立的英伟达，目前市值是AMD的三倍。二位刚才都多多少少分析了英伟达能够弯道超车的一些原因，我还想知道，这里边会不会有什么技术上的风口，或者是踩上了什么样的技术浪潮？

英博：

首先AMD是一家很牛的公司，尽管它在GPU里份额并没有那么高，但是不妨碍它在历史上曾经是一家非常优秀的公司。AMD创始人来自仙童半导体，它其实在上一代CPU为主的运算架构下拿到了比较明显的一个优势。

英伟达的成立时间更晚，在1993年，这段时间其实有点快进入到我们看到的Intel阶段，Windows加Intel，所以图形在PC上的应用越来越多，有更多的图形处理，就有更多的图形运算需求。这个时候英伟达1999年的第一款GPU，把它的图形又独立出去做运算，这是它背后的衍生过程。

再往后走，就是这家公司的迭代能力是非常快的，一旦它发现，它的产品可以更多用于相关领域/相似领域，它就会开始迭代。比如通用计算，图形渲染里最典型的应用是并行计算，为了加快图形的运算，它通过成百上千小的ALU的并行运算来加快了速度，就解决了CPU的瓶颈，而这种并行运算恰恰又是后面通用AI训练或者科学计算中所需要的并行运算的方式，速度会比较快，所以再加上它本身GPU架构具备一定通用性，那么速度通用性就达到了一个很好的平衡。那么另外再加上CUDA的软件生态，英伟达就逐渐筑起了自己的壁垒。

Lily：

我非常好奇，英伟达和MD这两个产品对比，芯片架构上有没有什么巨大区别？

于思：

我觉得还是有比较多的不同。我自己觉得有一点，英伟达其实是非常有恒心和毅力的公司，这可能也和创始人有很大关系，包括整个企业文化。不管在逆境还是顺境，都能坚持做长期且正确的事情，尤其当时看来根本就不知道是否正确的事情。

英伟达一直是在采用统一的架构，就是在一块芯片上能够去做图形和计算的功能。整体上来说，英伟达其实是一个架构，加上它比较大的软件生态，因此开发者在英伟达产品上开发的应用是能找到完美的兼容性和可一致性的。

AMD更多还是为不同产品线设计了一些专有架构，虽然在芯片上节约了少量面积，但其实是极大牺牲了它的应用的兼容性和可移植性的，很多跨界应用其实就没有办法做了。

现在AMD的确是在通用计算上面落后英伟达比较多，2010年左右，在图形上面，AMD的前身ATi给人的感觉是比英伟达还要更强的，但是今天看来，AMD反而变成了一个追赶者。那么作为追赶者，它希望能够用不同产品线的不同架构，希望能够提高效率，但最后实则牺牲了应用兼容性和可一致性，现在看来还是有一些得不偿失的。尤其在高性能计算的应用上面，AMD的市占率已经远远落后于英伟达了。

Lily：

英伟达这家公司非常神奇，最早它是一个消费类的3D图形处理芯片供应商，可能最开始它也没有想到，今天会有这么大的一个市场。我也想请教一下英博，它这个业务拐点是在什么时候出现的？它是看到了什么机会呢？

英博：

我理解应该就是跟通用计算相关的这种机会。英伟达有一个很好的基础，在这个基础上，它可以用不同刀法切出适用于当时需求的产品。第一次切就是针对通用计算/智能计算这一块，后来其实它还切过，比如说像自动驾驶的芯片。最早它在车载的推理端其实并没有太大市场，但是它发现很多人可以用自己产品来做这个，那它其实也可以做，所以就有了后来Orin的这块市场。

反过来，我觉得这件事情不只是产品端的，它本身是带有创始人特质的。在一个通用的架构上，结合创始人的特质，然后不断去观察市场需求，关注他的用户在用他的产品做什么。他发现用户在用产品去改变某些东西，做某些功能，那他就化为己用，对自己产品不断进行迭代，所以我非常赞同于思说的，英伟达是一家有恒心有毅力的公司。它一直在做跟图形计算、并行计算相关的事情，一直没有换过方向，一直在做软硬一体的事情，可能在CUDA之后，这个事情被更进一步发扬光大了。最终它把它的一个通用架构和软硬一体的逻辑，应用在不同领域，所以它不断在寻找自己可能有机会的地方，这也是我们看到，英伟达比较宝贵的一个地方。哪怕中间一度面对因为CUDA导致有现金流压力，但它一直在坚持做这件“当时不知道正不正确，事后回来发现非常正确”的事情。

Lily：

刚才二位不约而同都提到，英伟达成功的核心/关键要素之一，就是它有软硬协同中的软，有CUDA工具链和整个系统。我想请英博来给我们具体讲讲，CUDA到底有什么优于其他软件的特殊之处？它是如何帮助英伟达打通产品上下游的呢?

英博:

CUDA即Compute Unified Device Architecture，是一种聚合计算的架构，当然它本身是一种软件生态，那么在此基础上，它是把原来不容易使用的GPU，变成了更容易编程使用的GPU。

简单来说，直接使用机器语言去操作一些芯片，其实是比较不容易的，但是因为有了这个好的软件工具，我就能把人类的编程内容，翻译成机器能够理解的翻译内容，把一些功能封装在一起，更好去做这种调用。

在这种情况下，它就可以让更多程序员能够相对好入手地去使用这种工具，而使用越多，它所迭代的技巧和熟练性越高，程序员就可以用这个工具去做更多具备便利性、创造性的编程，而这种创造性就会体现在软件的思维逻辑上、软件本身的设计上，并不是如何更好去跟硬件打交道。所以我们判断，一个好的硬件，一定需要有一套好的语言坐在硬件和程序员中间，让它有一个比较好的操作便利性。

Lily：

为什么只有英伟达有CUDA这个软件，其他大芯片公司为什么没有？

英博：

好东西，大家都想做，而做好一个事，肯定是在一个正确时间点开始做正确的事。当竞争对手已经筑起了比较高的壁垒时，这个成本和壁垒也在不断筑高，在这个过程中，英伟达是比较有前瞻性的。在它收入只有小几十亿美金时，它一年会拿出大几亿美金来做这件事情，那么这种迭代到现在接近20年时间，壁垒是很厚的。况且英伟达从来没有停止过奔跑，无论是它的两年一代的硬件架构，还是它不断迭代的CUDA软件的生态和功能，它其实是在不断奔跑。

很长一段时间的积累，且还在持续不断快速奔跑，这种通用性本身又带有一个正向的正激励制作用，通用性越好，生态越强，可能更想用的人更多，所以它是一个在加速的概念。如此一来，其他人想做就难。但难归难，并不是是完全没有可能。在外部国际环境变化的情况下，我们觉得有这个可能，但是可能要面对挑战和代价，毕竟英伟达当年也曾经为此付出过巨大代价。所以在这个过程中，保持自己的造血能力、融资能力，并且坚持下来，也就不是没有可能。

Lily：

这几年芯片的火爆，于思我想问问你，芯片公司赛道里，在你判断做投资的时候，你选择的一个非常重要的标准是什么？

于思：

我觉得可能不是一个标准，而是一系列标准。我觉得首先肯定是看人，人才是第一位的。我说句实话，中国在人才历史上实在是欠了太多债。很多顶级人才其实是在欧美，那么你需要把他们吸引回来，包括你需要培养更多人才，这都是需要时间的。从另一方面来说，芯片创业又是一个机会窗口期，可能也就是这么几年，所以我觉得人肯定是第一位的。从商业到技术，到产品到组织，到生态建设到市场到销售，都没有短板的团队，我觉得这个是非常重要的。

第二毫无疑问还是看下游的应用，是不是一个很大的国产替代的机会，包括是不是一个很大的增量空间。GPU毫无疑问属于这样一个范畴，整个市场空间非常大，可能是个千亿人民币以上的市场。目前基本上是被国外公司垄断，所以肯定是有一个很大的投资布局的价值。

第三还是要看技术能力，毕竟芯片不管是设计制造，还是整个供应链管理，其实都是非常难的事情。这个公司是不是真的有这个技术能力，我觉得也是非常重要的。综合来说，还是要非常全面地去考察这些投资的标的，确保可以真正去伪存真，然后找到真正有潜力的创业公司去持续支持。

芯片行业是一个Winner-takes-all的市场，可能老大可以吃肉，老二可以喝汤，老三就不一定能啃上骨头了。因此我觉得很重要的也是需要判断，即使这些标准全部都满足，这家公司最后是不是能够成为赛道里最后的前几名，甚至能够成为第一名，我觉得这也是需要去把握的一个非常重要的点。

Lily：

你刚才提到，人才其实是一个非常大的问题和痛点，关于人才引进这一块，于思能不能给芯片类公司一些好的建议？

于思：

我觉得有几点：第一肯定是需要意识到，人才战略是芯片公司可能排第一的战略。怎么能够招到好的人，就要用好各种招聘资源，不管是内部推荐还是校招，或者一些招聘软件或者猎头。我觉得这是一个公司级战略，绝对是CEO需要去重点关注的方向。

第二还是需要明确，我招过来的人是能够团结协作，拧成一股绳的，而不是互相不对付，最后变成公司内耗。芯片研发的试错成本还是很高的，因为每次都要流片，尤其是做这种先进的大芯片，流片成本也是非常高的，所以我觉得招到好的人和招到对的人一样重要。

第三还是要更有国际化视野。因为国内芯片的冷板凳实在是坐了太长时间，人才非常稀缺，是否有能力从国外去持续吸引这些顶级人才，我觉得这也是非常考验这个公司的。

第四可能不是一个人才战略，而是整个组织管理和公司文化的战略，在我看来也是非常重要的。很多公司可能注重把人招过来，以及招到对的人，但是你是否能够真的把人留下来，管理方式是否能够最大限度调动大家的积极性，减少内部的摩擦和内耗，最后能够又快又好地把芯片给做出来，做出来之后能够更好地变成产品销售给客户。

Lily：

英博，以你的观察，目前中国整个芯片行业大概是个什么样的格局？都分布在哪些领域？

英博：

其实中国的芯片行业公司数量众多，数以万计，芯片之间的差异其实也非常大。那么主芯片的难度是非常高的，但是很多小芯片不用很大的团队也可以迭代起来。在这个情况下，中国的芯片产业在我看来方差是非常大的。结合刚才的问题，就是你想要真的把主芯片做到顶尖，人肯定是特别重要的一个事，那怎么能招到好人留住好人，我们不可免俗，就是你得有钱。

很多专业人员在长期坐冷板凳时，也要面对一个如何生活的艰难选择，所以公司要有钱，能持续不断来做这件事情。从经营性现金流的角度来讲，我觉得要么是公司有相对强的自我造血能力，但是处在早期，其实这事比较难，那换句话就是融资性现金流是公司非常重要的一个能力。

在这样一个大的行业，你要面对全球顶尖公司，去学习它。我们先不说比肩它，毕竟我们去学习全球最顶尖公司的过程，一定是一个漫长的持久战。我们又在相当长一段时间很难自我造血，这个时候你的融资能力，你的对外输血，要保持一个顺畅通道。那么这个时候，对于资本市场，无论你是二级市场还是一级市场，保持一个顺畅的造血通道就变得非常重要。

Lily：

我想抛一个更大的问题：两年前，包括华尔街日报在内的外媒都认可的“摩尔定律”，已经被英伟达CEO黄仁勋的“黄教主定律”所替代，这个理论更强调人工智能的芯片性能每两年要提高一倍多，增长可以归因于硬件和软件的升级。我想问一下，二位认同这种观点吗？

于思：

我还是挺认同的。现在看来，像英伟达最新的H100、A100、V100的确都有一个显著的升级，而且它每年因为整个CUDA包括软件站的优化，在我同样的芯片平台上，我的有效计算能力其实也在不断提升，所以我还是挺认同黄教主的Huang's Law。

现在来说，芯片不断的算力提升，还是依赖于整个摩尔定律的提高。因为每代芯片也都会换台积电更新一代的工艺，那么到后面，因为摩尔定律可能到了一纳米或者再往下，毕竟会到一个头，那么是不是有一些更先进的封装，比如像Chiplet，或者像异质集成，或者像光电一体的计算，或者再往后更加远的一些新的计算。比方说量子计算，结合整个软件的生态的发展，包括结合整个应用，包括结合算法不断的发展。我自己觉得Huang's Law应该还是能够延续比较长的时间，肯定是比摩尔定律能够延续更长时间。

英博：

我基本同意，一条腿在跑赛道，一条腿在跑车，就是软硬件互相配合，以提高整体效率。目前我们尚未看到瓶颈，也许未来某一天，会长期面对一个瓶颈，但可能我们那个时候又面对了一个新技术。

Lily：

今天这一期讲了英伟达，又讲了很多跟芯片方向有关的话题，相信很多听友听完之后都会意犹未尽。关于这个方向，二位嘉宾有没有什么好的书/纪录片/电影可以给我们推荐？

于思：

我觉得知乎上有非常多分析英伟达的文章，我建议大家都可以去读一下，我觉得写得还是非常好的，可读性很强。尤其是描写黄教主，包括英伟达每次的发布会，很多内容在YouTube、哔哩哔哩上也都有。如果大家对于处理器相关特别感兴趣的话，复旦大学的陈迟晓教授，他也把自己关于微处理器的一系列课程放在了哔哩哔哩上面，即使没有很强的技术背景，应该也可以对“处理器怎么一步步发展到GPU，以及GPU整个通用集团的架构” 有一个很好的一个理解。

英博：

如果要问我，我肯定说可以看我们的报告。如果说具体看书的话，我个人认为在CPU代际的时候，有非常多的书去描写当年硅谷发生了什么，这个是我自己也会去看的。对于当前代际的英伟达，可能还没有来得及有太多成书，这个时候我其实特别推荐于思刚才说的GTC。英伟达每年会有它的GTC，那么GTC发布会基本上是它把当年度最新的东西、最好的想法拿出来讲给大家听，如果仔细去看看，还蛮有意思的。

Lily：

欢迎大家多多了解芯片这个行业，也欢迎大家加入GGV投资的公司，我们也投了很多非常好的芯片类公司，在国内比如有摩尔线程，大家如果想要加入摩尔线程，可以去各大招聘网站搜寻，如果实在找不着，大家也可以来找我，我来帮大家推荐。