黄仁勋加州理工毕业典礼演讲:我忍受的一切挫折、痛苦和磨难淬炼了超能力!
美国当地时间6月15日,英伟达创始人、CEO黄仁勋(Jensen Huang)参加美国加州理工学院第130届毕业典礼,并发表了一段题为“迎难而上抓住机会”(Embrace Challenges and Seize Opportunities)的主题演讲。
黄仁勋畅谈了英伟达(NVIDIA)自1993年成立至今经历的计算机技术革命,以及AMD、英特尔、高通拒绝与英伟达合作的历史,最终不得不退出了与CPU厂商的合作,以及能够进入移动设备芯片市场的重要机会。
黄仁勋坦言,过去一段时间,英伟达和他所忍受的一切挫折、痛苦和苦难,都是他本人珍视的超能力。
“当时,我们被踢出了这些市场,没有其他市场可以发展。因此,我们决定建造一些我们确信没有客户的东西,因为你绝对可以保证的一件事是,没有客户的地方,也没有竞争对手,没有人关心你。
所以我们选择了一个没有客户的市场,一个0亿美元的市场——AI超级计算机。而现在,10年后的今天,我对我们所建造的和创造的下一波人工智能的机会感到非常高兴。
更重要的是,我们培养了敏捷性和韧性文化。
一次又一次的挫折,我们摆脱了它,滑向了下一个机会。每一次我们都获得了技能,增强了我们的性格,我们增强了我们的企业性格,我们的公司真的很难分心,真的很难气馁。“黄仁勋表示。
黄仁勋坦言,“我希望,你们将挫折视为新的机会。你们的痛苦和苦难将增强你们的性格、韧性和敏捷性,它们是我最珍视的终极超能力。智力不在这个列表的首位,而是有忍受痛苦和苦难的能力。”
黄仁勋强调,这十年里,英伟达从一家最初认识的制造GPU的芯片设计公司,转变为一家现在制造大规模数据中心、超级计算机的AI公司。“我们彻底改变了公司。我们也彻底改变了计算。今天计算的基本方式已经发生了根本性的变化。”
以下是黄仁勋演讲中文翻译 ↓
谢谢您的热情介绍,但我讨厌听到别人介绍我自己,就像一场表演秀。
有多少人知道英伟达?来鼓个掌!有多少人知道GPU是什么?
好的,很好,看来我不需要改变我的演讲内容。
女士们,先生们,罗森鲍姆(Thomas F. Rosenbaum)校长,尊敬的教职员工,各位嘉宾,自豪的家长们,最重要的是,2024 届加州理工学院的毕业生们。今天对你们来说是非常快乐的一天。你们得表现得更兴奋些,你们即将从加州理工学院毕业了!
这是伟大的理查德·费曼(美国理论物理学家)、莱纳斯·鲍林(美国化学家,量子化学和结构生物学的先驱者之一),以及在我们行业有很大影响的人的学校。
这是一件非常重要的事情。今天是充满自豪和喜悦的一天。这是你们所有人梦想成真的一天。
不仅仅是你们,你们的父母和家人为了看到你们达到这个里程碑做出了无数的牺牲。让我们借此机会向他们表示祝贺,感谢他们!让他们知道,你们爱他们。
你不想忘记这一点,因为你不知道你要在家里住多久。你今天要非常感激。作为一位骄傲的家长,我真的很喜欢我的孩子们没有搬出去。每天见到他们真好,但现在他们搬出去了,这让我很难过,希望你们能多陪陪父母。
所以希望你们能多花些时间和你们的父母在一起。你们在这里的旅程证明了你们的性格、决心、为梦想做出牺牲的意愿。你们应该为自己感到骄傲。做出牺牲、忍受痛苦和苦难的能力,你们在生活中需要这些品质。
你们和我们(NVIDIA)有一些共同交集。首先,英伟达的两位首席科学家都来自加州理工学院。而我今天发表演讲的原因之一,是因为我在招聘。
所以我要告诉你们,NVIDIA是一家非常棒的公司。我是一个非常好的老板,广受喜爱,可以在NVIDIA中工作,你们和我们,对科学和工程都有热情。
尽管我们岁数相隔约40年,但我们都处于职业生涯的巅峰,对于所有关注英伟达和我的人来说,你们知道我的意思。只是,你们还有更多的巅峰要去攀登。
我只希望,今天不是我的巅峰,不是顶峰。所以我像往常一样努力工作,以确保我在未来还有更多的巅峰。
去年,我很荣幸在台湾大学发表毕业典礼演讲。我分享了一些关于这个旅程的故事,以及我们学到的可能对毕业生有价值的经验教训。
黄仁勋在台大发表毕业演讲
我不得不承认,我不喜欢给别人建议,尤其是给别人的孩子。我今天的建议将主要隐藏在一些我喜欢的故事,和一些我喜欢的生活经历中。
我相信,我是当今世界上任职时间最长的科技公司首席执行官(CEO)。在31年的时间里,我设法没有破产,没有感到无聊,也没有被解雇。我有幸享受了很多生活经历。我从一无所有创建NVIDIA到今天的成就。
我创建GPU图形计算经历漫长道路,我们致力于发明 20 多年的GPU模型,这正在彻底改变计算。今天,我们依然在这个项目上工作,以及我所知道的理查德·费曼非常关心并经常谈论,知识诚实和谦逊如何拯救了我们的公司,以及一次撤退,一次战略撤退是我们最好的策略之一。所有这些都是我在毕业典礼上谈到的违反直觉的经验教训。
我鼓励毕业生接触人工智能,这是我们这个时代最重要的技术。稍后我会详细讨论这一点,但你们都知道人工智能。很难不沉浸其中、被它包围,并引发大量关于它的讨论。
我希望,你们都在使用它并应用玩它。所以有令人惊讶的结果,有些神奇,有些令人失望,有些令人惊讶,但你必须享受它。你必须参与其中,因为它发展得如此之快。这是我所知道的唯一一种同时在多个指数上发展的技术。
所以,技术变化非常非常快,因此我建议台大学生跑步,不要走路,参与人工智能革命。
然而,1年后的今天,变化之大令人难以置信。
今天,我想做的是与你们分享,从我的有利位置,我对你们毕业时正在发生的一些重要事情的看法。这些都是正在发生的非凡事情,你们应该对它们有一个直观的理解。因为这对你很重要,对这个行业也很重要。希望你们能充分利用眼前的机会。
加速计算已达临界点
计算机行业正在从其基础、从字面上看是从螺柱开始转变。从螺母开始,一切都在变化。很快,每个行业也将发生转变。其原因非常明显,因为计算机是当今最重要的知识工具。它是每个行业和每个科学领域的基础。如果我们如此深刻地改变计算机,它当然会对每个行业产生影响。
当您进入这个行业时,了解正在发生的事情很重要。现代计算可以追溯到IBM System 360。那是我学习的架构手册。这是一本你不需要学习的架构手册。从那时起,就出现了更多更好的文档以及对计算机和体系结构的更好的描述。
但IBM System 360在当时是非常重要的,事实上,它的主要思想、架构和战略仍然主导着今天的计算机行业。它是在我出生一年后推出的。
在80年代,我是第一代VLSI工程师之一,他们从Mead和Conway的里程碑式教科书中学习了芯片设计。我不确定这里是否还在教授它。应该是在VLSI系统的引入中。基于Carver Mead在加州理工学院关于芯片设计方法和教科书的开创性工作,彻底改变了IC设计。它使我们这一代人能够设计出超大型芯片,并最终设计出CPU。
CPU导致计算量呈指数级增长。性能和令人难以置信的技术进步,即所谓的摩尔定律,推动了信息技术革命。我们这一代人所经历的工业革命见证了世界前所未见的东西的大规模生产。大规模生产无形的、易于复制的东西,大规模生产软件。它催生了一个价值3万亿美元的产业。
当我坐在你坐的地方时,IT行业还很小。销售软件可以赚钱的想法是一个幻想。然而今天,它是我们行业生产的最重要的商品、最重要的技术和产品创造之一。
然而,NARD缩放、晶体管缩放和指令级并行性的限制降低了CPU性能。CPU性能提升速度放缓之际,计算需求持续呈指数级增长。计算需求与计算机能力之间呈指数级增长的差距,如果不加以解决,计算能源消耗和成本以及通货膨胀,最终将扼杀每个行业。
正如我们所说,我们看到了非常明显的计算通货膨胀的迹象。经过NVIDIA CUDA二十年的发展,NVIDIA的加速计算提供了一条前进的道路。这就是我来这里的原因。因为最终,当我们目睹几十年后的计算膨胀时,业界终于意识到了加速计算的令人难以置信的有效性。
通过将耗时的算法卸载到专门从事并行处理的GPU,我们通常可以实现10倍、100倍,有时甚至1,000倍的加速,从而节省资金、成本和能源。我们现在加速应用领域的发展,从计算机图形学、光线追踪,当然到基因测序、科学计算、天文学、量子电路模拟、SQL数据处理,甚至pandas、数据科学。
加速计算已达到临界点。这是我们对计算机行业的第一项伟大贡献,我们对社会的第一项伟大贡献,加速计算。它现在为我们提供了一条可持续计算的前进道路。
成功押注深度学习
随着计算需求的不断增长,成本将继续下降。加速计算所带来的时间、成本或能源节省的一百倍,一百倍肯定会在其他地方引发新的发展。我们只是不知道它是什么,直到深度学习进入我们的意识。
AlexNet改造我们公司后的决定值得关注。AlexNet后我们的决定改变了我们的公司,也可能改变了其他一切。我们看到了深度学习的潜力,并且相信,只是通过原理思考相信,通过我们自己对深度学习的可扩展性的分析相信。我们相信该方法可以学习其他有价值的功能。也许深度学习是一种通用函数学习器,有多少问题很难或不可能使用基本的第一原理来表达。
因此,当我们看到这一点时,我们认为这是一项我们真正必须关注的技术,因为它的局限性可能仅受模型和数据规模的限制。然而,当时也遇到了挑战。现在是2012年,2012年刚过不久。我们如何才能在不构建这些大规模GPU集群的情况下探索深度学习的极限呢?
当时我们还是一家相当小的公司,构建这些庞大的GPU集群可能要花费数亿美元。但如果我们不这样做,就无法保证扩大规模后会有效。然而,没有人知道深度学习可以扩展到多远。如果我们不建造它,我们永远不会知道。这是其中之一,如果你建造它,他们会来吗?我们的逻辑是,如果我们不建造它,他们就不会来。
因此,我们根据我们的首要原则信念和分析做出了奉献。我们相信这会非常有效,当公司相信某件事时,我们就应该采取行动。因此,我们深入研究深度学习,并在接下来的十年里系统地重塑了一切。从GPU本身开始,我们重新发明了每个计算层。现代GPU的发明,与我们最初发明的过去的GPU非常不同。
我们继续发明了计算、互连、系统、网络和计算的几乎所有其他方面。当然,还有软件。我们投资了数十亿美元。我们向未知领域投资了数十亿美元。十年来,成千上万的工程师致力于深度学习,并推进和扩展深度学习,但他们并不真正知道我们可以将这项技术真正应用到什么程度。
我们投资了数十亿美元。我们设计并建造了超级计算机来探索深度学习和人工智能的极限。2016年,我们发布了DGX-1,我们的第一台人工智能超级计算机,我将第一台计算机交付给了旧金山的一家初创公司,一家无人知晓的初创公司,我的一群从事人工智能工作的朋友,一家公司称为OpenAI。
2022年,也就是AlexNet出现10年后,计算量增长了大约一百万倍,一百万倍。如果您能想象一下,如果您的笔记本电脑的功能增强一百万倍,会是什么样子?百万倍之后,OpenAI推出了ChatGPT,AI成为主流。
在这十年中,NVIDIA从一家图形公司(你们中的许多人可能首先知道我们是一家制造GPU的公司)转变为现在一家构建大型数据中心规模超级计算机的人工智能公司。我们彻底改变了我们的公司。我们还彻底改变了计算技术。当今计算的基本方式已经发生了根本性的改变。
计算堆栈现在使用GPU来处理在超级计算机上训练的大型语言模型,而不是使用处理程序员编写的指令的CPU。我们现在正在创建人类无法编写的软件。我们现在正在创建的软件可以完成人类无法想象的事情,即使是在10年前。计算机现在是意图驱动的而不是指令驱动的。告诉计算机你想要什么,它就会弄清楚如何做。
与人类一样,人工智能应用程序将理解任务、原因、计划并编排大型语言模型团队来执行任务。未来的应用程序的工作方式和执行方式将与我们的工作方式非常相似,组建专家团队,使用工具,推理和计划,并执行我们的任务。软件以及软件可以做什么已经完全改变了。甚至我们的行业,随着它的改变和转变,创造了另一个行业,一个世界上从未有过的行业。
一个产业正在我们眼前形成。AI的输入和输出都是代币。对于房间里的所有工程师,你们知道我的意思。这些是嵌入智能的浮点数。公司现在正在建设一种以前不存在的新型数据中心,专门生产智能代币。本质上是人工智能工厂。就像尼古拉·特斯拉在过去的工业革命中发明的交流发电机一样,我们现在有了AI代币发电机,它们将成为新工业革命的工厂。
有生产能源、电力的大型工业。我们现在有一个庞大的产业,生产一些看不见的东西,称为软件。在未来,在不久的将来,我们将拥有生产、制造智能代币、人工智能发生器的行业。一个新的计算模型已经出现,一个新的行业已经出现,这一切都是因为我们从第一原理出发,形成了对未来的信念,并付诸行动。
机器人技术是下一波浪潮
人工智能的下一波浪潮是机器人技术,其中人工智能除了语言模型之外,还有物理世界模型。我们与数百家公司合作,制造机器人、机器人车辆、拾放手臂、人形机器人,甚至整个巨型机器人仓库。但与我们的人工智能工厂战略和经验不同,我们的人工智能工厂战略和经验实际上是通过推理和深思熟虑的行动形成的,我们的机器人之旅是一系列挫折的结果。
如您所知,NVIDIA发明了GPU。这是在我们发明人工智能工厂之前。我们对计算机行业的第一个伟大贡献是通过可编程着色器重塑计算机图形。我们在2000年发明了GPU和可编程着色。我们希望将GPU集成到每台计算机中,因此我们开始将GPU与主板芯片结合起来,当时我们针对AMD CPU推出了一款非常棒的集成显卡芯片。
我们的芯片组业务立即取得了成功。我认为它几乎一夜之间就从零增加到了十亿美元。但突然之间,AMD想要控制PC中的所有技术,而我们想要保持独立,所以他们收购了ATI,不再需要我们。我们转向英特尔。这可能不是一个好主意,但我们求助于英特尔并协商了连接英特尔CPU的许可。
Apple对我们正在开发的产品感到非常兴奋,并要求我们与他们一起开发一台新电脑,这就是第一台MacBook Air。好吧,英特尔看到了发生的事情并决定他们不想让我们再这样做,所以他们终止了我们的协议。好吧,我们再次转向,这一次我们获得了ARM的许可,我们构建了一个低功耗SoC,一个移动SoC,世界上第一个SoC,本质上是一台计算机,一台完整的操作系统计算机,这是令人难以置信的。
我们的芯片让Google兴奋不已,他们要求我们开发一款新设备,结果就是Android移动设备。好吧,高通决定他们不希望我们这样做,所以他们不希望我们连接到他们的调制解调器,并且在不连接到调制解调器的情况下很难构建移动设备。而且没有其他LTE调制解调器公司,所以我们不得不退出移动设备市场。
嗯,这几乎是按照一年的节奏发生的,我们会建造一些东西,它会非常成功,产生巨大的兴奋,然后一年后,我们被踢出了这些市场。好吧,由于没有更多的市场可供转向,我们决定在我们确定没有客户的地方建立一些东西,因为你绝对可以保证的事情之一就是没有客户,也没有竞争对手,也没有人关心你。
所以我们选择了一个没有客户的市场,一个价值0亿美元的市场,那就是机器人技术。我们建造了世界上第一台机器人计算机,处理当时无人理解的深度学习算法。这已经是十多年前的事了。十年后,我对我们所构建的东西以及创造下一波人工智能浪潮的机会感到非常高兴。更重要的是,我们培养了敏捷性和韧性文化。
一次又一次的挫折,我们摆脱了困境,抓住了下一个机会。每一次,我们都获得了技能并增强了我们的性格。我们强化了企业特色。我们的公司真的很难分散注意力,也很难泄气。
如今,我们遇到的任何挫折都不是一个机会。讽刺的是,我们今天建造的机器人计算机甚至不需要图形,这就是我们的旅程开始的原因。所以我们今天所处的位置告诉了我们一些东西并教会了我们一些东西。正如理查德·费曼所说,世界是不确定的,世界可能不公平,给你发难牌。迅速摆脱它。显然,你对你的书籍过于关注了。迅速甩掉它。来吧,这很聪明。我笑了。那里还有另一个机会,或者创造一个机会。
找到自己的GPU
让我再告诉你一个故事。我曾经每年夏天在我们的一个国际站点工作一个月。当我们的孩子十几岁的时候,我们在日本度过了一个夏天。周末我们参观了京都银阁寺。如果你还没有机会去,你一定要去。它以其精致的苔藓花园而闻名。
我们参观的那天是典型的京都夏日,闷热潮湿,黏糊糊的。热量从地面散发出来。空气凝重、寂静。我们和其他游客一起漫步在精心打理的苔藓花园中。我注意到了那个孤独的园丁。现在,记住,苔藓花园,这是银殿,苔藓花园巨大。它拥有世界上几乎所有苔藓种类的最大收藏。而且它维护得非常精致。
我看到孤独的园丁蹲着,用竹镊子小心翼翼地夹着青苔,放进竹篮里。你必须这样做,这是一把竹镊子,你知道,而且就是这个园丁。篮子看起来是空的。嗯,有那么一会儿,我以为他正在把想象中的苔藓捡到一堆想象中的死苔藓中。于是我走到他面前,问他,你在做什么?他用英语说,我正在采摘死苔藓。我正在打理我的花园。
我说,但是你的花园太大了。他回答说,我照顾我的花园已经25年了。我有的是时间。嗯,这是我一生中最深刻的教训之一。它确实教会了我一些东西。这位园丁致力于他的手艺并从事他一生的工作。当你这样做时,你就有了充足的时间。
我每天早上都开始,我每天早上都以完全相同的方式做事,我每天早上都先做我最优先的工作。我有一个非常清晰的优先级列表,我首先从最高优先级的工作开始。在我开始工作之前,我的一天就已经很成功了。我已经完成了最重要的工作,可以将这一天奉献给帮助他人。
当人们为打扰我而道歉时,我总是说我有足够的时间,而且我确实有。2024届毕业生们,我很难想象还有谁比你们对未来做好了更充分的准备。你奉献了自己,你努力工作,你从世界上最负盛名的学校之一获得了世界一流的教育。当您开始进入下一阶段时,请采纳我的经验教训,希望它们能一路帮助您。
我希望你相信一些东西,一些非传统的东西,一些未经探索的东西,但让它被告知并让它被推理。然后全身心投入去实现它。你可能会找到你的GPU,你可能会找到你的CUDA,你可能会找到你的生成式AI,你可能会找到你的NVIDIA。
我希望你能将挫折视为新的机遇。你的痛苦和折磨会增强你的性格、你的韧性和敏捷性,它们是终极的超能力。在我最看重的关于我的能力的所有方面中,智力并不是最重要的。我忍受痛苦和折磨的能力,我在很长一段时间内从事某件事的能力,我处理挫折和看到即将到来的机会的能力,我认为这是我的超能力,我希望它们是我的超能力。你的。
我希望你能找到一门手艺。希望你能找到一门手艺。第一天做出决定并不重要,甚至很快做出决定也不重要,但我希望你确实找到一门手艺,你想奉献一生去完善它,磨练技能,并让它成为你的一生工作。
最后,优先考虑你的生活。有很多事情正在发生,有很多事情要做,但是优先考虑你的生活,你将有足够的时间去做重要的事情。
恭喜2024届毕业生,加油吧。
微信扫码关注该文公众号作者