来源:芯东西‘ 作者:黄仁勋
6月17日消息,英伟达创始人兼CEO黄仁勋周五在加州理工学院第130届毕业典礼上发表演讲,鼓励毕业生们以奉献精神和坚韧不拔的精神追求自己的事业,并将挫折视为新的机遇。黄仁勋表示:英伟达在十多年前还是一家小公司时,就押注深度学习,投入数十亿美元和多年的工程资源来重塑每个计算层。“没有人知道深度学习的规模有多大,如果我们不去构建它,我们永远不会知道。英伟达还多次遇到挫折,曾被AMD、英特尔、高通接连“踢出市场”。“世界可能不公平,会给你发烂牌,赶快摆脱它吧,”他打趣道,“还有另一个机会——或者创造一个机会。
我相信我是当今世界上任职时间最长的科技CEO。在31年的工作中,我没有破产,没有厌倦,没被炒鱿鱼。因此,我很荣幸享受了很多人生经历,从创建英伟达至今,所以我谈到了创建CUDA的漫长之路。CUDA是我们花了20多年才发明出来的编程模型,它在当今的计算领域掀起了一场革命。我鼓励毕业生们参与我们这个时代最重要的技术——人工智能(AI)。有些是令人失望的,有些是令人惊讶的。但你必须享受它,你必须参与其中,因为它发展得如此之快。这是我所知道的唯一一个同时在多个有利方向发展的技术。技术变化得非常非常快。我建议台湾大学的学生跑起来,不要走,参与AI革命。一年后,它发生了不可思议的变化。今天我想做的是从我的角度来分享对你们即将毕业的一些重要事情的观点。计算机行业正在从基础设施开始转型,确切说从螺柱开始,一切都在发生变化,穿过每一层面,很快,每个行业都将发生变革。原因很明显,如今计算机是最重要的知识工具,是每个科学领域每个行业的基础。如果我们深刻地改变计算机,它当然会影响到每一个行业。我会稍微谈到这一点。当你进入这个行业,了解正在发生的事情是很重要的。我们这一代人参与的工业革命见证了世界上前所未有的大规模生产,看不见的、易复制的东西的大规模生产,软件的大规模生产。它催生了一个价值3万亿美元的产业。当我坐在你们这个位置上时,IT行业还很小,卖软件赚钱的概念只是幻想。今天,软件是我们行业生产的最重要的技术和产品创造之一。然而,登纳德缩放、晶体管缩放和指令集并行性的限制降低了CPU性能。CPU性能放缓正发生在计算需求与计算机之间的差距呈指数级增长的时候。如果不解决,计算的能耗和成本,膨胀最终会扼杀所有行业。我们可以清楚看到计算膨胀的迹象。经过二十年的发展,英伟达的CUDA、英伟达的加速计算为我们指明前路。这就是我来这里的原因。行业终于意识到加速计算的惊人有效性,就在我们目睹几十年后计算膨胀之时。通过将耗时的算法卸载到专门用于并行处理的GPU上,我们通常会实现10倍、100倍甚至是1000倍的速度提升,从而节省资金、成本和能源。我们加速了计算机图形、光线追踪、基因测序、科学计算、天文学、量子电路模拟、SQL数据处理,甚至Pandas数据科学。加速计算达到了一个临界点。这是我们对计算机行业、对社会的第一个贡献。我们提供了一条通往可持续计算的道路,随着计算需求的持续增长,成本将继续下降。加速计算带来100倍、1000倍的时间、成本或能源节省,肯定会在其他地方引起新的发展。一个全新的计算机世界出现了。杰夫·辛顿(Geoffrey Hinton),亚历克斯·克罗舍夫斯基(Alex Krizhevsky)、伊尔亚·苏茨克维(Ilya Sutskever)使用英伟达CUDA GPU训练AlexNet,并赢得了2012年ImageNet挑战赛,震惊了计算机视觉界。这是一个重要时刻,深度学习的大爆炸,一个标志着AI革命开始的关键时刻。当时也存在挑战。这是2012年刚过不久,如果不构建这些庞大的GPU集群,我们如何探索深度学习的极限?当时我们还是一家小公司,构建庞大的GPU集群可能要花费数亿美元,但如果我们不这样做,就不能保证扩大规模后会有效。然而,没有人知道深度学习可以扩展到什么程度,如果我们不去构建它,我们永远不会知道。这是其中之一,如果你构建它,它会来吗?我们的逻辑是,如果我们不构建,它们就来不了。我们根据第一原则相信和分析致力于此,我们相信这是非常有效的,当公司相信某件事的时候,我们应采取行动。因此我们深入研究深度学习,并在接下来的十年里系统地重新发明了一切,重塑了每个计算层,从GPU本身开始。现代GPU的发明与过去我们最初发明的GPU截然不同,我们继续发明了互连、系统、网络,当然还有软件。我们在未知领域投入了数十亿美元,十年来,成千上万的工程师研究深度学习,在不知道技术能走多远的情况下前进。我们设计并制造了超级计算机,以探索深度学习和AI的学习极限。2016年,我们发布了DGX-1,我们的第一台AI超级计算机。我把第一台交给了旧金山的一家名不见经传的初创公司,叫作OpenAI。我的一群朋友正在研究AI。2022年,AlexNet问世十年后,计算能力提高了一百万倍。想象一下如果你的笔记本电脑是现在的一百万倍,会是什么样子?一百万倍之后,OpenAI推出了ChatGPT,AI成为了主流。在这十年中,英伟达从一家显卡公司转型,你们中的许多人可能第一次知道我们是构建GPU,到现在一家构建大型数据中心级超级计算机的AI公司。我们彻底改变了公司,我们彻底改变了计算,今天的计算方式已经发生了根本性的变化。现在的计算机堆栈使用GPU来处理在超级计算机上训练的大语言模型,而不是处理程序员编写的CPU指令。我们现在正在创建能够完成十年前人类无法想象的事情的软件。计算机现在是意图驱动的,而不是指令驱动的。告诉计算机你想要什么,它会算出来的,它会找到方法的。像人类一样,AI应用程序将理解任务、原因、规划和协调一个大语言模型团队来执行任务。将来的应用程序所做的和执行的都会与我们做事的方式相似,组建专家团队,使用工具、推理、计划和执行我们的任务。软件和软件的功能已经完全改变了。甚至我们的行业也在改变和转型中创造了另一个行业,一个前所未见的行业。一个行业正在我们眼前形成,AI的输入和输出是token。对在座的所有工程师来说,你们都明白我的意思,这些是嵌入智能的浮点数。公司现在正在建立一个前所未有的新型数据中心,专门生成智能token,本质上是AI工厂。就像过去工业革命中尼古拉·特斯拉(Nicola Tesla)发明的交流发电机,现在我们有了AI token生成器,它们将是新工业革命的工厂。这里有生产能源、电力的大型工业。我们有一个庞大的产业生产软件。在不久的将来,我们将拥有生产、制造智能token的行业——AI生成器。一种新的计算模式和一个新的产业已经出现了。这都是因为我们从第一原则出发,形成了我们对未来的相信,并付诸行动。AI的下一波浪潮是机器人技术。除了语言模型外,AI还有物理世界模型。我们与数百家公司合作,制造机器人、自动驾驶车辆、搬运机械臂、人形机器人,甚至整个巨大的机器人仓库。但与我们的AI工厂战略和我们在那里的经验不同,AI工厂战略是通过推理和深思熟虑的行动形成的,而我们的机器人之旅源自一系列挫折。你们都知道英伟达发明了GPU,这是在我们发明AI工厂之前。我们对计算机产业的第一个伟大贡献是通过可编程着色器重新发明了计算机图形。我们希望将GPU集成到每台计算机中,因此我们开始把GPU和主板结合起来。当时我们推出了一款很棒的适用于AMD CPU的集成显卡芯片,我们的芯片业务立刻获得了巨大的成功,几乎一夜之间就赚了十亿美元。AMD想要控制PC(个人电脑)中的所有技术,而我们想保持独立,所以他们收购了ATI,不再需要我们。我们转向了英特尔。这可能不是个好主意。但我们转向英特尔并协商了一个连接到英特尔CPU的许可。苹果对我们正在开发的产品很感兴趣,邀请我们和他们合作开发一款新电脑,这就是第一款MacBook Air。英特尔看到这种情况后不想让我们再这么做,终止了我们的协议。我们又转变方向。这次我们去拿了Arm的许可,制造了一个低功耗SoC,一个移动SoC。世界上第一个SoC本质上是一台功能齐全的电脑,简直不可思议。我们的芯片令谷歌很兴奋,他们邀请我们开发一种新设备,后来发现就是安卓手机设备。但高通决定不让我们这么做。他们不希望我们连接到他们的调制解调器上,而如果不连接到调制解调器上,就很难制造一款移动设备。当时也没有其他先进的调制解调器公司,所以我们不得不退出移动设备市场。这种情况几乎一年发生一次。我们会创造一些东西,它会取得巨大的成功,引起极大轰动,然而一年后,我们被踢出这些市场。由于没有更多的市场可供选择,我们决定建立一个我们确信不会有客户的地方。因为有一件事你一定能肯定,那就是没有客户的地方,也就没有竞争对手。没人关注你。所以我们选择一个没有客户的市场,一个0亿美元市场。机器人就是那样的市场。我们构建了世界上第一台机器人计算机,处理一种当时没人理解的算法,即深度学习。这是十多年前的事了。十年后,我对我们所创造的一切和有机会创造下一波AI浪潮感到无比高兴。一次又一次,我们摆脱了挫折,抓住下一个机会。每一次我们都获得了技能和增强了性格。我们增强了我们的企业性格。我们公司很难分心,很难气馁。这些日子我们遇到的任何挫折都不像是机会。讽刺的是,我们今天制造的机器人计算机甚至不需要图形,这就是我们的旅程开始的原因。所以我们今天所处的位置告诉了我们一些事情,也教会了我们一些东西。正如理查德·费曼所说的那样,世界可能不公平,给你发烂牌,赶快摆脱它吧。显然你把很多注意力放在书本上了。赶快摆脱它。来吧。我过去每年夏天都会在我们的一个国际站点工作一个月。当我们的孩子十几岁时,我们在日本过暑假。在一个周末,我们参观了京都和银阁寺。如果你还没有机会去,你一定要去。它以精致的苔藓花园而闻名。我注意到一位孤独的园丁,蹲在那儿,小心地用一根竹镊子摘青苔,然后把它放进竹篮里。篮子看起来是空的。有那么一刻,我还以为他在从一堆假想的死苔藓中摘选想象的苔藓。他回答说:“我照料我的花园已经25年了。我有充足的时间。”那是我人生中最深刻的感悟之一,它真的教会了我一些东西。这位花匠专心于他的手艺,做着他毕生的事业。当你这样做的时候,你就有充足的时间。我每天早上都要以同样的方式开始做事,我每天早上都从最重要的工作开始,我有一个非常明确的优先级列表,我从优先级最高的工作开始。在我开始工作之前,我的一天就已经成功了。我已经完成了我最重要的工作,并且可以把我的一天奉献给帮助别人。当人们为打断我而道歉时,我总是说,我有足够的时间。我确实是的。2024届的毕业生们,我很难想象会有谁比你们更能对未来做好准备。我希望你们相信一些东西,一些非传统的、未被探索过的东西。但要让它变得明智、合理,并致力于实现它。你们可能会找到自己的GPU,你们可能会找到自己的CUDA,你们可能会找到自己的生成式AI,你们可能会找到自己的英伟达。我希望你们把挫折看作是新的机会。痛苦和磨难会锤炼你的性格,韧性和敏捷性,它们是终极的超能力。在我最珍视的能力中,智力不是最重要的。我忍受痛苦和磨难的能力,我长时间工作的能力,我应对挫折的能力和看到即将到来的机会的能力,我认为这些是我的超能力,我希望它们也是你的。我希望你能找到一门技艺,第一天就决定并不重要,很快做出决定并不重要。但我希望你能找到一门技艺,你想用一生去完善它,磨练技能,让它成为你一生的事业。最后,优先考虑你的生活。有很多事要做。但优先安排你的生活,你就会有充足的时间去做重要的事情。联系我们:txm176(值班微信)广告及商务合作:电话18660411611投稿及采访约谈:邮箱[email protected]
版权声明:制造界除发布原创文章外,亦致力于优秀文章的交流分享。转载须注明文章来源和作者;申请转载授权请在文末或后台留言。版权所有,违者必究。