Redian新闻
>
Lisa Su采访,谈英伟达CUDA:不相信护城河

Lisa Su采访,谈英伟达CUDA:不相信护城河

公众号新闻

来源:内容由半导体行业观察(ID:icbank)编译自theverge,谢谢。


本周,美国媒体TheVerge举行了代码会议,我们在台上与所有嘉宾进行了愉快的现场交谈。我们今天分享的第一个对话是我与 AMD 首席执行官苏姿丰 (Lisa Su) 博士的对话。


我们讨论了数量惊人的话题,尤其是关于人工智能和芯片供应链的话题。过去几年,全球芯片短缺,疫情加剧了这种短缺,现在,由于每个人都想运行人工智能模型,需求突然再次大幅飙升。


Lisa 告诉我们,目前供需平衡总体上处于一个相当好的状态,但值得注意的是,这些高端 GPU 为每个人都运行的所有大型人工智能模型提供动力。


在这波浪潮中,最热门的 GPU 是 Nvidia 的 H100 芯片。但Lisa 告诉我们但,AMD 正在努力通过一款名为 MI300 的新芯片与之竞争,该芯片的速度应该与 H100 一样快。在软件方面也做了很多工作,以便开发人员可以在 Nvidia 和 AMD 之间轻松切换。所以我们开始讨论这个问题。


您还将听到Lisa谈论公司正在采取哪些措施来提高制造能力。最近通过的《芯片和科学法案》是美国朝着建立芯片制造迈出的一大步,但Lisa告诉我们,需要很长时间才能提高供应。因此,我想知道 AMD 如何实现供应链多元化,并确保其有足够的产能来满足所有这些新需求。


最后,Lisa 回答了 Code 观众提出的问题,并谈到了 AMD 目前在公司内部使用人工智能的程度。这比你想象的要多,尽管丽莎确实表示人工智能不会很快自行设计芯片。



以下为访问原文:


问:AMD 今天在人工智能市场发布了一些消息,可以分析一下背后的原因把?


Lisa Su:嗯,我可以说,首先,整个会议的主题,人工智能,是当今科技领域一切的主题。当我们审视计算真正推动人工智能发展的所有机会时,这正是我们正在努力的方向。所以,是的,今天,我们今天早上确实收到了一家公司的公告,一家名为 Lamini 的初创公司,这是一家我们一直在合作的伟大公司,其中有一些大型语言模型的顶尖研究人员。


对每个人来说关键的是,当我与首席执行官交谈时,人们都在问:“我知道我需要关注人工智能。我知道我需要做点什么。但我该怎么办呢?太复杂了。有很多不同的因素。” 借助像 Llama 这样的基础模型,许多企业实际上希望使用自己的数据自定义这些模型,并确保您可以在您的私有环境中为您的应用程序做到这一点。这就是Lamini所做的。


他们实际上为企业定制模型、微调模型,并且在 AMD GPU 上运行。所以这是一件很酷的事情。我们花了很多时间和他们在一起,真正优化软件和应用程序,以便尽可能轻松地开发这些企业、微调的模型。


问:在芯片市场,我们正在结束每个工艺节点的芯片都受到相当令人难以置信的限制的时期。你认为我们现在在哪里?


Lisa Su:这真有趣。我不知道在过去的 30 年里,我一直从事半导体行业,在很长一段时间里,人们甚至不真正了解半导体是什么,或者它们在整个供应链中的位置以及它们的位置。应用中必需的。我认为过去几年,特别是随着大流行驱动的需求以及我们在人工智能方面所做的一切,人们现在真正关注半导体。


我认为这是一个巨大的循环。第一个是我们需要的芯片比现有的多得多的周期,然后是我们拥有的芯片太多的周期。但归根结底,我认为事实是半导体对于许多应用来说都是必不可少的。尤其是对我们来说,我们关注的是最复杂、最高性能、最前沿的半导体。我想说市场有巨大的增长。


问:您认为现在的瓶颈是什么?这是最前沿的吗?是在较旧的工艺节点上吗?这就是我们在芯片短缺期间听到的情况?


Lisa Su:我认为整个行业已经真正聚集成一个生态系统,投入大量产能,以确保我们确实满足总体需求。所以总的来说,我想说,供需平衡处于一个相当好的位置,也许 GPU 除外。如果您需要 GPU 来进行大型语言模型训练和推理,那么它们现在可能很紧张。有点紧。


但我们付出了巨大的努力来提高整个供应链的能力。这些是世界上最复杂的设备之一——数千亿个晶体管和大量先进技术。但绝对会增加整体供应。


问:去年通过的《芯片和科学法案》对这个国家的晶圆厂进行了大量投资。AMD 显然是全球最大的无晶圆厂半导体公司。这是否已经产生了明显的效果,或者我们仍在等待它的实现?


Lisa Su:我确实认为,如果你看看《芯片和科学法案》以及它为美国半导体行业所做的事情,你会发现这确实是一件了不起的事情。我不得不说,向吉娜·雷蒙多以及商务部在工业界所做的一切表示敬意。这些都是需要很长时间的事情。美国的半导体生态系统五年前就需要建立。它现在正在扩张,尤其是在前沿领域,但这需要一些时间。


所以我不知道我们现在是否感受到了影响。但我们始终相信的一件事是,长期投资越多,您就会看到这些影响。所以我对本土产能感到兴奋。我也对我们国家研究基础设施的一些投资感到非常兴奋,因为这对于长期的半导体实力和领导地位也极其重要。


问:AMD 的结果不言而喻。您销售的芯片比几年前多得多。你在哪里找到这个供应的?当你等待这些新晶圆厂的出现时,你还在依赖台积电吗?


Lisa Su:再说一次,当你看看我们所处的业务时,你会发现它正在推动技术的前沿。因此,我们始终处于最先进的节点上,并努力实现下一个重大创新。这是工艺技术、制造、设计、设计系统的结合。我们对与台积电的合作感到非常高兴。他们是世界上最优秀的,拥有先进和领先的技术。


问:你能摆脱他们,实现多元化吗?


Lisa Su:我认为关键是地理多样性。因此,当你考虑地理多样性时,顺便说一句,无论如何,这都是事实。没有人愿意呆在同一个地方,因为自然风险就会发生。这就是《芯片和科学法案》实际上有所帮助的地方,因为现在美国正在建造大量的制造工厂。他们实际上将在接下来的几个季度开始生产,我们将积极在美国进行部分制造。


问:当英特尔首席执行官帕特·基辛格在俄亥俄州破土动工时,我与他进行了交谈。他们正试图成为一家晶圆代工厂。他非常自信地对我说:“我希望在其中一个晶圆厂的侧面有一个 AMD 标志。” 他离实现这一目标还有多远?


Lisa Su:嗯,我会这么说。我想说,从陆上制造业来看,我们确实正在寻找很多很多的机会。我认为帕特有一个非常雄心勃勃的计划,而且我认为这就是目标。我认为我们总是关注谁是最好的制造合作伙伴,对我们来说最重要的是真正致力于前沿技术的人。


问:在这方面市场上有台积电的竞争对手吗?


Lisa Su:市场上永远存在竞争。台积电当然非常好。三星确实进行了大量投资。你提到了英特尔。我认为日本也有一些活动来促进先进制造业的发展。所以有很多不同的选择。


问:我想和你谈谈人工智能。最近,关于华为的传闻甚嚣尘上,你觉得它是什么?


Lisa Su:让我们来看看。我不知道我会称其为惊天动地的地缘政治事件。看,我认为毫无疑问技术被认为对国家安全至关重要。从美国的角度来看,我认为我们希望确保保持领先地位。再次,我认为美国政府在这方面花了很多时间。


我看待这些事情的方式是我们是一家全球性公司。中国对我们来说是一个重要的市场。与其他商品相比,我们确实向中国出售了更多与消费品相关的商品,而且我们有机会真正采取平衡的方法来处理其中一些地缘政治问题。


问:所以你提到 GPU 受到限制。Nvidia H100,实际上存在获取这些芯片的黑市。你有一些芯片,你正在推出一些新的芯片。您刚刚宣布Lamini的训练完全在您的芯片上进行。由于 Nvidia 的供应如此有限,您是否看到了扰乱这个市场的机会?


Lisa Su:我想退后一步,谈谈人工智能市场正在发生的事情,因为正在发生的事情令人难以置信。如果你想想我们在过去 10 年或 20 年看到的技术趋势——无论你谈论的是互联网、手机革命还是个人电脑如何改变事物——人工智能是人工智能的 10 倍、100 倍,甚至更多。就它如何影响我们所做的一切而言。


因此,如果你谈论企业生产力,如果你谈论个人生产力或社会,从生产力的角度来看,我们能做的就是那么大。因此,GPU 短缺的事实,我认为这并不奇怪,因为人们认识到这项技术的重要性。现在,我们正处于人工智能(尤其是生成式人工智能)进入市场的早期阶段,我将其视为我们正在讨论的 10 年周期,而不是在接下来的两年内可以获得多少 GPU四个季度。


我们对我们的路线图感到兴奋。我认为,对于高性能计算,我将生成式人工智能称为高性能计算的杀手级应用程序。你需要越来越多。尽管今天的大型语言模型已经很好了,但如果继续提高训练性能和推理性能,它仍然可以变得更好。


这就是我们所做的。我们制造最复杂的芯片。我们确实推出了一款新产品。如果你想要代号的话,它的名字是MI300 ,那会非常棒。它针对大型语言模型训练以及大型语言模型推理。我们看到机会了吗?是的。我们看到了巨大的机遇,而且它不仅仅存在于一个地方。云计算人员是唯一用户的想法是不正确的。将会有很多企业人工智能。许多初创公司在人工智能方面也获得了巨大的风险投资支持。因此,我们在所有这些领域都看到了机遇。


问:就性能而言,这是否会与H100竞争或超过H100?


Lisa Su:它肯定会在训练工作负载方面具有竞争力,并且在人工智能市场中,与芯片相关的没有一刀切的产品。有些人在训练中表现出色。有些对于推理来说是特殊的,这取决于你如何将它们组合在一起。


我们通过 MI300 所做的是构建了一款出色的推理产品,尤其是大型语言模型推理。因此,当我们展望未来时,现在所做的大部分工作是公司训练和决定他们的模型将是什么。但展望未来,我们实际上认为推理将成为一个更大的市场,这对我们设计 MI300 的一些目的起到了很好的作用。


问:如果你看看华尔街认为 Nvidia 的模式是什么,那就是 CUDA、专有软件堆栈、与开发者的长期关系。你有 ROCm,这有点不同。您认为这是一条可以通过更好的产品或更开放的方法来克服的护城河吗?你打算如何攻击它?


Lisa Su:当市场变化如此之快时,我不相信护城河。当你想到护城河时,你会发现这是更成熟的市场,人们并不真正想要改变很多事情。当你观察生成式人工智能时,你会发现它正在以令人难以置信的速度发展。我们在常规开发环境中几个月内取得的进展可能需要几年时间。尤其是软件,我们的方法是开放软件方法。


实际上存在二分法。如果你看看过去五年、七年或八年开发软件的人,他们倾向于使用……让我们称之为更特定于硬件的软件。很方便。那里没有太多选择,所以这就是人们所做的。当你展望未来时,实际上你会发现每个人都在寻求构建与硬件无关的软件的能力,因为人们想要选择。坦率地说,人们想要选择。人们希望使用旧的基础设施。人们希望确保他们能够从一种基础设施迁移到另一种基础设施。因此,他们正在构建这些更高级别的软件。例如,像 PyTorch 这样的东西往往具有与硬件无关的功能。


所以我确实认为未来 10 年将会与过去 10 年有所不同,因为这关系到你如何在人工智能领域发展。我认为我们在整个行业和生态系统中都看到了这一点。开放方法的好处是没有一家公司拥有所有的想法。因此,我们越能将生态系统整合在一起,我们就能利用所有那些真正非常聪明、想要加速人工智能学习的开发人员。


问:PyTorch 很重要,对吗?这是所有这些模型实际编码所用的语言。我与一群云首席执行官交谈过。他们不喜欢依赖 Nvidia,就像任何人不喜欢依赖任何一家供应商一样。您可以与这些云提供商合作并说“我们将针对 PyTorch 而不是 CUDA 优化我们的芯片”,而开发人员可以在 PyTorch 上运行并选择最佳优化的吗?


Lisa Su:就是这样。因此,如果您考虑一下 PyTorch 正在尝试做什么 - 它确实试图成为那种与硬件无关的层 - 我们提出的主要里程碑之一是 PyTorch 2.0,AMD 在第一天就获得了资格。这意味着现在在 PyTorch 上运行 CUDA 的任何人都可以在 AMD 上运行,因为我们已经在那里完成了工作。坦率地说,它也可以在其他硬件上运行。


但我们的目标是“愿最好的芯片获胜”。这样做的方法就是让软件变得更加无缝。它是 PyTorch,但也是 Jax。这也是 OpenAI 与 Triton 一起引入的一些工具。人们提出了许多与硬件无关的不同工具和框架。有很多人也在做“构建自己的”类型的事情。所以我确实认为这是人工智能软件的未来浪潮。


问:您是否正在为这些公司制造定制芯片?


Lisa Su:我们有能力构建定制芯片。我认为构建定制芯片的时间实际上是当你获得非常大容量的应用程序时。所以我相信未来几年将会出现定制芯片。另一件有趣的事情是人工智能需要所有不同类型的引擎。因此,我们花了很多时间讨论大型 GPU,因为这是交易大型语言模型所需要的。但您也会看到一些 ASIC……我们称之为更狭窄的应用程序。您还将在客户端芯片中看到人工智能。因此,我对人工智能将如何广泛地融入所有细分市场的芯片感到非常兴奋。


问:收购 Xilinx 一年半后,您如何看待自适应计算在人工智能领域的应用?


Lisa Su:我认为,首先,对 Xilinx 的收购是我们大约 18 个月前完成的收购——非常棒的收购。带来了很多高性能IP和自适应计算IP。我确实看到,特别是在这些人工智能引擎上,这些引擎针对数据流架构进行了优化,这是我们能够作为赛灵思的一部分引入的东西之一。这实际上是现在进入个人电脑的IP。


因此我们看到那里的 IP 使用量很大。当我们一起前进时,我坚信没有一台计算机是正确的。您实际上需要为正确的应用程序提供正确的计算。因此,无论是 CPU、GPU、FPGA 还是自适应 SoC,您都需要这些。这就是我们正在整合的生态系统。


点击“阅读原文”,可查看英文原文。



*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。


今天是《半导体行业观察》为您分享的第3539期内容,欢迎关注。

推荐阅读


台湾的封装,也要被瓜分

打破英伟达霸权,Meta放了个大招!

ReRAM,旨在替代Nor Flash!


半导体行业观察

半导体第一垂直媒体

实时 专业 原创 深度


识别二维码,回复下方关键词,阅读更多

晶圆|集成电路|设备|汽车芯片|存储|台积电|AI|封装

回复 投稿,看《如何成为“半导体行业观察”的一员 》

回复 搜索,还能轻松找到其他你感兴趣的文章!

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
英伟达的芯片护城河亚马逊Review大变革真来了,爆款老品护城河被消解你好,我是筚(bì)篥( lì)!“别太相信爱,也别不相信爱”5126 血壮山河之武汉会战 富金山战役 14走过纽芬兰(二)美团优选有护城河吗?机构点评汇总:“传奇”品类护城河稳固钻石价格暴跌四成:人们仍相信爱,但不相信钻石了英伟达的两条护城河英伟达特拉维夫AI峰会取消!老黄内部邮件曝出:英伟达员工也被绑架哪些A股具备稳固护城河?小米的科技护城河在哪里?《有缘人》&《长相思》十年打造智能手表三重护城河,华为如何遥遥领先?如何跨越英伟达的CUDA护城河?GPU暴增的GenAI时代,AMD正跨越英伟达的CUDA软件护城河远离罗刹国,珍惜亲情和爱情ASML:保住了护城河,但还是有点慌护城河够深,Booking强势回归哪些A股具备稳固护城河?这份名单,请收藏!孙红雷移民澳洲,网友:你可以不相信他的人品,但要相信他的嗅觉英伟达CPU ,吊打Intel和AMD年度最绝融资:拿英伟达H100抵押贷款165亿,买更多英伟达GPU扩建10个数据中心创业公司最大的护城河是什么?英伟达护城河深不见底!一文梳理老黄如何成为AI赛道的无冕之王英伟达CEO黄仁勋:我们害怕社交媒体,但我们不害怕人工智能三大护城河将为苹果保驾护航头脑正常的人绝不会创业!英伟达CEO黄仁勋:如果能够重来,宁愿放弃创办公司护城河得到三重巩固,Shopify这回稳了?燃情岁月1989(18)狂奔的长城,垒起体系化护城河资本不相信故事,凭什么相信你的PPT?成功在于远见?英伟达CEO称英伟达5年前把一切都押在了AI上10元的咖啡,还是攻不破星巴克的护城河
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。