Redian新闻
>
英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型

英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型

公众号新闻
618限时特惠  点击图片进入活动会场


AMD的“终极武器”来了!

美东时间6月13日,AMD在“AMD数据中心与人工智能技术首映会”上宣布,即将推出迄今为止最先进的人工智能GPU MI300X芯片,该芯片可以加快ChatGPT和其他聊天机器人使用的生成式人工智能的处理速度,并可以使用高达192GB的内存。

MI300X的HBM密度高达英伟达AI芯片H100的2.4倍,HBM带宽高达H100的1.6倍,可以运行的模型比H100的更大。另外,AMD发布的其他新品已吸引硅谷巨头:亚马逊云运用四代EPYC 处理器打造实例;微软Azure推出搭载Genoa-X CPU的新实例;Meta计划使用AMD的新云芯片Bergamo。

相比之下,英伟达的H100芯片只支持120GB内存,市场普遍认为这意味着英伟达在这一新兴市场的主导地位或将受到挑战MI300X将于今年晚些时候开始向部分客户发货。

AMD CEO苏姿丰还介绍到,MI300X可以支持400亿个参数的Hugging Face AI 模型运行,并演示了让这个LLM写一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型。单个MI300X可以运行一个参数多达800亿的模型。

虽然投资者期待AMD能够在AI芯片领域与英伟达展开竞争,但分析师们并未跟风吹一波AMD的这一强大武器,而是很理智地指出,AMD想要在人工智能芯片领域挑战英伟达的行业龙头地位,还有很长的路要走,仅凭这款芯片并不能做到。

花旗芯片分析师 Chris Danely 在最新报告中表示,AMD的MI300芯片似乎在设计上取得了巨大的胜利,但考虑到性能的局限性和失败的历史,他对图形/CPU IC的可持续性表示怀疑,“虽然我们预计AMD将继续从英特尔那里获得市场份额,但其新的 Genoa 产品的增长速度似乎比预期的要慢”。

当日,Cambrian-AI Research LLC 创始人兼首席分析师 Karl Freund 也在福布斯上发文表示,虽然AMD新推出的这款芯片激起了市场各方的巨大兴趣,但与英伟达的H100芯片相比,MI300X面临着一些挑战,主要有以下四个方面:

第一,英伟达的H100今天开始全面出货;到目前为止,英伟达仍拥有AI行业最大的软件和研究人员生态系统。
第二,虽然MI300X芯片提供了192GB内存,但英伟达在这一点上将很快迎头赶上,甚至在相同的时间框架内可能实现反超,所以这并不是一个很大的优势。并且 MI300X 的售价将会十分高昂,与英伟达的H100相比不会有明显的成本优势。
第三才是真正的关键:MI300没有像H100那样的Transformer Engine(一个用于在英伟达GPU上加速Transformer模型的库),H100可以将大语言模型(LLM)的性能提高两倍。如果用几千个(英伟达的)GPU来训练一个新模型需要一年的时间,那么用AMD的硬件来训练可能需要再等2-3年,或者投入3倍的GPU来解决问题。
最后,AMD还尚未披露任何基准测试。但是训练和运行LLM时的性能取决于系统设计和GPU,所以很期待今年晚些时候能够看到一些与同业竞争对手的比较。

不过,Freund 也补充称,MI300X可能会成为英伟达GH200 Grace Hopper超级芯片的替代选择。像OpenAI和微软这样的公司需要有这样的替代品,虽然他怀疑AMD会给这些公司一个无法拒绝的报价,但AMD不会从英伟达那里抢走很多市场份额。

今年以来,AMD的股价已经上涨了94%,昨日美股收跌3.61%,而同行英伟达则收涨3.90%,市值首次收于1万亿美元关口上方。

事实上,英伟达的领先地位不仅来自于其芯片,还来自于十多年来为人工智能研究人员提供的软件工具。Moor Insights & Strategy 分析师 Anshel Sag 表示:“即使AMD在硬件性能方面具有竞争力,但人们仍然不相信其软件解决方案能与英伟达竞争。”


有望带动科技企业的良性竞争

美国科技类评论家 Billy Duberstein 12日指出,随着ChatGPT的火热,AI似乎开辟了新的领域,在许多行业的领先公司之间展开了一场竞赛,争相夺取市场份额。无论英伟达还是AMD赢得了这场竞赛,每家科技公司都会从中受益。

Duberstein 表示,潜在客户对MI300非常感兴趣。他引用《数字时报》6月8日的一篇文章称,数据中心客户正在强烈要求寻找英伟达的替代产品。目前英伟达在人工智能GPU这个高利润、高增长的市场占据主导地位,在AI服务器领域占据60%至70%的市场份额。

Duberstein 接着指出,鉴于目前英伟达H100的服务器价格高昂,数据中心运营商希望看到英伟达有一个第三方竞争对手,这有助于降低AI芯片的价格。因此,这对AMD来说是一个巨大的优势,对英伟达来说则是一个挑战。这能为每个市场参与者带来良好的盈利能力。

上个月,摩根士丹利分析师 Joseph Moore 调整了他对AMD人工智能收入的预期,称其可能比最初预期的高出“数倍”。


中国企业竞逐GPU AI产业链有望持续从中受益

目前全球各大科技企业都在争夺AI入场券。相比海外巨头,中国大科技公司采购GPU更为急迫。

据《晚点 LatePost》了解,今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单。字节今年向英伟达订购了超过10亿美元的 GPU,另一家大公司的订单也至少超过10亿元人民币。而且仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用GPU总和。

国金证券对AMD的新动作表示继续看好AI产业链。该机构认为,生成式AI的持续火爆,带动了AI芯片的强劲需求,英伟达二季度数据中心业务指引大超预期,台积电4nm、5nm、7nm产能利用率提升明显,都是最好的证明。

国金证券指出,根据产业链调研,光模块-DSP芯片龙头厂商表示AI相关业务未来有望快速增长;CPU/GPU均热片龙头公司表示AI GPU二、三季度环比大幅增长。服务器PCIe Retimer芯片龙头公司表示三季度需求加速,逐季向上。因此看好2024-2025年AI新品的拉货,AI产业链有望持续从中受益。

本文不构成个人投资建议,不代表平台观点,市场有风险,投资需谨慎,请独立判断和决策。

觉得好看,请点“在看”

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
老黄发布最强AIGC芯片!内存容量暴增近50%,可运行任意大模型,“生成式AI的iPhone时刻已来”李开复AI2.0新公司零一万物亮相,百亿参数模型正在内测MD推出新AI芯片MI300X,应战英伟达,芯片市场竞赛升温|最前线苏姿丰黄仁勋不谋而合,AMD推出超级芯片MI300?!1942年,汪兆娥投奔汪精卫的照片,满脸得意650亿参数,8块GPU就能全参数微调!邱锡鹏团队把大模型门槛打下来了!GPT-4参数最新爆料!1.76万亿参数,8个2200亿MoE模型,PyTorch创始人深信不疑挑战英伟达,AMD即将推出AI芯片MI300X苏妈战老黄!官宣AMD大模型专用卡,对标英伟达H100,可跑更大模型参数是ChaGPT的近6倍!英特尔公布AI大模型Aurora genAI,具备1万亿参数评“刘亚洲为谁殉道”一文3w+星标项目大佬创业:树莓派即可运行大模型,已获GitHub前CEO投资1530亿晶体管芯片发布,AMD正式叫板英伟达650亿参数,8块GPU就能全参数微调:邱锡鹏团队把大模型门槛打下来了做扬州女婿很幸福(1):淮扬早点[电脑] 再战3A平台——华硕X670E+蓝宝石7900XTX+AMD7950X+海盗船热机电装机SHOW!AMD放大!苏妈甩出最强AI芯片叫板老黄,可跑800亿参数大模型十亿参数,一键瘦身!「模型减重」神器让大模型狂掉3/4 | 最“in”大模型参数是 ChatGPT 的近 6 倍!英特尔公布 AI 大模型 Aurora genAI,具备 1 万亿参数苹果已研究生成式AI多年/阿里云开源通义千问70亿参数模型/新一代Switch最早本月宣布百川开源最强中英文百亿参数模型!超越LLaMA,中国开源大模型开启商用新纪元大羊驼LLaMa竞品来了:AI画图最火公司开源语言模型,最小30亿参数听人劝,吃好饭!OpenAI对ChatGPT进行更新;百川智能正式推出70亿参数开源中英文大模型|AIGC周观察第六期树莓派上运行 Stable Diffusion,260MB 的 RAM「hold」住 10 亿参数大模型Midjourney劲敌来了! 谷歌StyleDrop王牌「定制大师」引爆AI艺术圈阿里50亿参数的AI画画模型火了,可再厉害的人工智能也无法模仿孩子的画爱奇艺VR公司业务停滞,员工或被欠薪;阿里云开源通义千问 70 亿参数模型,免费可商用;华为正式发布鸿蒙 4,接入大模型|Q资讯华为「宣战」特斯拉, Model 3 新的劲敌来了《向着温暖的阳光》&《终于等到你》高通押注混合AI,终端侧或将运行100亿参数模型谷歌终于能与OpenAI 打擂台了!全新PaLM 2比肩GPT-4:一部手机就可运行,精通Python等20种语言GPT-4关键信息遭泄露;北京将发4000万元算力券;百川智能推130亿参数大模型丨AIGC大事日报陈丹琦团队提出低内存高效零阶优化器MeZO,单卡A100可训练300亿参数模型Midjourney劲敌来了! 谷歌StyleDrop王牌「定制大师」引爆AI艺术圈 |【经纬低调分享】
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。