Redian新闻
>
下半年,这些半导体领域率先吃到AI红利

下半年,这些半导体领域率先吃到AI红利

科技
AIGC带飞的不仅是英伟达。内存等AI芯片的关键部件,以及晶圆代工、电子制造、先进封装等半导体产业链的多个环节,也将受惠于AI芯片需求井喷所带来的市场增量,有的甚至在下半年就能看到“立竿见影”的效果。与此同时,AI芯片性能的迅速提升,也对内存、制造和封装环节提出了更高的要求。
AI拉动内存带宽需求,利好存储芯片
算力并不是AI芯片唯一的性能指标,内存同样对AI芯片的整体效能起到决定性作用。

SK海力士在第一季度财报中指出,大型语言模型和AIGC的开发和商用化,将带动HBM(高带宽内存)在2023年的需求上扬。三星也在第一季度财报指出,将为AI 带动的 DDR5 和高密度内存模块需求做好产能准备。

AI芯片一般要实现两大功能,AI训练和AI推理。其中,AI训练需要大量计算和存储资源,离不开高性能存储的支持。而AI推理的场景更加细分,对存储的成本、功耗、部署方式等,提出了多样化的需求。
英伟达A100搭载了6个HBM2E内存堆栈
在大模型的训练过程中,内存带宽直接影响了GPU的数据传输速度。一位业内人士告诉《中国电子报》记者:“计算和存储是同步进行的,在计算数据量增加的同时,如果存储的带宽不能匹配其数据量,就会造成延迟,势必会影响性能。”
英伟达NVLink(高速 GPU 互连技术)带宽迭代
来源:英伟达
当前,新一代HBM3的带宽最高可达819 GB/s,在辅助GPU进行运算时有明显优势。有市场人士透露,英伟达已经将SK海力士的HBM3应用于H100,这也使HBM3在DRAM整体表现不佳的情况下实现逆势增长。有消息称,2023年后,三星与SK海力士两家存储大厂的HBM订单增长迅速。HBM3的原价为30美元每GB,如今上涨5倍之多。
而AI推理的带宽需求,往往低于500Gb/s。在此类场景中,带宽高于 LPDDR5,低于HBM2E的GDDR6,是更加经济的选择 。Rambus IP 核产品营销高级总监Frank Ferro表示,如果将HBM3作为AI推理的存储设备,基本上会把带宽需求翻倍,超过了 AI 推理本身的带宽需求,还会使成本增加 3~4 倍。相比之下,GDDR6 是更加经济高效的选择。
“在摩尔定律可能失效的今天,仅谈算力可能并不适用,未来的竞争重心可能会向内存带宽转移。”该业内人士说。
代工厂和EMS获得急单,收割第二茬红利
如果说芯片设计厂商吃到的是AI芯片的第一茬红利,代工厂商就是第二茬红利的收割者。
有消息称,为应对市场对于高性能GPU的庞大需求,英伟达已向台积电追加了1万片晶圆的订单。业界预计,英伟达追单将带动台积电7nm及5nm业绩回升,并体现在台积电第三季度的营收中。
目前来看,仅台积电一家代工厂的产能,难以应对AIGC和大模型带来的算力井喷。服务器制造商需要等待超过6个月才能拿到英伟达最新的GPU。在这种形势下,英伟达也对寻找更多代工厂商保持开放态度。在今年5月Computex 2023期间,英伟达CEO黄仁勋表示,公司将寻求供应链多元化,对未来与英特尔合作开发人工智能芯片持开放态度,并透露英伟达已经收到了基于英特尔下一代工艺节点制造的测试芯片,测试结果良好。
英特尔制程工艺路线图
来源:英特尔
虽然英特尔在2023年第一财季承受着下行压力,但制程开发依然按照IDM 2.0计划的“4年内实现5个制程节点”推进。基于Intel 4 的 Meteor Lake预计下半年推出,Intel 3、Intel 20A、Intel 18A也在按计划稳步推进。如果英特尔与英伟达实现代工合作,不仅能够提升代工业务收益,也将提振市场对于英特尔代工业务的信心。
三星也对AI带来的算力需求保持乐观,预计代工市场将在高性能计算和汽车行业的拉动下复苏,带动代工盈利反弹。三星表示,将基于第二代3nm工艺拓展客户订单,并通过2nm技术的研发加强技术领先地位。
同样受惠的还有EMS(电子制造服务)厂商。据相关供应链消息,鸿海科技集团将负责今年下半年近九成的英伟达H100的系统代工(电子代工)。H100需求旺盛,毛利率高,有望为鸿海集团带来可观的业绩回报。而纬创将主要负责A100的系统代工。
先进封装产能需求提升,外溢效益显现
随着AI算力对于GPU的性能需求日益增长,芯片上的晶体管数量也呈现倍数级增长。
在AMD于6月14日凌晨发布的Instinct MI 300X芯片上,晶体管数量已经达到1530亿。一般来说,晶体管越多,芯片面积越大,良率的提升也越困难。由于摩尔定律放缓,依靠制程提升控制芯片面积的难度和成本越来越高,先进封装或将成为AI芯片破题的关键。
台积电主导的CoWoS封装是先进封装领域最早的AI受益者。CoWoS采用的整合型封装方式,能够实现更小的封装体积、更少的引脚和更低的功耗,获得了高性能处理器厂商的青睐。在4月20日举办的第一季度财报电话会上,台积电总裁魏哲家表示,近期刚刚接到了客户要求大幅增加后道封装产能的电话,尤其是CoWoS产能。
大河流水小河满。市场近期传出,由于英伟达等高性能计算用户的订单簇拥而至,台积电的先进封装CoWoS产能吃紧,选择将部分封装需求委托给日月光承接。矽品与 Amkor 也获得了 CoWoS 的外溢订单。
Chiplet同样有望受益于AI芯片浪潮。长电科技表示,面向AI时代高算力、高性能芯片的需求增长,2.5D/3D Chiplet封装、高密度SiP等高性能封装技术将成为推动芯片性能提升的重要引擎。其中,Chiplet能够搭建算力密度更高且成本更优的密集计算集群,显著提升高性能计算应用的性价比。矽品研发中心副总经理王愉博也表示,最新一代Chiplet依照不同的功能做区隔,或利用封装体的形态把两个相同的芯片相互串联,可避免芯片因尺寸太大导致良率损失。
AI对内存的需求,同样需要封装技术的支撑。三星表示,已经完成 8X HBM3 2.5D 封装技术(一种高密度内存集成技术)的开发,以满足未来的AIGC产品需求。
延伸阅读:
英伟达的挑战者
AMD对标“双英”放大招,市场为何不接招?


作者丨张心怡 王信豪
编辑丨刘晶
美编丨马利亚
监制丨连晓东

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
脑机接口或将在这些领域率先取得突破日本知名半导体厂商宣布:进军功率半导体半导体领域的技术新篇章,直线旋转执行器的实力之作!「赛美特」完成超5亿元C轮融资,将在半导体领域引入AI技术|36氪独家AIGC在媒体领域运用走到哪一棒?2023下半年反弹增长的8大领域日方计划扩大半导体制造设备出口管制范围,中国半导体行业协会严正声明不要在半导体领域重复造轮子董承非:半导体慢慢会演变为“芯片荒”,全球芯片价格会大涨,化合物半导体最有望弯道超车美国科技股“七巨头”疯涨半年,最后的多头狂欢是否到来?下半年华人群体该如何做好资产配置?谁谁谁,急什么急啊2023年下半年,墨尔本将迎来这些好事!半导体巨头“冲刺”千亿市值,华虹半导体能否打破“老二盈利难”魔咒?移民生活(1)儿子的技术移民我喜欢的健康食品 – 魔芋2023下半年,反弹增长的8大领域30+红利雇主来袭,快搭上这趟春招的车|红利招聘·红杉2023联合校招专场苹果带火UWB和Wi-Fi 7,谁抢先吃到红利?早财经丨外卖点餐新规:不将主食纳入满减优惠展示范围;人社部:人口红利没有消失,新的人才红利正在形成;美联储暂停加息张忆东:今年A股两条主线,下半年半导体是第一优选,明年5月美联储才会降息独家透露:2023下半年,这些创业者能融到资1400亿解禁洪流下周来袭!17股已公告半年报业绩,下半年北上资金加仓这些股elexcon2023八月来袭!带您看尽AI芯片、第三代半导体、Chiplet封测领域热门展示及20+论坛吃到直播设备红利,这公司单卖无线麦克风就年入2亿元“上半年亏近30%!我曾以为我会暴富...”A股上半年收官,赚钱效应较弱!60%的股民表示绿到发光!下半年会迎来翻身战吗?银行股上半年涨幅分化!大行涨幅居前,下半年息差能否企稳?这些高管表态了下半年买什么?券商本月调研超400家公司,这一领域被扎堆关注下半年,我们这些“凡人”,还有机会“起飞”吗?空气2023年下半年人工智能领域投资展望长篇小说连载《此世,此生》第五十章一独家透露:2023下半年,只投这些赛道中信证券魏来:对下半年市场相对乐观 期待共享中国经济红利200家!芯粤能,三安半导体,中电,英诺赛科,天岳,能华.......中国国际第三代半导体高峰论坛,火热报名!报满即止!半导体领域外部限制的报告摘要
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。