AI芯片新战事,看看英伟达和3个对手在做啥!|前哨
▲ 点击订阅,抓住风口
10月26日,前哨科技特训营【前哨产业/企业预测框架】专题,王煜全和大家分享了预测产业未来、分析企业价值的工具。
直播中点评了高通最近发布的AI芯片,对高通的未来也做了解读。
随着AI大模型热潮走向应用,AI算力成为新的竞争焦点,云端被英伟达把持,手机、电脑这样的边缘场景成为新的场景。
今天,我们为大家汇总了英伟达、高通、谷歌、英特尔的最新布局,看看边缘AI芯片有哪些新动向。
这里要提醒一下大家,芯片设计的周期远比大家想象的要长,今天讲的AI故事往往都是一年,甚至两年之前布局的成果,不能只看故事包装,更要明白技术内核与未来趋势才行。
你如果还想了解更多AI产业动态,看清边缘AI芯片会不会带来颠覆式创新,欢迎点击文首入口,加入前哨科技特训营,11月的AI专题我们继续聊一聊。
10月31日,也就是下周二,全球风口视频号也会和大家带来一场直播对谈,王煜全将与场景实验室创始人吴声老师畅谈「新科技、新场景、新全球化」,欢迎预约观看。
高通全面押注AI芯片
10月24日,高通在2023年骁龙峰会上隆重发布针对PC设备的骁龙X Elite芯片和针对智能手机的骁龙8 Gen 3平台。
这两款新品除了常规的性能提升,人工智能(AI)能力成为了整个发布会上最热的关键词。
本周四的直播中,王煜全和大家也做了点评,使用前哨产业/企业方法论,分析了高通的未来潜力。
今天我们详细拆解下高通在AI上的新动作,看看都有哪些亮点。
骁龙X Elite:带着AI能力杀入PC市场
骁龙X Elite是高通首款推出的骁龙PC处理器,最大的卖点就在集成NPU模块,大幅提升PC处理AI任务时的速度。
常规的性能参数不少自媒体都有解读,简单说比英特尔酷睿i7-13800H提升60%,功耗减少65%;在多线程性能方面比苹果M2芯片提高50%。
最关键的NPU卖点,高通宣布其AI处理能力达到竞争对手的4.5倍以上,能本地运行最高130+亿参数的大型语言模型,常规支撑70亿参数的较小AI模型,实现每秒30 tokens生成速度,差不多就是每秒10—20个字左右。
骁龙8 Gen 3:为AI而生的移动芯片
骁龙8 Gen 2时代高通在GPU性能上大幅超越苹果,这次8 Gen 3的进步可以总结成两点:CPU、GPU按照老思路优化,堆上NPU搞差异化。
芯片制程没有提升,仍然采用4nm制程工艺,CPU、GPU都保持了30%左右的性能提升;而NPU则拿出了AI性能提升98%的指标。
技术名词解答起来很负责,从应用上看更为清晰,高通官方宣布8 Gen 3 会支持OpenAI、Meta、百度公司发布的20+AI大模型本地运行。
一个可见的案例,8 Gen 3实现过Stable Diffusion本地1秒生成1张图像。
当然,这些都是官方给出的参考数据,性能究竟如何还要看实际产品才行,从首发的小米14看CPU、GPU性能进步没有什么水分。
NPU部分还得等AI厂商和开发者们开发出产品才行。
英特尔演示AI堆叠的思路
高通把AI作为关键词之前,英特尔其实已经演示了一遍堆叠AI芯片的思路。
9月20日,英特尔推出了全新的Meteor Lake处理器,一方面首次采用了自家的4纳米工艺,用上极紫外光刻技术(EUV),同时也采用新的封装技术,演示了一遍把计算AI用的NPU堆到芯片里。
英特尔的发布会过于技术,很多人都没有关注,其实分享了不少AI芯片堆叠的思路。
英特尔的AI故事如何?
英特尔使用的Foveros 3D封装技术,采用了分离式模块架构,把PC芯片变成计算、IO(传输)、SoC(片上系统)和图形模块四个部分。
NPU主要在SoC模块内集成,也成了英特尔首次将NPU引入桌面端处理器的尝试。
为了让更多人采用,英特尔还上线了AI开发者的云平台。
NPU进芯片已是大势所趋,考虑到芯片的设计、生产周期,你觉得英特尔的故事靠谱吗?
谷歌正在成为芯片大佬
大家都在关注芯片企业的AI布局时,千万不要忽略了软件厂商们的动作。
谷歌作为最早开始自研AI芯片的企业,虽然商业化较慢,确实拿出了新的产品。
10月4日,谷歌发布全新一代旗舰手机Pixel 8和Pixel 8 Pro,最大的焦点正是集成了更多NPU单元的Tensor G3芯片。
谷歌的Tensor G3采用三星4纳米制程工艺,内置一大、四中、四小共九个CPU核心,同时把研发多年的张量处理单元(TPU)塞进了芯片里。
TPU简单说就是谷歌独家的NPU,经历上一代的测试,这次也把性能指标拉满。
据谷歌公开的数据,Pixel 8设备内支持的AI模型数量是Pixel 6系列的两倍,同时AI模型的计算量更是达到Pixel 7最大模型的150倍。
全新Pixel 8 Pro更是直接把谷歌自己的AI模型塞了进去,相较于前面两款手机,塞进去的是云端通用模型的简化版本,主打一个性能爆炸。
显然,AI大模型应用开发还在路上,芯片厂商们已经先预埋好了算力储备,无论你想做AI音频、视频还是别的应用,算力先满上再说。
英伟达在做什么?
了解过英伟达的历史就会明白,老黄在GPU产品上虽然刀法精准,在小型化和控制能耗上却始终没有什么出彩的成绩,要不然当年也不会有人吐槽英伟达GPU有武器级别的发热。
如今英伟达在边缘AI的部署更多聚焦工业制造、机器人等场景,GPU在AI计算上通用性强,专用效率不足的短板让它仍然更适合部署与训练。
当然,考虑到云端GPU和游戏GPU差异化越来越严重,英伟达会不会拿出一个专门为边缘优化的方案也值得关注。
以上就是边缘AI芯片厂商们的动态汇总,如果你还想了解更多,学会自己判断产业未来,欢迎长按下方二维码,加入前哨科技特训营,我们每周四一起掌握。
【前哨科技特训营第四季前瞻】
1. 前哨科技特训营直播课程第四季(2023年)共50讲+,除此之外还有5节加餐+公开课。
2. 每讲承诺为1小时视频内容,实际平均时长为2小时。
3. 每周四晚八点准时直播,会员可无限次观看回放。
4. 新入会员,可以无限次回看之前所有视频课程。
5. 成为会员即可使用【AI王煜全】,最新AI大模型开发的专属科技分析助手
6. 每周组织【前哨·创新启发局】,链接科技/产业一线人士,打开技术/应用前沿视野
7. 优先获取全球科技产业一线游学、访问机会,接触科技/产业专家,获取最新、最前沿的趋势洞察,人脉链接
8. 本课程为虚拟内容服务,年费订阅服务制。一经订阅概不退款,线下活动需另行支付差旅成本,请您理解。
1. 前哨科技特训营直播课程第四季(2023年)共50讲+,除此之外还有5节加餐+公开课。
2. 每讲承诺为1小时视频内容,实际平均时长为2小时。
3. 每周四晚八点准时直播,会员可无限次观看回放。
4. 新入会员,可以无限次回看之前所有视频课程。
5. 成为会员即可使用【AI王煜全】,最新AI大模型开发的专属科技分析助手
6. 每周组织【前哨·创新启发局】,链接科技/产业一线人士,打开技术/应用前沿视野
7. 优先获取全球科技产业一线游学、访问机会,接触科技/产业专家,获取最新、最前沿的趋势洞察,人脉链接
8. 本课程为虚拟内容服务,年费订阅服务制。一经订阅概不退款,线下活动需另行支付差旅成本,请您理解。
【课程咨询】
请加“创新地图助手”:
微信:innovationmapSM
微信扫码关注该文公众号作者