Redian新闻
>
高通甩出最强芯片三件套!手机跑100亿参数大模型,PC芯片逆袭苹果英特尔

高通甩出最强芯片三件套!手机跑100亿参数大模型,PC芯片逆袭苹果英特尔

公众号新闻

三芯齐发,AI炸场。
作者 |  ZeR0
编辑 |  漠影
芯东西10月24日毛伊岛报道,北京时间10月25日凌晨,高通在2023骁龙峰会上推出新一代旗舰移动芯片骁龙8 Gen 3旗舰PC(个人电脑)芯片骁龙X Elite音频芯片S7/S7 Pro Gen 1,以及跨平台连接技术Snapdragon Seamless
第三代骁龙8移动平台是高通首个专为生成式AI而打造的移动平台,采用4nm工艺技术,搭载业界最快的设备端内存LPDDR5X。与前代平台相比,其AI性能提升98%、能效提升40%;CPU最高频率达3.3GHz,性能提升30%,能效提升20%;GPU性能提升25%,能效提升25%。小米14系列智能手机将在10月26日首发搭载第三代骁龙8。

全新PC处理器骁龙X Elite同样采用4nm工艺技术,12核CPU性能可达到x86处理器竞品的2倍,多线程峰值性能比苹果M2芯片高出50%,GPU算力可达4.6TFLOPS,AI处理速度达到竞品的4.5倍,异构AI引擎性能达75TOPS,支持设备端运行参数量超过130亿的大模型

第一代S7及S7 Pro音频平台是首款支持高通扩展个人局域网(XPAN)技术和超低功耗Wi-Fi连接的音频平台,相比前代平台,AI性能提升达近100,计算性能提升达6,能够在家庭、楼宇或园区扩展音频传输距离,并支持高达192kHz无损音乐品质。
高通还公布一项全新跨平台技术Snapdragon Seamless。该技术可实现跨手机、PC、耳机、增强现实(AR)头显等多台终端跨多个操作系统无缝连接,共享外设和数据,就像使用统一的整合系统般工作以共享信息。

这项技术可实现跨设备屏幕、文件分享等功能,比如鼠标和键盘可在PC、手机和平板电脑上无缝使用,文件和窗口可在不同类型的终端间拖放,耳机可根据音源的优先级进行智能切换,XR可为智能手机提供扩展功能。
高通移动平台第三代骁龙8、PC平台骁龙X Elite、可穿戴平台和音频平台现已支持Snapdragon Seamless。未来该技术将扩展至XR(扩展现实)、汽车和物联网平台。微软、Android、Xiaomi、华硕、荣耀、联想和OPPO等公司正与高通合作,打造Snapdragon Seamless赋能的多终端体验。该技术最早将于今年在全球范围发布的终端平台上落地。


01.
首次支持多模态生成式AI
手机能跑100亿参数大模型


夏威夷当地时间9点01分,2023骁龙峰会正式开场,现场与座者共400多人。
高通首先晒出一些成绩单:骁龙已落地30多亿终端设备,品牌知名度是竞品2倍,购买意愿是竞品9倍,推荐意愿是竞品10倍,消费者愿意花费比竞品高16%的溢价来购买搭载骁龙的终端。骁友会成员已接近1400万人。

紧接着,高通CEO安蒙登上舞台,分享高通对生成式AI和混合AI趋势的观察。
安蒙说:“我们正在进入AI时代,终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。骁龙在助力塑造和把握终端侧生成式AI机遇方面独具优势,未来骁龙赋能的生成式AI体验将无处不在。”

针对生成式AI,第三代骁龙8率先支持多模态通用AI模型,现已支持运行超100亿个参数的大模型。

在第三代骁龙8上,面向70亿参数大语言模型可实现每秒生成20个Token;不到1秒就能使用AI文生图模型Stable Diffusion生成1张图像。

骁龙平台现已支持跑微软、OpenAI、Meta、安卓、百度、智谱、BLOOM、stability.ai、百川智能、有道等企业或机构的端侧大模型。

Meta创始人兼CEO马克·扎克伯格通过视频VCR的方式分享Meta与高通的合作。

其幕后功臣是升级的高通AI引擎,由Hexagon NPU、Adreno GPU、Kryo CPU等共同组成。

安蒙说,高通在设备侧AI性能、异构计算能力、可扩展的AI软件工具、横向生态系统和AI模式的支持等方面都优势显著。


02.
卢伟冰现场展示小米14真机
第三代骁龙8 AI性能提升98%


小米总裁卢伟冰来到现场,介绍了小米的60亿参数大模型,宣布搭载第三代骁龙8的小米14系列智能手机将在北京时间10月26日19点发布,并预告小米将在2024年推出小米汽车。

与前代平台相比,第三代骁龙8的Kryo CPU性能提升30%,能效提升20%;Adreno GPU性能提升25%,能效提升25%;Hexagon NPU AI性能提升98%,能效提升40%。

除了加速生成式AI外,第三代骁龙8此次重点升级的还有摄影功能,可支持用AI实现填充的照片扩展、用智能抠像实现视频对象擦除、AI背景生成、AI优化夜景视频拍摄等多种影像优化功能。
骁龙正与C2PA标准合作,确保照片内容的公开度与透明度。

连接方面,第三代骁龙8内置基于5G advanced-ready架构的5G基带芯片,支持Wi-Fi 7和双蓝牙。


03.
骁龙X Elite:CPU性能“倍杀”x86芯片,本地可跑130亿参数大模型


高通将骁龙X Elite称作是同级别Windows处理器中“最强大、最智能、最高效”的处理器,拥有可扩展的热设计范围,并且为AI而生,能够让用户从多方面感受到更加智能的体验。搭载骁龙X Elite的PC预计将于2024年中面市。

值得一提的是,联想集团CEO杨元庆、惠普总裁兼CEO Enrique Lores均通过视频形式向骁龙X Elite的发布表示祝贺。新任微软Windows和设备业务副总裁Pavan Davuluri更是直接到现场为骁龙X Elite站台,并分享微软与高通在Windows PC设备和VR设备Quest上的合作。

骁龙X Elite采用4nm工艺节点,包含12个CPU性能核;采用最先进的CPU内存架构设计、LPDDR5X内存,对应最大内存带宽136GB/s,总缓存为42MB。

其AI处理能力是竞品的4.5倍,异构AI引擎性能可达75TOPS,高通Hexagon NPU最高可实现45TOPS INT4的AI算力,相较2017年时提升100倍;支持在终端侧运行超过130亿个参数的生成式AI模型,面向Windows 11 PC的终端侧聊天助手(基于70亿Llama 2大语言模型)可实现每秒处理30个token。

骁龙X Elite采用定制的集成高通Oryon CPU,双核boost频率达4.3GHz,相同功耗下CPU性能可达到x86处理器竞品的2倍;峰值多线程CPU性能比Arm处理器苹果M2芯片高出50%。

达到相同峰值性能时,其单线程CPU所用的功耗比Arm处理器苹果M2 Max功耗少30%,比x86处理器英特尔i9-13980HX功耗少70%;

骁龙X Elite的Adreno GPU算力达4.6TFLOPS,能支持3台超高清监视器。
相同功耗下,其GPU性能可达到x86处理器英特尔i7-13800H的2倍,达到相同PC峰值性能功耗仅有英特尔i7-13800H的1/4。

相同功耗下,GPU性能比x86处理器AMD Ryzen 9 9740HS快80%,达到相同PC峰值性能时功耗仅有Ryzen 9 9740HS的1/5。

骁龙X Elite还支持超快5G和Wi-Fi 7连接,以及先进的音频和摄像头体验。

04.
S7/S7 Pro:AI性能提升100倍,
计算性能提升6倍


高通还推出了面向耳机和音箱设计的第一代S7及S7 Pro音频平台,结合高性能、低功耗计算、终端侧AI和先进连接,旨在解锁下一级别的音频体验。

该平台将DSP性能提升至前代平台的3倍,AI性能是前代平台的近100倍,计算性能提升到前代平台的6倍,存储性能提升前代平台的3倍。
第一代S7及S7 Pro音频平台是首款支持高通扩展个人局域网(XPAN)技术和超低功耗Wi-Fi连接的音频平台,其低功耗Wi-Fi连接扩展了音频使用范围和质量,能够在家庭、楼宇或园区扩展音频传输距离,支持高达192kHz的多通道无损音乐串流及面向游戏的增强多通道空间音频。
Snapdragon Sound骁龙畅听技术已应用于最新的第三代骁龙8和骁龙X Elite,当与采用第一代高通S7或S7 Pro音频平台的终端配合使用时,用户将享受到更好的音频体验。
Bose CEO Lila Snyder通过视频形式,宣布即将推出的Bose QuietComfort系列产品将采用高通Snapdragon Sound平台。


05.
结语:为端侧生成式AI革命按下加速键


今年以来,生成式AI成为科技领域最火热的概念之一,从AI文生图、多轮对话聊天到文生代码、文生音乐、文生视频、图生文等等,以自然语言为入口的全新人机交互方式正为人们的生活、工作和娱乐带来前所未有的高效和便捷。
作为终端芯片“头号玩家”和端侧AI技术的领跑者,高通在端侧运行生成式AI上的投入果断而迅速,早在今年2月就用基于第二代骁龙8的终端演示了跑参数量超过10亿的文生图模型Stable Diffusion,6月份又完成终端侧跑参数量更大的图生图模型ControlNet。今日发布的第三代骁龙8和骁龙X Elite更是为AI而生,做到支持超过100亿参数的大模型在骁龙平台上运行。
无论是云端运行生成式AI难以消除的高成本、高时延、隐私安全等挑战,还是业界正探索缩小生成式AI模型参数量的趋势,都给端侧芯片企业敞开了时代机遇之门。高通为加速移动端和PC端AI计算所采用的各项硬件优化,以及在统一AI软件栈上的持续布局,对于在设备端更高效地支撑生成式AI应用很有参考价值。更多技术细节将在明日揭晓。



微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
AMD王宏强:700亿参数大模型单个GPU部署,做好AI软件和生态实现“开箱即用”丨GACS 2023拳打苹果,脚踢英特尔?这次高通终于在PC领域硬起来了!手机大模型爆发:vivo 发布自研蓝心大模型,参数追赶 GPT-3浪潮信息发布“源 2.0”,千亿参数大模型开源可商用昆仑万维开源130亿参数大模型!0门槛商用、多榜超Llama 2,预训练数据也开源高通开启新“AI PC”时代,全新CPU秘密研发两年,成功逆袭苹果、英特尔震撼全场中国芯片逆袭,幕后有英雄李开复发布零一万物首款340亿参数大模型Yi;摩尔线程设立AISG和MCSG战略部门丨AIGC日报首款生成式AI移动芯片天玑9300:能跑330亿参数大模型8张3090,1天压缩万亿参数大模型!3.2TB骤降至160GB,压缩率高达20倍碾压苹果英特尔,还要把AI拉下云端,高通和一众中国公司一起“杀疯了”国产大模型开源一哥再登场,最强双语LLM「全家桶」级开源!340亿参数超越Llama2-70BPC芯片竞争加剧:高通推新品挑战苹果和英特尔市场力压苹果英特尔,全面拥抱AIGC,高通发布骁龙X Elite和第三代骁龙8手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线从「最强2D」升维「最强3D」!智源联合清北重磅发布10亿参数Uni3D视觉大模型开源大模型FLM-101B:训练成本最低的超100B参数大模型英伟达英特尔推改良版芯片重回中国市场?产业链人士称属实;阿里巴巴CEO吴泳铭:即将开源国内最大的720亿参数大模型丨AIGC日报八十年代日记摘抄 (一)全球最强CPU一夜易主,130亿参数大模型被塞进PC,没网也能生成邮件周报PPT1800亿参数,性能碾压Llama 2,世界最强开源大模型Falcon 180B发布时代沉思录:抢盐人的假设陷阱传滴滴造车VP创业大模型;澜舟科技推出400亿参数通用大模型;商汤AIGC相关收入增长670.4%新一代纯电超豪华跑车雨滴英伟达将打造ARM架构PC芯片,向英特尔发起新冲击NVIDIA高通英特尔AMD齐聚,近30家AI芯片与算力企业交锋,大模型时代首场AI芯片盛会9月开幕硬核观察 #1134 英特尔 CTO 建议使用 AI 将 CUDA 代码移植到英特尔芯片英特尔CEO:不惧怕英伟达或高通 PC CPU芯片AI早知道|微软Copilot将可免费使用GPT-4Turbo; 国产670亿参数大模型DeepSeek亮相【七绝】 知音 (七阳)AI性能6年暴涨100倍,CPU赶超苹果英特尔?高通最强芯片秘籍公布中文最强开源大模型来了!130亿参数,0门槛商用,来自昆仑万维720亿参数大模型都拿来开源了!通义千问开源全家桶,最小18亿模型端侧都能跑智源:70万预算从头开发千亿参数大模型,挑战成功
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。