Redian新闻
>
手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

公众号新闻

机器之心报道

编辑:杜伟、泽南

高通骁龙 8 Gen3 的出现,让生成式 AI 在智能终端无处不在了。


安卓旗舰手机的芯片,今天迎来了换新。


一年一度的高通骁龙峰会在 10 月 24 日拉开序幕,今年举办地点来到了夏威夷毛伊岛。


会上,高通宣布推出最新一代旗舰移动平台骁龙 8 Gen3,并表示其在终端侧 AI 能力、性能和能效等多个方面都有显著提升。


简单总结一波,骁龙 8 Gen3 采用台积电 4nm 制程工艺打造(可能是 N4P)。CPU 采用全新 1+5+2 架构,包括 1 个 X4 超大核、3 个 A720 大核 3.15GHz、2 个 A720 大核 2.96GHz 以及 2 个 A520 小核 2.27GHz。相较于骁龙 8 Gen2,CPU 整体性能提升 30%,能效提升 20%。整体 SoC 节能 10%。


高通表示,新一代的 Adreno 750 GPU 相比上代有 25% 的性能提升和 25% 的能效提升,通过图像运动引擎 2.0 (Adreno Frame Motion Engine 2.0) 帧生成算法,支持了 240FPS 高帧率,有望将大众游戏的流畅效果提升到新高度。


由于上一代 8 Gen2 已经 shixian 了 GPU 性能超越同时代苹果 A 系列芯片的巨大成功,所以本次看来较小的提升仍然比较可观。


但需要注意的是,这首先需要手机屏幕将刷新率提高到 240Hz,考虑到能耗,估计只有游戏手机才会提供此类硬件。


面向更广泛的手机用户,高通在 8Gen3 上提供了原生 1Hz 刷新率的支持,有助于静态显示时的省电。


在图像技术方面,8Gen3 宣布支持虚幻 5 引擎的 Lumen 光照系统,带来了类似硬件光线追踪技术的视觉效果,而且处理速度更快(但仅限虚幻 5 引擎)。结合此前已支持的硬件光线追踪技术,第三代骁龙 8 为下一代手机游戏做好了准备,之后就是游戏厂商的事了。


此次,骁龙 8Gen3 的亮点在于强大的终端侧 AI 及生成式 AI 性能。


NPU 方面,AI 算力超过 73TOPS,能效还降低了 40%。高通表示,此次 8Gen3 的 AI 性能提升了 98%,高通 AI 引擎实现了终端设备上世界首次支持运行 100 亿参数的模型,并且针对 70 亿参数 LLM 每秒能够生成 20 个 token。这意味着,各类虚拟助手、GPT 聊天机器人、Stable Diffusion 等 LLM 等都可以在手机等终端正常运行。



另外针对音频、动作传感器这种需要长时间待机的 AI 使用场景,8Gen3 专门提供了 2 个低功耗的 NPU 单元。8Gen3 还在内存和 NPU 之间建立了直连通道,进一步提高运算效率。


可以说,对于搭载骁龙 8 Gen3 的智能手机,它们的内容创作、影像、游戏、音频和连接体验因 AI 能力得到了极大的增强,比如手机端支持图像 AI 填充扩展。不知道手机硬件能力到位以后,会不会出现生成式 AI 的爆款应用?


通信方面,8Gen3 集成了 Snapdragon X75 5G 调制解调器,支持 5G 毫米波、LPDDR5X RAM、UFS 4.0、Wi-Fi 7、蓝牙 5.4。最高支持 4k 60Hz 或 144Hz Quad HD+ 屏幕显示。影像方面最高支持 200MP 照片拍摄、120fps 4K 视频拍摄。



有关高通旗舰的首发机型悬念依然不大。高通的发布会上,小米集团合伙人卢伟冰提前拿出了用上骁龙 8 Gen3 的小米 14,明天晚上就是小米的发布会了,雷军也在微博上表示小米 14 将全球首发第三代骁龙 8 移动平台。



此外一加 12、iQOO 12 系列、中兴 x 努比亚将首批搭载骁龙 8 Gen3, OPPO Find X7 系列、真我 GT5 Pro 也在前期搭载的行列中。


除了移动平台的骁龙 8 Gen3,高通推出了专为生成式 AI 打造的全新 PC 平台骁龙 X Elite。据介绍,骁龙 X Elite 在众多支持 Windows 11 的 PC 平台中具备了一流的 CPU 性能和能耗。


还是先来简单看下它的规格。CPU 方面采用自研的 Oryon 架构 ,4nm 工艺,12 大核,最高频率 3.8、支持双核睿频至 4.3 GHz、内存带宽支持 LPDD5x 8533、缓存总数 42 MB。此外支持了 WiFi7、蓝牙 5.4、X65 基带、PCIe 4.0 NVMe、M.2 Wi-Fi 扩展等。现场与基于 ARM 内核的 M2 比较,多核 CPU 性能提升 50%。



GPU 采用 Qualcomm Adreno,算力为 4.6 TFLOPS。ISO 功率下比竞品性能提升高达 80%,功耗降低 80%。



NPU 方面,AI 算力达到了 45TOPS。自 2017 年以来,AI 性能提升了 100 倍,远超竞品 PC 平台。



骁龙 X Elite 号称专为 AI 打造,能够以 30token 每秒的速度运行 Meta 著名的大语言模型 Llama 2。此外进一步支持在终端侧运行超过 130 亿参数的生成式 AI 模型,实现了比竞品快 4.5 倍的 AI 处理速度。


高通表示,OEM 厂商预计将于 2024 年中推出搭载骁龙 X Elite 的 PC。更多细节详见下图。



今年的骁龙旗舰芯片,相比往年又更加提前了一些,但面对 4 大核的联发科天玑 9300,制程工艺不变的 8 Gen3 能否保持住旗舰芯片的领先位置?它会是新的 888,还是新的 8 Gen2 呢?


我们很快就会知道了。


参考链接:

https://www.theverge.com/2023/10/24/23928867/qualcomm-snapdragon-8-gen-3-on-device-ai-meta-llama-2




© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
消息称三星Galaxy S24 Ultra全球均采用骁龙8Gen3 for Galaxy英伟达英特尔推改良版芯片重回中国市场?产业链人士称属实;阿里巴巴CEO吴泳铭:即将开源国内最大的720亿参数大模型丨AIGC日报高通甩出最强芯片三件套!手机跑100亿参数大模型,PC芯片逆袭苹果英特尔李开复发布零一万物首款340亿参数大模型Yi;摩尔线程设立AISG和MCSG战略部门丨AIGC日报首款生成式AI移动芯片天玑9300:能跑330亿参数大模型AI早知道|微软Copilot将可免费使用GPT-4Turbo; 国产670亿参数大模型DeepSeek亮相搭载骁龙8 Gen3芯片,iQOO 12系列或提前至11月上旬发布高通骁龙8 Gen3性能涨近50%?高端智能手机市场竞争再起仙人球开大花,可与昙花媲美首批AI大模型获批上线,BATH在列;华为Mate 60开售即火,接入盘古大模型;AI操控无人机能力超越人类冠军丨AI周报印象伦敦饮食和饭店的人质高通预热 2023 骁龙峰会:10 月 25-26 日举行,骁龙 8 Gen 3 有望加持 AI高通骁龙8 Gen3跑分破200万,联发科天玑 9300 更高?智源:70万预算从头开发千亿参数大模型,挑战成功打通大模型训练任督二脉!国内首个千亿参数、全面开源大模型来了,还联手开发者共训全球最强CPU一夜易主,130亿参数大模型被塞进PC,没网也能生成邮件周报PPT搭载骁龙8 Gen3芯片,消息称vivo X100 Pro+春节后发布国粹太极拳在大国政治上的娴熟应用!浪潮信息发布“源 2.0”,千亿参数大模型开源可商用小米14或首发!骁龙8 Gen3普通版跑分曝光,大量新机年底来昆仑万维开源130亿参数大模型!0门槛商用、多榜超Llama 2,预训练数据也开源8张3090,1天压缩万亿参数大模型!3.2TB骤降至160GB,压缩率高达20倍滴滴组建大模型团队,骁龙7 Gen 3规格曝光,传字节或出售游戏子公司,ChatGPT停止付费注册,这就是今天的其他大新闻!Exynos 2400 GPU跑分曝光,比骁龙8Gen3 for Galaxy低约10%三星Exynos 2400芯片GPU跑分曝光,略低于骁龙8Gen2首批搭载骁龙8 Gen3芯片机型汇总,你更期待哪款新机?消息称魅族 21 系列手机备案:外观变化不大,搭载骁龙8 Gen3芯片《思念成风》&《黑月光》720亿参数大模型都拿来开源了!通义千问开源全家桶,最小18亿模型端侧都能跑芙蓉蛋PARTY:中国怎么会舍得让你们离开极致性能还是平衡功耗 骁龙8Gen3再提频,天玑9300单核略差?手机大模型爆发:vivo 发布自研蓝心大模型,参数追赶 GPT-3搭载骁龙8Gen1,三星Galaxy S23 FE国行版售价公布:4399元起AMD王宏强:700亿参数大模型单个GPU部署,做好AI软件和生态实现“开箱即用”丨GACS 2023再提频!骁龙8Gen3 for Galaxy CPU提频至3.4GHz、GPU提至1GHz
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。