生成式AI生态风口，联发科狂飙

2024-05-16 10:05

一手算力，一手生态，联发科已率先布局端侧生成式AI。

作者 | 程茜

编辑 | 漠影

生成式AI席卷消费级市场，移动生态迎来新机遇，生成式AI正重构智能手机。

智东西5月16日报道，上周，在联发科天玑开发者大会（MDDC）上，联发科联动百川智能、vivo、OPPO、小米、moto面向全球开发者，共启“天玑AI先锋计划”，并发布了生成式AI端侧部署的解决方案、天玑9300+旗舰5G生成式AI移动芯片，为生成式AI在端侧加速落地添了一把旺火。

可以看出，智能手机已被深度卷入生成式AI浪潮，站上全球手机芯片出货量第一的联发科已然走在这一产业变革的前列。

同期，联发科与全球市场调研机构Counterpoint携手阿里云通义千问、百川大模型、虎牙、酷狗、vivo等生态伙伴联合发布的《生成式AI手机产业白皮书》（以下简称《白皮书》）提到，生成式AI手机将在未来几年保持高速成长，存量规模将在2027年突破10亿大关。

面对端侧生成式AI落地热潮，智能手机的核心优势是什么？芯片玩家在其中扮演了什么样的重要角色？头部芯片玩家联发科在生成式AI手机的飞速发展中将产生什么影响？

带着这些问题，从生成式AI与智能手机的结合、联发科的AI布局出发，本文将剖析联发科如何为生成式AI手机发展注入新活力，构建天玑移动生态，并引领新一轮的终端创新周期。

01.

AI手机热潮下，寻找芯片厂商的“新角色”

生成式AI正向消费级市场普及，AI手机已经成为其中的典型代表。这与智能手机与生成式AI相结合的天然优势有关。

首先手机拥有最多最强的端侧能力。联发科技董事、总经理暨营运长陈冠州谈道，根据估算，2027年，全球智能手机端侧整体AI算力会达到50000 EOPS以上。端侧算力的优势在于用户使用AI应用可不受网络限制、数据无需上传云端可保证隐私安全、可高效率运行较小规模的AI应用。

其次，手机有最大的用户规模和灵活度。智能手机在全世界有接近50亿人的用户体量，其黏稠度、使用范围都更高，使得智能手机成为AI普及最天然的载体。

最后为手机拥有完整的应用生态，目前手机上的APP高达893万个，与用户的衣食住行、办公等诸多场景。要创造新的生成式AI生态链，最好的方法应该是在既有基础上做升级，将这893万个APP与AI能力做到无缝串联。

这决定了智能手机在生成式AI时代正迸发出新的生命力。

那么，生成式AI手机到底是什么？《白皮书》给出了明确的定义，生成式AI手机是利用大规模、预训练的生成式AI模型，实现多模态内容生成、情境感知，并具备不断增强的类人能力。未来，伴随用户与AI大语言模型的实时交互与反馈，生成式AI手机将重塑操作系统底层和形态，成为让用户畅享丰富生成式AI应用和体验的移动智能体。

具体拆解来看，第一就是支持大模型的本地部署，通过云端协同的方式执行复杂的生成式AI任务。生成式AI手机本身就具备强大的AI算力，无须完全依赖云端服务器。

第二为具备多模态能力，可以处理文本、图像、语音等多种形式的内容输入，以生成各种形式的输出。

第三为设备能够以自然而直观的交互方式，快速响应用户的请求。

第四是拥有实现上述特征的硬件规格，包括但不限于基于领先工艺和先进架构设计的移动计算平台，拥有集成或者独立的神经网络运算单元（如APU/NPU/TPU）等。

由此看出，生成式AI的诸多特性背后绕不开手机、大模型、芯片玩家这三者，其中的芯片玩家也成为大模型在端侧部署落地的重要支撑。

一方面，对于大模型玩家而言，想要直接将云端训练好的模型放到手机端，往往会面临运行效率不够快、内存占用过高两大痛点，并且还需考虑如何让模型在端侧运行更为高效、速度更快、部署更容易，突破这些痛点的底层关键变量之一就是芯片的性能。

另一方面，手机厂商关注的是大模型有没有在终端之上的新服务、新应用，这些与模型玩家合作诞生的新应用最终都会体现在芯片能力之上。

因此，端侧芯片的AI性能在端侧生成式AI的竞争格局中尤为关键。联发科技无线通信事业部生态发展资深总监章立谈道，以联发科为例，他们正在为大模型打造生态土壤，提供好的硬件平台、开发者工具，让大模型在此之上顺利落地。

开发者、芯片厂商、手机厂商三者的最大共同点就是，都正在为这一拥有无限潜力的AI市场做充分的准备。

值得注意的是，芯片与大模型的发展可谓形影相伴。2017年，孕育今年大模型盛景的Transformer论文神作发布，同年，芯片设计公司已经开始商用SoC中加入独立神经网络运算单元，如今联发科、高通均已发布多款支持多模态大模型端侧部署的移动计算平台。

时至今日，移动芯片玩家已经在AI领域积淀了丰富经验，为生成式AI手机的大规模商用铺平了道路。

02.

联发科抢先布局端侧AI领域

AI已成芯片基因

不置可否，2023年Q4拿下全球出货量份额第一的联发科已经成为其中的重要玩家，实际上，根据市场调研机构Counterpoint公布的数据，联发科手机芯片出货量全球第一已持续三年有余，拥有非常可观的边缘AI设备基础。

联发科在AI领域的优势已逐渐凸显，这得益于其长达7年的积累与布局。

联发科技无线通信事业部副总经理李彦辑透露，联发科对于AI的投入始于2017年，与Transformer架构提出同期，并是首个将拥有AI能力的硬件处理器搭载于芯片上的玩家。

事实上，联发科对于AI的思考更早，他补充说，2015、16年，AlphaGo战胜顶尖棋手，让人惊觉新的AI科技洪流已来，联发科就开始思考端侧是否有能力搭上这一波技术浪潮。

在他们看来，Transformer架构出现意味着AI发展的分水岭到来，因此，在持续投入传统计算光学所需的分析式AI之外，他们开始布局新的算法、算子以应对未来可能出现的新AI应用。

这有一个背景是，当时这些对于AI发展的期待都处于未知状态，联发科凭借开放式的心态入局，并始终坚定对AI技术的投入和决心。事实证明，其当年对于行业技术发展趋势的判断以及AI技术投入的积累是正确的。

如今，为了推动生成式AI在端侧落地，联发科已经率先发布了一系列旗舰、次旗舰产品。

天玑9300已抢先支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川大模型、阿里云通义千问、vivo蓝心大模型BlueLM、OPPO AndesGPT等诸多全球先进的AI大模型。

此外，联发科还将生成式AI能力引入天玑8000系列，成为同级产品中率先支持生成式AI的芯片，天玑8300最高可支持端侧运行100亿参数规模AI大语言模型。

面向未来，李彦辑也十分坚定，联发科在芯片的能力布局上不会放慢，将持续在旗舰、次旗舰上推出新的产品。

早已融入联发科研发基因的AI，正在生成式AI新时代展现出旺盛的生命力。

03.

算力支撑+生态建设

筑起端侧生成式AI坚实底座

去年开始，生成式AI在手机端的应用已经开始展露头脚，李彦辑认为，今年生成式AI在手机端的落地将从萌芽走向起飞阶段。

作为重要的芯片玩家，联发科在其中既是重要的算力提供方，又是连接各路玩家的生态建设者。如今，其芯片布局开始加速。

联发科最新发布的天玑9300+旗舰5G生成式AI移动芯片，延续全大核架构设计，八核CPU包含4个Cortex-X4超大核，最高频率可达3.4GHz，还有4个主频为2.0GHz的Cortex-A720大核，在保证卓越性能的同时，功耗大幅降低。

天玑9300+内置了生成式AI引擎APU 790，率先在端侧支持AI推测解码加速技术，性能提升达10%，同时支持端侧双LoRA融合的天玑AI LoRA Fusion 2.0技术、AI框架ExecuTorch，能够在端侧为用户提供更加个性化的AI体验。

目前，天玑9300+已支持阿里云通义千问大模型、百川智能百川大模型、百度文心大模型、谷歌Gemini Nano、零一万物终端大模型、Meta Llama 2和Llama 3等前沿主流大模型。

这也是业界首款实现更高速Llama 2 7B端侧运行的芯片，李彦辑透露，Llama 2 7B运行速度可以达到22 tokens/秒。

在生成式AI手机浪潮下，一方面，联发科要做好“本职工作”，也就是为端侧设备提供强大的算力；另一方面，正如前文所述，手机、模型、芯片玩家缺一不可，一个健康、高效的生态系统也至关重要，能力越大责任越大。

为此，联发科联合阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo、小米启动了“天玑AI先锋计划”，面向全球开发者，整合联发科与产业生态伙伴资源的同时，为开发者提供开发资源、技术支持和商业机会。

面对端侧生成式AI的三大关键环节，联发科提出了涵盖芯片、模型、应用的天玑AI生态战略，为这一产业的发展筑起坚实的软硬件技术底座。

在应用领域，联发科的“天玑AI开发套件”集开发、应用技术之大成，其包括快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境等四大模块，展现了其“快、全、强、易”的四大能力。

其中，GenAI最佳实践通过模型量化、模型编译和模型推理技术可以将大模型的终端部署时间从数周加速到一天。GenAI Model Hub适配了Llama系列等诸多主流大模型。

天玑AI开发套件还支持推测解码加速、LoRA Fusion等先进的GenAI优化技术；Neuron Studio集成开发环境为开发者提供了一站式可视化的开发环境。

章立谈道，对于开发者而言其最关注的是芯片本身的能力以及解决方案和服务能力。天玑AI开发套件就是一大解法，他补充说，这些开发者套件是联发科长期与开发者交流过程中，基于其核心需求从而研制的开发者工具。

除了AI，联发科在游戏领域的技术优势也实现了全面升级。借助自适应技术软件开发套件和硬件光线追踪技术，星速引擎可以通过精准的性能管理、光线追踪效果优化、网络质量监测等关键技术，使得开发者打造画面更逼真、流畅，触控和网络响应速度更快，续航更持久的体验。

联发科作为端侧生成式AI落地的先锋，正将多年来的AI布局与积累转变为端侧生成式AI新生态发展的原动力。

04.

结语：每年赋能20亿智能终端

联发科加速端侧生成式AI变革

联发科在端侧生成式AI领域的一系列布局，无不显示出其对于加速这一产业变革的决心与信心。正如联发科技董事、总经理暨营运长陈冠州所言，生成式AI彻底革新了终端应用的使用价值，智能终端是生成式AI普及的关键载体。

2024年生成式AI普及到端侧设备上的潜力正在被放大，目前，智能手机正在作为一个起点，撬动端侧生成式AI的变革。

在这背后，联发科凭借其每年赋能20亿智能终端设备的经验，为生成式AI在端侧的人机交互、生产力、娱乐体验等方面带来革新，以生成式AI手机为切入点，全方位重塑端侧市场的用户体验。

面向未来，端侧将成为生成式AI大规模应用落地的重要载体，联发科与生态合作伙伴的联手正在加速这一进程。

（本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容，未经账号授权，禁止随意转载。）

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章