Redian新闻
>
高通中国区董事长孟樸:混合AI是未来 将赋能众多终端类型

高通中国区董事长孟樸:混合AI是未来 将赋能众多终端类型

公众号新闻

大模型、生成式AI以及ChatGPT等引发的人工智能热潮正在驱动市场参与者加速新一代AI的研发,而作为移动终端领先企业,高通也在加快AI领域的部署节奏。


几个月前,高通对外展示了全球首个运行在安卓手机上的Stable Diffusion(AI动画生成工具)视频。在该视频中,操作人员在一部没有联网的安卓手机上使用了上述工具生成了一副生动有趣的 AI 图像,而整个生成时间不超过 15 秒。

这一技术向外界传达了一个明确的信号:未来AI的发展不是云端厂商的专属产品,终端上运行大模型的预言,已经被高通提前变成了现实。

在2023世界人工智能大会期间,高通中国区董事长孟樸在接受第一财经电视直播专访时表示,生成式AI大幅拉近了AI技术与消费者个体的距离,而混合AI则是AI发展的未来。

新一轮技术革命高潮正在到来
上线短短七个月,生成式AI即令全球各地的科技和商业领袖们为之瞩目,浮想联翩。这项技术将对生产力水平和利润率产生怎样的影响在高管们看来是显而易见。布鲁金斯学会预测,未来10年,GenAI有望将生产率和产出提高18%。
“生成式AI能够推动由AI驱动、引领的新一轮技术革命高潮的到来。”孟樸表示,去年11月,ChatGPT的推出,在短短两个月内,其月活用户就已突破1亿——这几乎是进入互联网时代以来发展速度最快的应用。生成式AI首次让每一个消费者切身体验、感知到AI能够帮助我们实现的事情。通过输入简短的指令,AI就能够生成具有一定深度与广度的自创性内容,包括文字、图像等形式——而这是此前的AI无法实现的。
在他看来,人工智能(AI)经历了二十余年的发展,在技术层面一直不断演进。AI的实现离不开基础的算力、数据,以及强大的算法。人工智能,顾名思义,是希望机器可以帮助人类完成我们需要做的事情。

“生成式AI大幅拉近了AI技术与消费者个体的距离,在我们的日常生活中,AI能够在很多不一样的事情上有用武之地,比如帮助艺术家完善艺术作品;在建筑师设计大楼、设计桥梁时,为其提供创意想法等等,AI正在离我们的生活越来越近。”孟樸表示,AI技术一直在发展,像过去十年内,AlphaGo机器人也曾与人类棋手对弈,这其中运用的都是AI技术。随着算力的提升、数据的积累,以及在经过机器学习之后更强大算法的实现,AI已经发展得越来越成熟。
高通对AI的研发启动最早是在2007年。
从终端上进行图像识别、音乐识别等相关技术和应用的研发,到关于自动驾驶所需的判断能力的研究工作,例如如何判断(车辆)前方的图像是人类还是动物,是大型动物还是小型动物等,高通一直在寻找AI在端侧的机会。
2015年,高通正式推出骁龙820芯片,首次搭载了高通第一代AI引擎。随着AI首次被引入智能手机的芯片当中,手机对于文本、图像和视频的处理能力就有了很大提升。不仅如此,每个人的智能手机对用户的状态(比如是走动还是跑步),都可以感知,因而能够实现更为定制化的服务。
2022年,高通公司推出的第二代骁龙8移动平台,搭载当时最为先进的AI引擎,而这代产品也在本届世界人工智能大会的开幕式上获得了卓越人工智能引领者奖(SAIL大奖)。
“这是对我们在AI终端化上所做贡献的认可。”孟樸表示,智能终端,实际上已经远超出传统智能手机的范畴,甚至现在的新能源车都要有智能网联功能,因为不论是对于驾驶员还是乘客的驾乘体验提升而言,都涉及到许多AI的因素——主要是通过AI技术来提高安全行驶以及舒适感受。
AI发展的下一步:混合AI
但和其他大模型公司所遇到的一样,实现AI规模化扩展的最大挑战来自于两方面,其一是算力,其二是成本。
目前,将大模型部署到手机端进行推理主要有两种方式,一种是通过云端进行推理,一种是在手机端直接进行推理。如果选择回传云端推理,则对手机的通讯能力要求较高;而如果选择在在手机端推理,则对算力有一定的要求。尽管技术提供商会对模型进行剪枝和压缩等优化,但仍然需要一定的算力。
例如,ChatGPT这样的超大模型需要1000张主流卡容量的独立计算集群,以及对应的模型并行算法框架来支持训练。在成本方面,超大模型的训练需要大规模计算集群以及对应的模型并行算法框架的支撑,因此训练成本通常很高。ChatGPT单次模型训练耗时1个月,训练成本达1200万美元。
但从手机产业链来看,高通一直以来致力于在智能终端上寻求的AI能力的提升,以混合 AI架构通过利用边缘终端的算力支持生成式 AI 开发者和服务提供商降低成本。
高通所提出的云边一体“混合AI”的概念,指的是网络数据中心和人们日常使用的边缘终端的协同工作,在适当的场景和时间下分配AI计算的工作负载,以提供更好的体验,并高效利用资源。
事实上,随着生成式AI的飞速普及和计算需求的日益增长,混合处理的重要性空前突显。与仅在云端进行处理不同,混合AI架构在云端和边缘终端之间分配并协同处理AI工作负载。云端和边缘终端(如智能手机、汽车、个人电脑和物联网终端)协同工作,能够实现更强大、更高效且更普及的AI应用。
孟樸在直播中表示,混合AI是一个与网络相关的名词,在网络数据中心会用到很多基础设施,而终端设备是在边缘。随着终端侧AI处理能力的提高,可以进一步减少云端数据中心的负载。所以,AI的发展最终能够被广泛应用于日常生活,在超大型数据中心和每个人使用的智能终端上得到实现,针对终端侧和针对数据中心的AI可以用于解决不同的问题。
“我们认为对ChatGPT这种交互式AI的运用,会培养出人们与问答式AI或类似的工具相互交流的习惯。每一次基于生成式AI的网络搜索查询(query),会对数据中心负载量和网络承载量提出很高的要求。虽然对每个问题ChatGPT都可以在短短几秒钟内回答,但已有估算标明,每一次交互所带来的数据中心负载和网络成本,要比传统搜索高出10倍。可以说,这对算力、网络的要求都非常高,也需要承载非常大的功耗。但是,很多日常问题并不复杂,人们也不愿意在网络中询问很多个人私事,而这种情况可以通过生成式AI在智能终端中实现。因此,今后终端侧AI和数据中心云AI的结合,将达到比较理想的兼容适配结果——既降低功耗、保护个人隐私,又能够使得大型复杂问题得到及时响应。”孟樸说。
在最新的计划中,高通在今年下半年将会对外展示在手机上运行100亿个参数的大语言模型。从高通已有的模型落地案例来看,其边缘大模型相当于云端大模型的“感知器官”,从而可以使AI功能在终端设备得以实现。
“我认为,未来的发展趋势应该是比较平衡且自然的。在未来,数据中心的算力会越来越强大,与此同时每个人使用的智能终端,例如手机、智能网联汽车等,其计算能力和AI的处理能力也会越来越强。这样来看,数据中心主要负责处理的是工作量较大的问题,而我们的个人智能终端则会用于处理一些工作量相对较小的问题。”孟樸表示,终端可以更好地保护隐私,未来小事私事问终端,大事公事可以问云端。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
高通:生成式AI商机不只在数据中心,混合式AI才是真正王道乐乐茶“发疯杯”销量超预期;宋秩铭卸任奥美大中华区董事长;喜茶联名喜剧之王... | 刀法品牌热讯冯大刚x孟樸:走进十年后“万物有灵”的时代|看见2033预告董事长、副行长、监事长改任督导员!这两家上市银行高层换届,70、80后高管占主力不到两年,中芯国际董事长再辞职!已历任7位董事长,可否带领中国半导体产业迈上新台阶?理想脱颖而出:混动和纯电的分野|焦点分析说说VO2 max高通押注混合AI,终端侧或将运行100亿参数模型为啥瓜纳华托是“青蛙居住之地”?《人生如戏—寻找另一半自己》四第六期对话:冯大刚x孟樸看见|2033正片大变局!这家基金公司总经理升任董事长,董事会也迎来"洗牌"750亿公募换帅!她曾任兴业期货董事长,今年近30家公募变更董事长或总经理近27年来首次变更董事长!这家券商新董事长定了官宣!连续任职27年,这家券商董事长辞职!新董事长定了刚刚,中芯国际官宣董事长高永岗辞任,副董事长接任对话新势界CEO:混合现实技术点亮AR记忆生态高通中国区董事长孟樸:技术乐观主义者眼中的连接、智能、革新串通中标44.2亿!城投集团原董事长被判刑历任董事长全部落马!中超公司董事长刘军被带走调查龚正会见美中关系全国委员会董事会副主席、美国安达集团董事长兼首席执行官埃文·格林伯格英特尔发布全新一代商用终端 赋能教育数字化转型发展|推荐选了2年多终于有能跟进口品牌媲美的减负书包,收纳还有整理师教(明10点返团)从手机到汽车,高通再收千亿美元「高通税」火星乐园第三部《灰界》第十五章 中东风云千亿巨头片仔癀,原董事长刘建顺被开除党籍!继任者潘杰也被查;现董事长曾长期在纪检系统工作…今天的试验,神出鬼没,试验plate孔内的1 N NaOH 100ul凭空消失,匪夷所思,百思不得其解奥美大中华区董事长卸任!刷屏WAIC,加速生成式AI落地终端,高通亮出诸多“黑科技”特别策划 | ​安东油田服务集团董事会主席、执行董事罗林:启动平台创新,赋能行业生态各方这家基金公司总经理、董事长双双离任! 新董事长上任突发!中芯国际董事长离职,新董事长有大基金背景宋秩铭卸任奥美大中华区董事长;Seamus Higgins重返R/GA担任澳大利亚首席创意官(广告狂人日报)AI 模型只能部署在云端?高通白皮书发布:混合 AI 是 AI 的未来700亿大牛股"出事"!公司、董事长、副董事长全被立案…
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。