Redian新闻
>
英特尔AI PC开启商用元年!打造6大AI场景应用,三大AI引擎助力本地跑20B大模型

英特尔AI PC开启商用元年!打造6大AI场景应用,三大AI引擎助力本地跑20B大模型

科技
英特尔史上最大CPU技术变革,酷睿Ultra已落地100+本土应用。
作者 |  香草
编辑 |  漠影
AI PC在商用领域,能带来什么样的新质生产力?
芯东西4月2日报道,近日,英特尔重磅推出全新商用客户端AI PC产品,将基于英特尔酷睿Ultra处理器的AI特性扩展至商用领域,在AI PC规模应用元年,踏出行业落地的关键一步。
酷睿Ultra处理器是英特尔40年来最大的架构变革,其首次引入两颗低功耗内核、首次集成独立显卡架构,并集成了NPU(神经元处理器),通过三大AI引擎架构革新,可本地运行200亿参数大模型,无需联网即可秒级生成高质量多模态数据。
本次发布将酷睿Ultra的能力从个人延伸至行业,在视频会议、多媒体处理等商用场景中,相比上一代产品处理器功耗下降最高36%,生产力提升最高47%,视频编辑的AI性能提升2.2倍
发布会现场,英特尔与超35家ISV(独立软件开发商)及10家OEM(原厂设备制造商)合作伙伴分享了酷睿Ultra在商用AI PC中的应用爆发,全方位瞄准AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI图像视频处理、AI PC管理六大AI场景,在经济、物理、数据保密三大AI PC法则的指导下推动各行业数字化转型。
那么,英特尔此次升级的产品点具体有哪些?六大AI场景中,具体有哪些创新应用?为什么说本地生成式AI是必然的趋势?芯东西通过现场调研,寻找这些问题的答案。

01.
低功耗、独立显卡、NPU三大AI引擎架构更新,本地跑200亿参数大模型


英特尔酷睿Ultra处理器专为AI PC打造,其采用全新英特尔4制程工艺,基于3D性能混合架构,将两个内核微架构组合至同一个处理器芯片上,并可提供内置英特尔锐炫GPU。

▲英特尔酷睿Ultra性能一览(图源:英特尔)

据英特尔客户端事业部副总裁、细分市场部总经理冯大为介绍,面向企业用户,酷睿Ultra处理器在CPU+GPU+NPU三大AI引擎上做了重大架构更新,能够支持200亿参数大模型在本地运行,无需联网即可秒级生成高质量图片或视频。

▲面向企业用户的酷睿Ultra处理器

一是CPU上的低功耗管理。酷睿Ultra首次引入两颗低功耗内核,其专为多线程可扩展性能和分载后台任务而设计,更优的性能核和能效核带来更高数据吞吐量,办公场景性能提升最高可达47%。
二是GPU首次集成了独立显卡架构,英特尔锐炫GPU带来最高2.2倍的性能及性能功耗比提升,让视频剪辑速度更快,视频体积更小。
三是采用NPU进行AI推理,在视频会议等场景中功耗最高下降36%,基于Intel 4制程工艺和3D高性能混合架构的设计,大幅提升续航能力,让AI体验更省电。
此外,此次酷睿Ultra内置的ARC显卡已达到移动工作站的性能需求,在3D渲染评分上最高达到上一代产品12倍的性能。

02.
从聊天机器人到AI Agent
六大AI场景应用爆发


工业和信息化部赛迪研究院数据显示,到2035年,生成式AI有望为全球贡献近90万亿元的经济价值,其中中国将突破30万亿元。AI市场蕴含着巨大的潜能,其中丰富的创新AI应用成为商用AI PC产业发力的重点。
英特尔中国区技术部总经理高宇描绘了英特尔锚定的六大AI场景应用图,以AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI图像视频处理、AI PC管理为横坐标,医疗、教育、法务等各行业为纵坐标,形成一张巨大的应用场景蓝图。

▲六大AI应用场景

英特尔发布会现场,有35+家本土ISV合作伙伴向我们展示了商用AI PC在六大AI场景+AI行业应用等垂直领域的潜能。
1AI Chatbot:直击行业应用痛点,提供专业领域问答
操作系统技术提供商中科创达人工智能中心副总裁杨新辉,演示了魔方智能法务助手,其基于基础语言大模型,结合百万条法律大数据训练得到70亿参数规模的AI PC端侧大模型,提供案件分析、文书撰写等法律相关功能。

▲魔方智能法务助手

中科创达大模型产品负责人邱瑞翔告诉芯东西,法律卷宗等数据隐私性很高,需要进行严格的数据监管。同时律师群体出差频率高,常遇到在飞机上办公等无网络的场景。AI PC将大模型搬到了终端上,杜绝了信息泄露和断网的影响。
2AI PC助理:AI智能控制,简化各种PC操作
智谱AI基于酷睿Ultra打造了AI PC智能助手,提供AI智能控制、PC使用问答、文档内容提炼等功能。其COO张帆展示了该应用的智能操作功能,输入一句包含静音、切换性能、打开文件3个操作的指令,PC便按顺序完成了3个操作。

▲AI智能控制演示

值得注意的是,在打开文件的指令中用户无需给出完整准确的文件名,只需采用“上次打开的”“昨天没看完的”等模糊描述,大模型就可以根据使用记录或用户习惯,找到需要的文件。
3AI Office助手玩转办公三件套”,提高办公效率
专注Office“办公三件套”扩展工具开发的ExtendOffice的CEO林洁演示了基于本地AI的全新插件Kutools AI。
表格工具Excel中有许多复杂的公式,造成了一定的学习成本,同时企业客户的大量数据具有高度隐私性,上传到云端会有泄露风险,这使得本地化的离线数据处理极为重要。
Kutools AI以侧边栏形式呈现在应用中,用户可使用自然语言输入指令。如用户想将“金额”一栏的数值按汇率换算成人民币,只需输入“美元转人民币”指令,Kutools AI便会弹出对应聊天框,再输入相应的汇率即可自动完成换算。

▲使用Kutools AI将美元转换为人民币

4AI本地知识库:深挖企业私域数据,快速文档处理和知识检索
星环科技副总裁杨一帆介绍了RAG(检索增强生成)产品无涯-问知,基于AI PC能力,它能快速将本地文件资料转换成知识,支持多种格式和模态、不限长度文件自动入库。

▲无涯-问知产品功能

该产品契合AI PC全部三条法则。首先数据在本地处理,避免了云服务费用,从而降低了AI服务成本;其次避免了数据传输中的瓶颈,满足物理法则;最后数据全部保存在本地设备上,保障了安全性和隐私性。
5AI图像视频处理:随时随地后期,开辟全新媒体制作方式
在多媒体处理赛道,视频等大文件的传输十分考验网络速率。当虹科技CTO黄进展示了基于AI PC打造的视频慢动作解决方案,用大模型生成更多的视频帧,实现3倍慢动作视频生成。

▲当虹科技视频慢动作解决方案

一方面,本地化的视频处理降低了数据传输和云服务成本。另一方面,在酷睿Ultra加持下原本只能在专业服务器和大型工作站才能实现的能力,现在也可以普惠到企业用户。
6AI PC管理:借助NPU处理能力,增强设备资产安全性
在商用领域,资产安全性极为重要。火绒安全、贝锐向日葵、VMware等厂商基于NPU强大的处理能力,将AI运用到威胁检测、安全风险管控、远程操作等应用中,解放了CPU算力,提升了商用PC管理效率。

▲AI助力商用PC管理

这六大应用场景,延伸到具体的垂直行业领域中,又能带来不一样的想象力。
医疗行业,AI制药头部企业英矽智能通过在AI PC部署大模型,推出AI生物学软件PandaOmics,基于超过20种预测模型和生成生物学模型,实现专业的靶点筛选、排序和分析,提升了药物研发效率。

▲英矽智能AI生物学软件PandaOmics演示

在应用展区,英矽智能BD吴剑宇向芯东西演示了PandaOmics的知识图谱和问答功能,通过来自公开文献、科研基金、临床试验的文本数据,该软件能自动生成知识图谱,用户可在左侧交互窗口进一步追问。
据其介绍,医院内部数据具有高度隐私性,本地化的大模型和算力可在满足数据安全的前提下,提升医生和科研人员在药物研发阶段的效率。
数字人领域,英麒智能利用酷睿Ultra处理器和OpenVINO深度学习套件,打造了低成本、高质量的数字人解决方案,实现快速精准的数字人智能问答。
据英麒智能介绍,用户只需录制约2分钟的视频,通过10分钟左右的云端计算,即可生成专属数字人模型,之后便可结合本地大语言模型离线使用。
高宇展示了他在会前录制的数字人模型,其口型同步、手部动作等十分生动,几乎达到“以假乱真”的程度。

▲高宇展示其数字人视频

总的来说,在经济法则中,AI数据在本地处理可降低云服务成本,优化经济性;在物理法则中,AI服务的及时性和准确性要求提升云与端之间的传输速度,解决瓶颈;在数据保密法则中,需要保证用户数据的安全和隐私,防止滥用和泄露。AI PC三大法则为AI应用指明了方向,生成式AI本地化成为必然趋势。

03.
结语:英特尔商用AI PC
打通行业落地最后一公里


通过三大AI引擎架构升级,英特尔为AI PC应用打通了落地最后一公里,基于经济、物理、数据保密三大法则,提供了AI本地化的底层基础。
去年10月,英特尔开启“AI PC加速计划”,5个月以来已累计2120个报名团队,孕育出1083个高质量的创新AI应用。值得一提的是,报名团队中超30%都来自高校大学生。
为了激励更多开发者加入,英特尔宣布“AI PC加速计划”再添两项新举措,新增“AI PC开发者计划”,并吸纳独立硬件供应商加入,以加速在2025年前为超过1亿台基于英特尔平台的PC带来AI特性。相信未来,我们会看到更多本地化AI应用,为商用场景带来更多新质生产力。





微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
外企春招丨Intel英特尔中国2024春招开启,科技大厂,世界五百强,员工持股,女性友好,适合留学生邀你探索金融、教育、法律及医疗行业的大模型创新应用,AICon 2024 即将拉开帷幕面壁智能低调开源大模型“理科状元”!LeetCode 周赛超越80%人类选手,推理性能超 Llama3-70BAI早知道|商汤发布日日新5.0大模型;微软推出小语言模型Phi-3;腾讯旗下协作SaaS产品全面接入混元大模型Intel英特尔中国2024春招开启,科技大厂,世界五百强,员工持股,女性友好,适合留学生青菜豆腐保平安GPT-4级模型Grok开源可商用!卷底层大模型的公司危了AI早知道|钉钉上线AI助理市场;联想首批AI PC 产品正式发布;英特尔推出全球最大神经拟态系统today\'s power walk record (after China Family Visit)医院是应用大模型最好的场景,但不是商业化的最好场景大模型在金融支付 ToC 场景的应用探索:在技术创新与政策监管之间取得平衡《桃花谣》&《杏花落》华为:2024年是智能驾驶规模商用元年;拜登签署涉TikTok法案,公司回应:将诉诸法庭,期待最终获胜……AI早知道|马斯克Grok大模型开源;荣耀正式发布首款AI PC;苹果谷歌和OpenAI商谈iPhone大模型使用0门槛免费商用!孟子3-13B大模型正式开源,万亿token数据训练快速低成本构建应用,浪潮信息把企业大模型落地门槛打下来了骁龙最强AI芯能力下放:小旗舰8s发布,端侧运行10B大模型,小米Civi首发转到富士山的另一侧 ----- 箱根开源大模型火了!(附99个大模型微调模型/数据/工具)!大模型生产力的头场变革,从英特尔商用 AI PC 说起人类社会三大规律使用 IPEX-LLM 加速英特尔®至强®可扩展处理器上的大语言模型推理今日arXiv最热NLP大模型论文:CMU最新综述:工具使用,大模型的神兵利器大模型的“瘦身”革命:巨头逐鹿轻量化大模型 | 大模型一周大事李未可科技古鉴:发布自研多模态大模型WAKE-AI,三大优化让AI眼镜交互体验升级 丨GenAICon 2024AI早知道|360智脑7B大模型开源;ChatGPT 的全球增长率逐渐下降一口气升级7个大模型SaaS应用,百度智能云:突出一个“开箱即用”国产多模态大模型开源!无条件免费商用,性能超Claude 3 SonnetAI早知道|Stability AI发布最新代码模型;国内首个AI综艺导演亮相;英特尔商用客户端AI PC产品发布大模型如何用于游戏?游戏玩家代理与大模型综述:方法、应用与挑战伦敦通勤镇Milton Keynes要建造6.3万套新房?当地人强烈抗议:这会毁掉他们热爱的生活AI 应用元年来了,谁帮创业者「开卷」各品牌智能手机发展大模型,技术创新大竞合,AI手机元年即将开启?硕博就业 | 招商蛇口/英特尔/亚马逊/TCL/哔哩哔哩/中国铁塔…这些名企大厂春招已经开启,部分海外有岗哦~澜舟坚持四两拨千斤:ToB场景落地,10B参数大模型足矣
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。