Redian新闻
>
京东公布大模型全景图:言犀AI开发计算平台8月上线

京东公布大模型全景图:言犀AI开发计算平台8月上线

公众号新闻

雷递网 乐天 7月13日

京东集团今日在2023京东全球科技探索者大会暨京东云峰会上推出京东言犀大模型。

京东集团CEO许冉表示:“京东的大模型技术演进,遵循了京东的技术追求:成本、效率、体验、可信、普惠、突破。成本、效率和体验是从京东的经营理念传承而来,也是零售的第一性原理。可信、普惠和突破则是技术服务于产业和社会的承诺。”

京东云事业部总裁曹鹏宣布,京东言犀AI开发计算平台将于8月上线。

曹鹏认为,虽然Chat类的大模型引发新一轮热潮,但对话、写诗、作画绝不是大模型的全部,作为一家新型实体企业,京东思考更多的是大模型如何与实体结合。与通用大模型相比,言犀大模型具备三大特性:更高产业属性、更强泛化能力和更多安全保障。

曹鹏表示,依托于京东复杂场景历练,言犀天然具有产业基因,更懂产业需求,可为千行百业输出更准确、更有价值信息和判断,与实体产业深度融合。

用产业数据和Know-how创造价值

“大模型真正实现自己的价值,一定是在产业应用中。”许冉表示,大模型的价值=算法×算力×数据×产业厚度的平方。“前三个指标固然重要,但技术在产业场景落地应用,创造实际价值才是关键。当产业效率和产业的边界拓展得到质的提升以后,大模型才有了更重要的实际价值和意义,这将不亚于又一次工业革命。”

许冉说, “从产业端切入大模型,如同从北坡攀登技术珠峰,道路虽然更加艰难,却有更波澜壮阔的风景。”

产业场景是京东非常擅长的领域。京东作为一家新型实体企业,自身发展就来自产业场景历练,拥有包括零售、物流、科技、健康、工业、产发等丰富的产业布局。这为京东积累下每年数百亿条优质交互数据,训练言犀大模型的数据库,就由70%通用数据和30%供应链原生数据组成。

京东称,产业数据积累,以及千行百业Know-How,成为京东布局大模型的核心优势,训练出的大模型天然具备“产业基因”。此外,言犀大模型还具备行业泛化能力,并能够保障客户在云上云下安全使用。

京东集团技术委员会主席、京东云事业部总裁曹鹏说,“数智供应链训练了产业大模型,而大模型则依托供应链深入产业”。

京东集团技术委员会主席、京东云事业部总裁曹鹏演讲

对于大模型的应用实践,京东也有明确的“三步走”规划。

目前,京东云已经基于内部实践构建了通用大模型;到今年年底这段时间,京东将经由高复杂场景大规模锤炼,迭代出扎实的产业服务;预计在2024年初,会将大模型能力向外部严肃商业场景开放。目前,京东已经走到第二步,并在内部取得了实践成果。

京东探索研究院院长、京东科技智能服务与产品部总裁何晓冬博士演讲

“某种意义上,我们的大模型相当于既做了通识教育,又读了四年专业性的本科教育”, 京东探索研究院院长、京东科技智能服务与产品部总裁何晓冬博士表示。大模型的难点不在技术追赶,而是产业突破。京东言犀大模型的产业实践,是京东非常关注的部分。

构建大模型“训练营”和“弹药库”

京东从很早就开始布局大模型。2021年,京东就推出十亿级模型K-PLUG,2022年推出百亿级模型Vega,本次大会则展示了千亿级模型。

京东称,正是提早布局,让京东形成一套大模型的完整工具链:言犀AI开发计算平台、向量数据库,及全新升级的基础设施云舰、云海和京刚。

京东的言犀AI开发计算平台,能够为客户的大模型开发和行业应用开发,提供定制化解决方案。它既具备行业知识库,沉淀了京东自己的零售、物流、健康、金融等行业Know-How,又具备100多种训练和推理优化工具,能将通用模型迅速转化为专业模型。

在大会现场,京东演示了将通用大模型转化为健康产业大模型的操作。通常,客户完成这套流程,从数据准备、模型训练到模型部署,需要10余名科学家花费一周时间。但利用言犀AI开发计算平台,只需要1-2名算法人员,在数分钟就能完成。通过平台模型加速工具的优化,京东称还能节省90%的推理成本。

京东健康发布的京医千询大模型,就是建立在京东言犀通用大模型基础之上,能快速完成在医疗健康领域各个场景的迁移和学习,从而实现产品和解决方案的全面AI化部署,能为远程医疗服务提供坚实的技术底座。

京东还展示了金融领域AI营销运营平台。使用者通过简单的对话,就能一站式生成营销活动,覆盖运营策略制定、营销人物调度编排、搭建活动页面、批量生成营销文案和素材、数字化投放等方面。过去这套流程需要产品、研发、算法、设计、分析师5类职能人员,如今减少到1人;过去流程需要2000次人机交互,也减少到少于50次。在大模型能力的加持下,营销方案的生产效率有了百倍提高。

京东称,在电商领域,京东云AIGC内容营销平台从一张商品图出发,能够理解商品特征,快速胜场电商运营需要的商品主图、营销海报图和商详图等,满足商家快速开店和营销的需求。有了人工智能的加持,每套图的制作成本能降低90%,制作周期也从7天缩短到半天。

京东称,如果说言犀AI开发计算平台是大模型的“训练营”,向量数据库则是大模型的“弹药库”,是大模型使用数据的桥梁。京东从2019年开始研发向量数据库,历经电商大促场景磨练,向量数据库Vearch已经能支撑百亿级高性能检索,延时降低到毫秒级,可用性达到99.99%,已经服务超过100家大中型企业用户。京东将向量数据库用于大模型预训练,将推理成本降低了80%。

对大模型所需的计算资源,京东也做出了充分的准备。在重庆太阳岛,京东全国首个超算中心——天琴α集群正日夜不停地运转,推理速度较过去提升6.2倍,推理成本节约90%,成为技术创新背后的算力支撑。

京东云三个核心产品也迎来升级。京东云称,全新升级的混合多云操作系统云舰,将GPU/NPU的资源成本降低50%,并提供行业最高的业务连续性承诺。高性能存储平台云海,将单集群每秒读写性能提升5倍,达到千万级;时延降低50%,达到百微秒级;使用成本降低30%。软硬一体的虚拟化引擎京刚,将虚拟化卸载到智能网卡中,虚拟化损耗降至0,网络性能提升高达4倍,并支持100Gb VPC网络,云硬盘单实例性能破百万IOPS。

京东集团副总裁、京东科技产品与解决方案总裁高礼强表示,“智能化优先在数字化领先的行业发生”。

在本次大会上,京东物流发布了一站式数智化供应链数据管理平台京慧3.0,在大模型的加持下,其销量预测、库存、供应及补货计划方面更具表现力,其交互式供应链控制塔能够帮助用户快速定位并解决供应链问题,实现降本增效。

———————————————

雷递由媒体人雷建平创办,若转载请写明来源。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
2023中国网络安全市场全景图新材料产业链全景图谱分析及政策解读母亲节话母亲节2024年跨域融合元年到来,这家头部Tier 1独家首发中央计算平台给大模型持久记忆!GitHub 2万星向量数据库云服务升级,国内云产品7月上线寻找国内TOP大模型战队!AIGC大模型人才全景报告案例征集启动市值暴涨至万亿美元后,英伟达再放大招!推出超级AI计算平台:集成256个GH200芯片、共享内存144TBPinterest 使用 Kubernetes 和 Helix 构建下一代异步计算平台 Pacer市值暴涨至万亿美元后,英伟达再放大招!推出超级 AI 计算平台:集成 256 个 GH200 芯片、共享内存 144TB8月上海见!大模型产业生态论坛早鸟票开启预售美团“杀入”大模型;叮咚买菜回应撤出川渝;京东618开启;呷哺集团推付费会员模式;美团香港外卖平台上线;泰禾或终止上市|联商头条中国团队自动驾驶大模型斩获CVPR最佳论文;Stability AI推出新文生图模型;京东大模型即将发布丨AIGC大事日报“软件定义汽车”浪潮之下 车载智能计算平台迈向何方?浪潮信息:发布大模型智算软件栈OGAI,为大模型创新打造高效生产力喜报:新钛云服入选中国信通院《高质量数字化转型产品及服务全景图(2023)》华为盘古大模型全布局揭秘,惊为天人!智驾计算平台进入「换代期」上海发布大模型政策,打造AI“模”都;罗永浩“曲线上市”成功;华为云正式发布盘古大模型3.0……直播预告 | metaPPI计算平台及其在大分子理性设计中的应用LLM 全景图 (The Landscape of LLM)日本公布水质检测结果,中国人造太阳取得重大进展,X(推特)上线招聘平台,智己汽车发布大模型,这就是今天的其他大新闻!WebAR平台8th Wall新增手部追踪功能;Meta 为 Quest 系列引入新的反盗版措施Nature系列综述:传染病疫苗研发全景图京东言犀大模型,离不开数智供应链|甲子光年京东言犀大模型亮相,应用将分三步走接入Llama 2等33个大模型,上线Prompt模板,百度智能云千帆大模型平台重磅升级谷歌医学AI登Nature;京东推出言犀大模型;传Meta将发布AI模型商业版丨AIGC大事日报编花篮:与文学城小编对谈大模型爱好者必看:60+大模型全场景落地案例集|QCon【尘封档案】系列之160:华南特案组之(二)李代桃僵(下)商汤大模型全面升级!「商量SenseChat 2.0」大语言模型疯狂上分ChatGPT访问骤降,国产大模型弯道超车机会来了?2万星GitHub项目亮剑,国内产品7月上线煤怎么能吃呢?【硅谷的故事】购买豪车记有人把NLP领域分类、发展趋势可视化了!德国慕尼黑工业大学构建NLP 360度全景图
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。