京东尚鑫:对中台疑云的几点冷思考|QCon 联席主席专访
“我们十几个人做了一个广告系统,那一年帮公司省下了 3 个亿,对技术人来说,这件事非常有成就感。”回忆起在京东的 16 年里印象最深刻的经历,京东集团副总裁尚鑫讲述了一个发生在多年前的小故事。
那一年,京东原计划收购市场上一家较为出色的广告系统,估价约为 3 亿人民币。但在尚鑫团队的自告奋勇之下,开始了探索由十几名成员自行研发广告系统的可行性。先尝试,如果确实做不出来再放弃,正是这种“实践出真知”的理念,加上团队一直以来贯彻的高标准要求,埋头苦干三个月,尚鑫团队终于成功地研发出了一款功能、性能都不输市场平均水平的广告系统,取得了出色的效果,也使得集团放弃了收购计划,转而使用自研系统,其稳定运营,也为集团创造了长期稳定收益。
技术团队历来被当成公司的“成本中心”,这在一定程度上被认为是无法逃脱的宿命。不管是设备、资源还是人力,都需要大量的资金投入,而这些投入往往是为了支撑业务,而非直接产生收益。如何把自身价值显性化,则成为了长期困扰技术人的问题。尚鑫和团队成员的答案是,跟随、前进。
跟随业务,与系统一起成长。跟随趋势,大胆尝试,小心落地。
京东这一国内的电商巨头,在 1998 年还只是一家电子产品零售店。但随着互联网的不断发展,创始人刘强东敏锐地洞察到电商行业的广阔前景,于是果断投身其中,于 2004 年正式创立了京东商城,成为中国最早的电子商务企业之一。随后 20 年时间,在其带领下,京东不断发展壮大,拓展了物流、科技、健康、产发、工业等业务,成功实现了由零售商向新型实体企业的蜕变。
京东业务的发展也驱动了整个京东零售技术的发展。多年来,京东零售跟随技术趋势,不断引进、研发先进的技术和人才,优化运营模式,提高运营效率,是其能够在竞争激烈的电商行业中始终处于领先地位的重要原因之一。从 2004 年至今,京东零售系统经历了 PC 时代、移动时代、中台化时代到数智化时代等四个时代,在实干中磨砺成长,其中的每个时期都是京东零售系统发展的重要转折点。
2004 年至 2011 年是京东零售的 PC 时代,这一时期是个人互联网快速发展的重要阶段。在 Web 2.0 技术日益火热的背景下,电商市场迎来了蓬勃发展,而京东零售系统也以提供方便快捷的购物体验为主要目标。尚鑫便是在这一时期加入了京东。据他回忆,PC 时代,就像是一个未经开垦的蛮荒时代,依赖人力推动的“刀耕火种”方式,各种技术方案在不断涌现,追求快速的响应速度是这个时代的主流思潮,因此大家各自发展,PHP、Java、.Net 等等多种技术栈并行,放弃了许多正规标准的诉求。
对尚鑫和团队而言,最难忘的是 PC 时代后期。那个时候,移动终端的形态尚未明确,WAP 作为一种新兴的移动互联网技术受到广泛关注。然而,由于其固有的局限性和多重问题,在 HTML5、App 等更先进的移动互联网技术诞生后,WAP 逐渐被淘汰。
“当时大家都在玩移动,我们也尝试做过 WAP,不过第一个版本 Bug 很多,大家也觉得这个东西根本就不可能发展起来,因为体验实在是太差了。”虽然当时并不能完全看清 WAP 的具体未来,但本着对移动互联网趋势的笃定和一贯以来“实践出真知”的理念,尚鑫的团队还是坚定地投了十几个人去探索,勇敢地尝试新趋势下涌现的新技术,在实践中不断迭代和调整,为移动时代的到来做好了准备。
业界广泛认为,2011 年是中国移动互联网元年,这一年,移动互联网在中国的应用场景和市场规模呈现爆发式增长,自此拉开了中国移动互联网发展的黄金十年序幕。京东零售系统敏锐地察觉到这一机遇,逐步向移动端转型。
然而,一道难题摆在了尚鑫团队的眼前。
移动时代要求同时兼顾 PC 和移动端的需求,因此需要建立一种通用的架构标准来实现这一目标。这种标准应该考虑到两个场景之间的兼容性和互操作性,并在技术上提供更高效、更安全的解决方案。但如果架构设计不够灵活,就可能需要投入双倍的人力,一套给 PC 端,另一套给移动端,这样不仅需要额外的人力成本,还会造成不必要的浪费,甚至带来用户体验不一致的问题。
尚鑫表示,实际上,京东零售也经历过同时运行两套系统的阶段,但在一两次大促后,移动和 PC 的占比情况发生了彻底改变。这种源于移动技术迭代而又服务于营销场景更新的实际应用场景变化,对技术团队提出了巨大的挑战。如果没有做好架构的梳理和迭代,是无法有效支撑这种巨大变化的。
2017 年之前,京东零售一直是服务化架构 + 业务产研闭环作战单元的组织形式,这在业务快速发展的阶段有较为明显的优势,按照服务划分,各自迭代,于是能够实现创新业务的快速落地。但随着业务规模的持续增长,背后的弊端逐渐显现——烟囱林立,系统之间无法打通,业务落地成本高昂,也无法实现数据的高价值转化。
中台架构,是当时炙手可热的一种软件开发模式。中台架构强调以技术中台为基础,抽象封装有共性的场景,提高其可复用性,然后通过提供统一的技术支持,让各业务部门能够快速开发和迭代业务应用,既可降低开发的成本,又能提高创新业务的落地效率。在京东看来,为更好地应对复杂的业务场景和快速变化的市场需求,中台架构是未来公司规模进一步扩张的必经之路,也是公司发展的重要方向之一。因此,在慎重调研试点后,京东决定开始向着中台化架构 + 中台化组织演进。
组织架构的变革,向来被认为是企业管理的巨大难题,但为了更好地服务公司业务发展,尚鑫及其团队坚定地认为“再难也得上”。经过几年时间的迭代和打磨,京东零售目前的一体化开放式中台架构被验证为一种十分成功的技术体系,其以高度灵活、高效的方式,整合了京东零售各业务线的资源,以提高运营效率和降低运营成本。该架构的核心是前中台并行开发,底座共享,支持自由扩展,以满足不断变化的业务需求。在该架构下,各前台可利用中台能力进行编排、扩展、共建,实现快速响应创新业务,提升交付效率。多端技术、业务组件化和低码平台的应用,有效地支持前端应用的快速搭建和交付。能力抽象和架构标准化的过程中,沉淀了宝贵的知识资产,为人力轮动支援支持提供了坚实的基础。总的来说,一体化开放式中台架构已经成为京东零售业务的核心基础设施,为公司的持续发展提供了有力支持。
尚鑫表示,中台建设在京东零售推广过程中也并非顺风顺水,主要源于业务团队和技术团队对中台价值的认知程度不一致,在这个过程中,团队面临着不少挑战。
第一个挑战来自内部。
在早期的服务化架构 + 业务产研闭环作战单元模式下,各团队独立发展,各自构建封闭的闭环系统,因此运转高效。然而,如果要将所有团队迁移至同一套架构体系,势必会导致效率降低。因此,说服业务部门进行迁移成为一项巨大的挑战,他们对于中台建设所带来的利益存有疑虑,也对中台建设所涉及的成本和风险存有疑虑。
在此情况下,只能通过试点来逐步推进。尚鑫团队找到了一些发展壮大的过程中遭遇可扩展性和性能等方面瓶颈的团队,说服他们将这个“烟囱”与中台架构融合,为其换上新的底座。“实践最具有发言权”,通过不断地试点和实践,一个个标杆案例被创造出来,丰厚的实干成果,最终让越来越多的业务部门主动提出要进行中台的融合。
尚鑫把中台定义为一种共性,并给出了判断其是否值得做的思路——如果你能用同样的一套体系支撑大于等于 2 的场景,那么中台就值得做。
另一个挑战来自外部。
近来,有不少企业悄然掀起了中台的拆除热潮,这一趋势引发了行业内的一系列争议。与几年前中台热潮兴起的情形类似,人们开始争论中台建设是否应该拆除,或是继续进行建设。看到了这一现象,尚鑫表示,中台拆除并不一定是正确的决策。他认为,从成本和效率的角度来看,如果中台被设计得过于厚重,反而会导致效率低下,因为中台承担了太多不必要的职责。但是,从成本角度来看,中台是最经济的选择。
“京东不会拆中台。在未来,我们可能会把它给做薄,但要保证足够强壮。我们的中台做薄了,就能够让后边的创新业务更快,新业务可以快速复用之前沉淀的场景能力,中台也能做到强隔离把风险降到最低,这是我们保持稳健发展的重要策略。”尚鑫解释道。
京东的战略是稳定、聚焦的,因此,技术架构与战略也是相辅相成的,在做任何决策的时候,相较于其他电商公司都更加谨慎,也更尊重实战成效,今天建中台,明天拆中台,这种玩法不适合京东。“因为我们是做实业的,京东真的都是快递小哥一单一单送出来的,我也和大家一起到仓库搬了很多货,体验过整个流程,了解过自己造的系统,里面有哪些可以提升效率的,也和客服一起听过客户热线电话,知道各种辛苦。所以技术团队更要精打细算,让每一分钱都花在实处。”
作为一家以供应链为基础的技术与服务企业,京东累积了庞大的数据和复杂的业务场景,并初步打造了数智化社会供应链。因此,京东零售一直在数字化和智能化方面进行探索和改造,以提高运营效率和用户体验,也在演进中逐步形成了自己独特的系统特征和发展路径。
近两年,京东实现了巡检自动化,该技术也经过了今年 618 大促的严苛考验。此前,该项工作还需要人工逐项检查,今年通过机器固化了整个工作流程,相比之下,效率更高,时间更短,准确率更高,人力成本投入更少,真正实现了 AI 的价值。尚鑫分享了一个显著的提效数据:在实现自动化巡检技术之前,巡检的覆盖率约为 50%-60%,但是现在提升到了 96%。
在即将到来的双十一大促期间,京东零售将实施一项监控动态调整方案,旨在优化监控系统,提高发现和处理问题的效率。虽然已经实现了巡检自动化,但京东还存在大量监控点需要人工设定阈值,而日常的阈值和大促期间的阈值相比有较大差异,如果几十万个监控点都靠人工设定,动态调整的投入将会十分巨大。为此,京东零售希望做出这样一套方案——基于历史数据表现,通过自动调整阈值,进一步优化监控系统,在此基础上整合全链路监控,并打造一个大型可视化面板,使问题能够在一秒钟内定位,并根据情况生成相应的预案,从而显著提高发现和处理问题的效率。在更长远的规划中,尚鑫团队还希望实现机器在预先设定好的方案下处理问题的功能。
上述提到的两个案例仅仅是京东零售在数智化时代对业务的技术支持和赋能的一个缩影。不管是更加注重数据的挖掘和分析的系统设计,还是实现智能化的商品推荐、个性化的服务和智能化的供应链管理,尚鑫团队长期关注对大数据和人工智能等技术的应用,紧密跟随京东零售 AI Retail 数智化发展策略,通过一次次实践的验证完成技术应用的迭代,以技术革新助力业务模式和商业模式重构升级,为用户提供更加优质、智能的购物体验。
7 月份,在 JDD 京东全球科技探索者大会上,尚鑫公布了京东零售 AI RETAIL 数智化发展策略,提出要以 AI 技术重构零售的人、货、场,推动零售技术面向下一个二十年的战略发展。
人,是要真正以用户体验为中心,实现全链路触点交互 CHAT 化,挖掘和持续满足丰富需求。
货,是要高效的商业实时决策,让 AI 本身就是决策,实现商机洞察及趋势。
场,是 Everywhere,做到线上线下,需求实时满足。
在这里面,AI 扮演着重要的角色。尚鑫笃信,AI 一定是下一个新范式的基础设施,团队也在密切关注 AIGC 和大模型的技术发展,并主动跟随一些大趋势,同时也会预判一些趋势并主动规划。“比如在 PC 时代,架构的迭代升级是可以预测的,因为业务的增长速度可以清晰地计算出来,并且可以比较准确地预估架构所能承载的规模。当一个大促即将来临时,你就可以预见这个架构它肯定是扛不住了,因此我们肯定得先于业务去做一些规划和调整。”
据其介绍,京东已经在大模型和 AIGC 领域展开了深入的探索,目前已经涉及到了客服、导购、研发、运营和营销等多个领域。其中,较为深入尝试的是客服和导购领域,而在研发领域则将大模型应用于单元测试中。在运营领域,京东致力于探索采购、补货和自动调拨等场景,提高效率。而在营销领域,京东则正在尝试自动生成图文,以快速、高效地创建吸引人的营销内容。
在部分领域深入探索的同时,他也坦言,大模型的进步确实是很大,但在更广阔的业务上,效果还需要进一步考证。且由于不清楚这些技术的影响和潜在风险,京东零售采取了审慎而稳健的尝试策略。一是因为京东零售有着庞大的业务规模和众多场景,开发人员的数量也非常庞大,一旦确定了数智化方向,整个团队就会紧密合作朝着同一个目标努力,一旦上路,很难再轻易地掉头。二是因为客户体验是京东的第一站,一点小问题都可能对整个京东的经营带来特别大的损失或者冲击。
尚鑫表示,当前落地的难点不仅在于大模型的成熟度本身,也在于高质量的数据集。特别是在 AIGC 上,想获得优质稳定的效果,数据量是至关重要的,而只靠京东内部的数据量还远远不够。进一步说,大模型是一个要素集合体,没有机器,没有 GPU,没有算力,只能干瞪眼。而现在困扰各家巨头最大的问题则是算力无法达到要求,不是因为没有钱投入,而是买不到。
但尚鑫相信,随着 AI 持续发展,等到训练成本降到足够低之后,等到大模型这个富人的游戏变得平民化之后,才是真正重塑世界的时候。
届时,零售业的人、货、场关系将经历深刻的变革。这种变革是由交互方式的改变所驱动的,使得商品与消费者之间的匹配关系变得更加灵活和人性化。当前,我们主要依赖于线上和线下的购物场景,然而,未来可能还有许多 VR 和 AR 场景将发挥重要作用,为零售业带来前所未有的变化。在过去的几十年中,电子商务已经改变了人们的购物习惯。然而,随着技术的不断进步,购物场景的重构也将成为可能。据了解,京东零售目前已在包括数字人技术在内的虚拟现实上面做一些探索,可以预期的是,下一个范式的 AI 基础扎实之后,还将有更好的效果与成本优化空间,这些技术将进一步优化购物体验,提高效率并降低成本,从而为消费者提供更好的服务。
最后,在讨论如何在不断变化的技术趋势中不迷失方向时,尚鑫表示,抱朴守拙,行稳致远是京东零售技术团队一直以来的信条,“技术的价值不仅仅在于其自身的技术含量或创新性,更在于它对业务发展的贡献和成就,只要坚守这一点,路就错不了。”
尚鑫,京东集团副总裁、京东零售技术委员会主席。2007 年加入京东,见证了京东 IT 系统演进的全过程,先后负责京东多个核心系统,熟悉大流量高并发系统架构设计。从事电商研发及管理工作十余年,技术架构及产品经验丰富。
QCon 全球软件开发大会·上海站将于 12 月 28-29 日举办,拟邀请 70 位嘉宾前来分享。此次大会将探讨 LLM 落地应用、AI Agent 、Code Assistant 、业务安全 、金融科技 、信创软件集成开发环境技术 、LLM + 质量效能 、高性能网关等方向。本次大会以「启航·AIGC 软件工程变革」为主题,目前大会议题正在同步征集中,点击 「阅读原文」 即可查看详情。现在购票即可享受 7 折 优惠,立减 ¥2040。咨询购票可联系票务经理 18514549229(微信同手机号)。
微信扫码关注该文公众号作者