Redian新闻
>
定义Serverless场景下BaaS访问的统一范式

定义Serverless场景下BaaS访问的统一范式

公众号新闻

在 Serverless 场景下,业务函数需要访问后端服务,如对象存储、消息队列、云数据库等。这些后端服务的接入,涉及到接口标准、海量连接、弹性伸缩、事务语义等问题,给开发者带来了诸多挑战。为了解决这些问题,华为云 FunctionGraph 提出了一种基于代理函数的后端服务接入框架,它可以帮助应用服务实现高效解耦,让开发者专注于业务逻辑,提高函数访问后端服务的效率和体验。

云原生下 BaaS 的使用挑战

作为一种新兴云计算范式,Serverless 让开发者可以在不管理服务器或后端基础设施的情况下,构建和运行应用代码。Serverless 具有以下特点:编程简单、弹性伸缩、按用付费、无需运维。目前,许多云服务提供商都推出了自己的 Function-as-a-Service (FaaS) 产品。FaaS 可以让开发者在响应特定的事件或请求时,运行应用代码,而无需指定或管理运行代码所需的基础设施。FaaS 的早期形态以无状态为主,每个函数可以看做一个独立的功能模块,不依赖于之前的事件或用户交互。这种无状态的函数非常适合函数按需使用、用完销毁的模式。然而,无状态函数并不能满足一些复杂业务的需求,例如需要在函数之间传递和保存数据的业务场景。为解决这类问题,云服务商们相应推出了如对象存储、消息队列、云数据库、分布式缓存等 Backend-as-a-Service (BaaS) 作为 Serverless 生态的重要部分。简单来说,当下的 Serverless 计算,可以认为是 FaaS + BaaS 的组合。然而,FaaS + BaaS 的架构和 Serverless 所期望的简易编程、高效开发等理念之间,依然存在一定的差距。

一方面,应用在使用后端服务时,通常需要开发者集成对应后端服务的 SDK。即使是相同功能的服务,不同云厂商会涉及不同的操作接口,比如 AWS 的 S3 和 Azure storage。开发者需要学习大量后端服务的使用方式,才能完成业务功能的开发。同时,对于应用本身而言,集成大量相似的 SDK,是一件代价极高的事情,除了增加应用本身的资源消耗(如软件包大小、冷启动时长),还会带来大量的源码维护成本。当应用期望切换部署平台时,往往需要集成对应平台 BaaS 的 SDK,并且重新开发适配这套 SDK 的代码。

另一方面,使用函数实现的应用程序和后端服务的交互往往比较复杂。由于上下文信息被卸载到了后端的 BaaS,因此 BaaS 通常需要维护一个有状态的客户端,包括认证信息、活动的连接等等。比如数据库的事务操作,就需要在同一个数据库连接上执行。在无状态的函数之间传递这些“状态”,无疑是十分复杂的。以多函数共同执行数据库事务为例,这些函数实例无法使用同一个数据库连接,为了在任务失败的情况下进行数据库补偿,业务代码里不可避免地需要编写各种异常处理的逻辑,还需要在任务失败的时候进行失败信息的传递。这无疑也增加了开发者的负担,更重要的是,复杂的逻辑往往会带来意想不到的问题,最终可能使得业务受损。

BaaS 接入的探索之路
1. Proxy:控制连接,提升应用程序可用性、可扩展性

图 1 使用 Proxy 方式访问后端服务

在应用程序与后端服务之间,增加一层代理,是访问复杂的后端服务的一种常见的方式。在 Serverless 场景,函数的弹性伸缩特性使得应用程序会与后端服务频繁建立和释放连接,从而影响后端服务的正常使用。通过 Proxy 代理访问后端服务,利用池化和共享连接,可以将多个应用程序之间的请求汇聚,从而提高后端服务的效率和业务应用的可扩展性。此外,由于与后端服务的连接是由 Proxy 代理控制的,通过控制请求建立连接对应的后端节点,业务可以通过 Proxy 使用负载均衡、读写分离、故障转移等高级特性。当前比较常用的后端 Proxy 服务有 RDS Proxy[1] 和 Redis Proxy[2],对于大部分后端服务来说,还缺少通用的 Proxy 接入方式。

2. Dapr:分布式应用运行时,重新定义基础设施边界

图 2 通过 Dapr 访问后端服务 [3]

Dapr 是一个实践 Multiple Runtime 理念的开源项目,它将这些许多不同分布式能力以及中间件能力的“运行时”模块进行了整合。Dapr 将分布式应用常用的后端中间件、存储等服务进行抽象,设计出一套标准的接口,然后通过具体的 Sidecar 适配不同的组件实现,应用代码通过 Sidecar 访问后端组件。通过模型抽象预定义 API,替代用依赖库调用中间件,有助于松耦合,开发者可以自由地切换后端中间件,而无需改造代码。在 Serverless 场景,为了减少资源开销,Dapr 一般会与业务函数实例部署在同一容器下,以 Sidecar 进程的方式存在。当函数实例接收到请求之后,可以通过 Dapr 的 SDK 发起对后端服务的调用,Dapr 的 Sidecar 进程会根据接收到的请求选择对应的组件,从而请求后端服务。

3. Service Bridge:定义 Serverless 场景下 BaaS 访问的统一范式

图 3 通过 Service Bridge 访问后端服务

Service Bridge 致力于构建一个丰富高效的 Serverless 后端服务环境,由华为云 FunctionGraph 提出。它提供了一系列统一的接口来解耦常用的后端服务的接口和功能实现,比如 OBS、SQL 数据库等等。这样一来,开发者在访问不同云供应商的后端服务时,不需要集成多个类似但不同的 SDK。同时,Service Bridge 为应用开发者们提供了一个可扩展的方式,来实现他们自己的 bridge 函数与特定的 BaaS 服务交互。通过这样的方式,用户各类请求通过统一的接口可以通过特定的 bridge 函数转换成对应的后端服务需要的请求。Service Bridge 以函数方式实现,天然支持自动弹性扩缩容和动态插拔,提升了资源利用率。为了减轻开发者使用负担,Service Bridge 对于业界流行的接口、框架(如 JDBC、Mybatis)也进行了适配支持,开发者无需修改代码,即可直接对接到 Service Bridge。

Service Bridge 通过 Bridge 函数维护和后端服务的连接,通过复用 Bridge 函数,就可以复用后端服务的连接。通过后端连接复用,可以实现(1)高并发请求支持(2)共享已建立好的连接,加速业务启动(3)保证多个业务函数之间共享事务一致性

实践案例与对比
1. Dapr 实践案例:提供多语言统一,实现开发效率提升

图 4 多语言场景使用 Dapr 访问后端服务 [5]

首先,Serverless 场景,FaaS 对于多语言的诉求十分强烈,开发者使用各种语言来开发他们的 FaaS 业务。然而,在多语言的支持方面,不是所有的后端服务都有着完备的 SDK。对于开发者来说,自行实现对接后端的 SDK 是不现实的。通过 Dapr,开发者可以很方便地使用不同的语言进行业务开发,同时,也能够使用需要的后端服务。其次,不管是新开发一个应用,还是对于现有应用程序进行迭代演进,Dapr 的多语言支持都十分有效。

除此之外,Dapr 对于后端服务的抽象,使得开发者可以不必关注具体的产品,从而能专注业务开发,提升开发效率。举个例子,一个微服务应用需要使用云上的某个云产品,使用 Java 语言,要引入 maven 依赖,同时需要写一些与后端交互的代码。但是,通过调用 Dapr SDK 提供的 Binding 方法,就可以省去这些步骤,减少维护的开销。

2.Service Bridge 实践案例:解决函数海量连接、事务一致性等问题

图 5 业务改造前后访问中间件示意图

某 2C 业务基于 Service Bridge 进行改造,完成业务逻辑与后端服务对接分离。原中间件 SDK 从函数里剥离,相关功能下沉到 Service Bridge,减少不必要的依赖,实现函数轻量化。通过复用 Bridge 函数实现连接复用,支持对海量连接和请求进行聚合,减少后端服务压力,提高服务访问性能,用户函数可以做到真正的按需弹性

图 6 Service Bridge 支持分布式函数共享事务

通过 Service Bridge 代理后端服务访问,利用路由计算,将同一事务的请求汇聚到同一个 Bridge 函数实例上,将原来拆分出来的事务逻辑重新聚合成本地事务,解决一致性问题。

图 7 Service Bridge 应用于冷启动快照恢复场景

快照冷启动方案能够加速函数的启动时间,但是也面临着一些挑战:通过快照恢复后,应用的网络连接状态会受到影响,跟外部服务之前已建立的连接都会丢失,需要重新建立 [6]。利用 Service Bridge 充当用户应用与 BaaS 之间的纽带,通过 Bridge 函数保持后端连接,避免应用恢复后等待连接重建,或者侵入业务代码进行 Restore Hook 刷新。

3. 接入方案对比

表 1 分别从适用场景、学习成本、是否常驻、业务函数可扩展性、多语言支持方面比较三种对接方式

总结和展望

本文主要讨论了 Serverless 场景下函数访问后端服务的三种接入方式,除了业界熟知的 Proxy 和 Dapr,还介绍了 Service Bridge,一种使用函数代理的 BaaS 访问模式。当然,这三种方式都是通过代理层访问后端,比起直连不可避免地存在性能损耗;同时,统一接口的对接方式面临着后端服务高级特性接口难以统一的挑战,我们也在持续探索和尝试更多的可能。

FunctionGraph[7] 作为华为元戎加持的下一代 Serverless 函数计算与编排服务,集成 Service Bridge,持续为用户带来更好的函数开发、使用体验。后续我们将分享更多围绕通用全场景 Serverless 的前沿理论及其案例实践,回馈社区,包括 FunctionGraph 在微服务 Serverless 化上的实践经验等。

参考资料

[1]https://aws.amazon.com/cn/rds/proxy/

[2]https://support.huaweicloud.com/productdesc-dcs/CacheProxy.html

[3]https://docs.dapr.io/operations/hosting/kubernetes/kubernetes-overview/

[4]https://developer.aliyun.com/article/785943

[5]https://blog.dapr.io/posts/2021/03/19/how-alibaba-is-using-dapr/

[6]https://xie.infoq.cn/article/c10f263d96bb12f02347efc9e

[7]https://support.huaweicloud.com/functiongraph/index.html

[8]https://www.infoq.cn/article/vae6wfvzlferex4navnu

[9]https://skyao.io/post/202103-how-alibaba-is-using-dapr/

今日好文推荐

52家企业,48家要降本:FinOps 能否拯救“下云潮”

前端容易出神话?从高中辍学到价值 10 亿美元的初创公司

这将是一场灾难?37年历史的PostgreSQL数据库将进行重大架构变更

GitHub Copilot:做出一个划时代的产品,只需要 6 个人

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
免费$20保龄球代金券!所有KINGPIN VENUES场地!进入会场,告知兑换代码:KING23解锁 Serverless 新进展:与 AIGC 结合会有哪些搞头?#英语学习#Reserve, Preserve和Conserve有什么区别?看看你能答对这道题吗?Chinese Climbers Scale Everest, Tragedy and Daring Rescue Ensue对话无服务器专家 Luca Mezzalira:你真的为 Serverless X AI 做好准备了吗?开源了!UniControl:可控视觉生成的统一扩散模型空巢日记摘要2005IB/AP/DSE/OSSD学生纷纷转A-level体系,大家终于发现A-level的好了?Majority of Parents Stressed Over Children’s Education: Survey资管巨头 | BNY Mellon(UK)Securities Services全职岗招聘进行中对话无服务器专家 Luca Mezzalira:你真的为Serverless X AI 做好准备了吗?​Western Reserve Academy 西储学院深入理解Serverless计算的并发度Young Chinese Obsess Over MBTI, the American Personality TestControversy Over China’s Captive Breeding Rumbles On文革记忆 -- 红小兵追疯子Serverless Days【深圳站】回归了ICCV 2023 | 北大提出MotionBERT:人体运动表征学习的统一视角案例分享:混部共享集群租户内自定义调度编排数据密集型Serverless应用|QConCCTV Report Sparks Outcry Over Heritage Preservation in Gansu日增百亿数据,查询结果秒出,Apache Doris 在 360商业化的统一 OLAP 应用实践一张表,了解大奖的世界黄东旭:我对数据库如何Serverless 化的一些思考川普或以独立人身份参选Best是“最好的”,seller是“销售员”,best-seller可不是“最佳销售员”!【LEAP eSalon】Success Strategies on Job Search & Career ChangeMaaS突破“临界点”,全栈Serverless化再升级,阿里云如何重塑云计算技术体系?Serverless为什么是云数据库的未来?有了 Serverless 数据库,用户就不需要 DBA 了吗?历史上的统一大业免背景调查直接通过澳洲Graphic designer 平面设计师VETASSESS职业评估,这是我们最核心的业务了。都快想退休了,才发现/觉得我入错行了!日增百亿数据,查询结果秒出, Apache Doris 在 360商业化的统一 OLAP 应用实践A Beloved Chinese Classic Gets a Weightless AdaptationSOFAServerless 应用架构助力业务10倍效率提升,探索微服务隔离与共享的新平衡|QCon
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。