Redian新闻
>
海量请求下的接口并发解决方案

海量请求下的接口并发解决方案

公众号新闻

点击上方“芋道源码”,选择“设为星标

管她前浪,还是后浪?

能浪的浪,才是好浪!

每天 10:33 更新文章,每天掉亿点点头发...

源码精品专栏

 

来源:blog.csdn.net/weixin_44414492/

article/details/123027974


设定一个场景,假如一个商品接口在某段时间突然上升,会怎么办?

生活中的例子来说,假设冰墩墩在当天晚上上热搜之后,迅速有十几万人去淘宝下单购买,此时并没有做好对该商品的缓存预热以及准备,如何操作?

对于这个问题,在电商高并发系统中,对接口的保护一般采用:缓存、限流、降级 来操作。

假设该接口已经接受过风控的处理,过滤掉一半的机器人脚本请求,剩下都是人为的下单请求。

服务限流

限流 主要的目的是通过对并发访问/请求进行限速,或者对一个时间窗口内的请求进行限速,一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理。

限流算法

1. 漏斗算法

漏桶算法 是当请求到达时直接放入漏桶,如果当前容量已达到上限(限流值),则进行丢弃或其他策略(触发限流策略)。漏桶以固定的速率(根据服务吞吐量)进行释放访问请求(即请求通过),直到漏桶为空。

漏斗算法的思想就是,不管你来多少请求,我的接口消费速度一定是小于等于流出速率的阈值的。

可以基于消息队列来实现。

2. 令牌桶算法

令牌桶算法 是程序以v(v = 时间周期 / 限流值)的速度向令牌桶中增加令牌,直到令牌桶满,请求到达时向令牌桶请求令牌,如果获取成功则通过请求,如果获取失败触发限流策略。

令牌桶算法和漏斗算法的思想差别在于,前者可以允许突发请求的发生。

3. 滑窗算法

滑窗算法 是将一个时间周期分为N个小周期,分别记录每个小周期内访问次数,并且根据时间滑动删除过期的小周期。

如下图所示,假设时间周期为1分钟,将1分钟再分为2个小周期,统计每个小周期的访问数量,则可以看到,第一个时间周期内,访问数量为75,第二个时间周期内,访问数量为100,如果一个时间周期内所有的小周期总和超过100的话,则会触发限流策略。

Sentinel的实现 和 TCP滑窗。

接入层限流

Nginx限流

Nginx 限流采用的是漏桶算法。

它可以根据客户端特征,限制其访问频率,客户端特征主要指 IP、UserAgent等。使用 IP 比 UserAgent 更可靠,因为 IP 无法造假,UserAgent 可随意伪造。

limit_req模块基于IP:

http://nginx.org/en/docs/http/ngx_http_limit_req_module.html

tgngine:

http://tengine.taobao.org/document_cn/http_limit_req_cn.html

本地接口限流

Semaphore

Java 并发库 的 Semaphore 可以很轻松完成信号量控制,Semaphore 可以控制某个资源可被同时访问的个数,通过 acquire() 获取一个许可,如果没有就等待,而 release() 释放一个许可。

假如我们对外提供一个服务接口,允许最大并发数为40,我们可以这样:

private final Semaphore permit = new Semaphore(40true);

public void process(){

    try{
        permit.acquire();
        //TODO 处理业务逻辑

    } catch (InterruptedException e) {
        e.printStackTrace();
    } finally {
        permit.release();
    }
}

具体的 Semaphore 实现参考源码。

分布式接口限流

使用消息队列

不管是用MQ中间件,或是Redis的List实现的消息队列,都可以作为一个 缓冲队列 来使用。思想就是基于漏斗算法。

当对于一个接口请求达到一定阈值时,就可以启用消息队列来进行接口数据的缓冲,并根据服务的吞吐量来消费数据。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro
  • 视频教程:https://doc.iocoder.cn/video/

服务降级

在接口做好风控的前提下,发现了接口请求的并发量迅速上升,我们可以启用兜底方案,进行服务降级。

一般服务降级应该用来对一些 不重要 或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用。

降级方案

停止边缘业务

比如淘宝双11前,就不可以查询三个月前的订单,对边缘业务进行降级,保证核心业务的高可用。

拒绝请求

在接口请求并发量大于阈值,或是接口出现大量失败请求等等突发情况,可以拒绝一些访问请求。

拒绝策略
  • 随机拒绝:随机拒绝超过阈值的请求 。
  • 拒绝旧请求:按照请求的时间,优先拒绝更早收到的请求。
  • 拒绝非核心请求:根据系统业务设置核心请求清单,将非核心清单内的请求拒绝掉。
恢复方案

在实现服务降级之后,对于突增流量我们可以继续注册多个消费者服务来应对并发量,之后我们再对一些服务器进行慢加载。

降级具体实现参考其他文章。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud
  • 视频教程:https://doc.iocoder.cn/video/

数据缓存

在接口做好风控的前提下,发现了接口请求的并发量迅速上升,我们可以分以下几个操作执行:

  • 对访问请求使用分布式锁进行阻塞。
  • 在这个短时间中,我们可以将对应操作行的热点数据,缓存在缓存中间件中。
  • 放行请求后,让所有请求优先操作缓存数据。
  • 再将操作的结果通过消息队列发送给消费接口慢慢消费。

缓存问题

假设我们操作的是一个库存接口,此时数据库中只有100个库存。

那假如此时我们将一条数据放入缓存中,如果所有的请求都来访问这个缓存,那它还是被打挂,我们该怎么操作?

读写分离

第一种想法,读写分离。

使用Redis的哨兵集群模式来进行主从复制的读写分离操作。读的操作肯定大于写操作,等库存被消费到0时,读操作直接快速失败。

负载均衡

第二种想法,负载均衡。

在缓存数据后,如果所有请求都来缓存中操作这个库存,不管是加悲观锁还是乐观锁,并发率都很低,此时我们可以对这个库存进行拆分。

我们可以参照 ConcurrentHashMap 中的 counterCells 变量的设计思想,将100个库存拆分到10个缓存服务中,每个缓存服务有10个缓存,然后我们再对请求进行负载均衡到各个缓存服务上。

但是这种方式会有问题,如果大部分用户被hash到同一个缓存上,导致其他缓存没有被消费,却返回没有库存,这是不合理的。

page cache

第三种想法,page cache。

大部分软件架构其实都用到了这种方法,比如linux内核的硬盘写入、mysql的刷盘等等,即将短时间内的写操作聚合结果写入,所有的写操作在缓存内完成。



欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢

已在知识星球更新源码解析如下:

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

文章有帮助的话,在看,转发吧。

谢谢支持哟 (*^__^*)

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
【首发】达远辰光获近千万元天使轮融资,卡位样品前处理整体解决方案工信部组织开展2022年工业互联网APP优秀解决方案征集遴选工作【网络研讨会】10x Genomics整体解决方案:一站式解锁单细胞、空间及原位新技术提供睡眠健康医学领域全场景睡眠解决方案,乙十睡眠如何打造睡眠连锁头部品牌?直播预告丨胃癌病友营养问题的科学解决方案君权与神权 信仰的颠覆(六十)还没找到家庭医生?多伦多华人医生提供临时解决方案!太管用了!原来count(*)就是我们系统的接口性能变差100倍的真凶…三种跨域解决方案:HttpClient、注解、网关面试官:百万数据的导入导出解决方案,怎么设计?早鸟报|推特重大政策决策投票将仅限蓝V用户;飞书项目发布软件研发解决方案;腾讯获得上海首批高级辅助驾驶地图许可......获国汽投资及政府平台战略投资,智能新能源汽车互连解决方案提供商「卓劼智连」完成数千万元Pre-A轮融资|36氪独家爆笑图片:求下雨,求下雨!离婚的亢奋《悠悠岁月》(5)比尔·盖茨研判:五大行业的零碳解决方案【首发】畅德医疗完成数千万元天使轮融资,打造外周介入完整解决方案效率加倍,高并发场景下的接口请求合并方案厉害 ◇ BC省发誓让每个人都有家庭医生!解决方案“简单粗暴”黎舒苇听《归途有风》美股IPO|前江西首富再获1家纳斯达克上市公司,可再生能源系统解决方案的领导者Solar Juice在美国IPO上市为电力行业提供边缘智能解决方案,「江行智能」完成过亿元Pre-B轮融资丨36氪首发云边协同下的统一应用管理: 基于OpenYurt和KubeVela的解决方案“理想解决方案”:Daltix的自动化数据湖归档节省了10万美元决策易:一体化、全渠道、智能化解决方案,突围医药数字化营销13年电生理老兵躬身入局,原始创新研发磁电定位三维PFA解决方案误报警数降低 90% 以上,华为发布智慧机场光感围界解决方案放疗元宇宙、15T磁共振科研解决方案……这届进博会拿下了最前沿医械科技的首展!在美国北方,荷花(莲藕)怎么过冬?从11s到170ms!看看人家的接口优化技巧,那叫一个优雅!从零开始构建业务异常检测系统,FreeWheel面临过的问题和解决方案【首发】益佳达完成数千万元Pre-A轮融资,深化布局泌尿及盆底健康领域创新解决方案秋游河溪--看不够的 Erindale 公园红杉中国种子基金、顺为资本等机构参投,支付解决方案服务商「Wooshpay」连获两轮融资|早起看早期琉球地位未定论,是最终解决方案出海新手不用愁:专业开发解决客户“从仓库到终端”一站式出海业务相关问题
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。