Redian新闻
>
Nginx限速模块大揭秘

Nginx限速模块大揭秘

公众号新闻

本文以示例的形式,由浅入深讲解Nginx限流相关配置,是对简略的官方文档的积极补充。

Nginx限流使用的是leaky bucket算法,如对算法感兴趣,可移步维基百科先行阅读。不过不了解此算法,不影响阅读本文。

空桶

我们从最简单的限流配置开始:


limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s;

server {
location /login/ {
limit_req zone=ip_limit;
proxy_pass http://login_upstream;
}
}

  • $binary_remote_addr 针对客户端ip限流;

  • zone=ip_limit:10m 限流规则名称为ip_limit,允许使用10MB的内存空间来记录ip对应的限流状态;

  • rate=10r/s 限流速度为每秒10次请求

  • location /login/ 对登录进行限流

限流速度为每秒10次请求,如果有10次请求同时到达一个空闲的nginx,他们都能得到执行吗?

漏桶漏出请求是匀速的。10r/s是怎样匀速的呢?每100ms漏出一个请求。

在这样的配置下,桶是空的,所有不能实时漏出的请求,都会被拒绝掉。

所以如果10次请求同时到达,那么只有一个请求能够得到执行,其它的,都会被拒绝。

这不太友好,大部分业务场景下我们希望这10个请求都能得到执行。

Burst

我们把配置改一下,解决上一节的问题


limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s;

server {
location /login/ {
limit_req zone=ip_limit burst=12;
proxy_pass http://login_upstream;
}
}

  • burst=12 漏桶的大小设置为12

逻辑上叫漏桶,实现起来是FIFO队列,把得不到执行的请求暂时缓存起来。

这样漏出的速度仍然是100ms一个请求,但并发而来,暂时得不到执行的请求,可以先缓存起来。只有当队列满了的时候,才会拒绝接受新请求。

这样漏桶在限流的同时,也起到了削峰填谷的作用。

在这样的配置下,如果有10次请求同时到达,它们会依次执行,每100ms执行1个。

虽然得到执行了,但因为排队执行,延迟大大增加,在很多场景下仍然是不能接受的。

NoDelay

继续修改配置,解决Delay太久导致延迟增加的问题


limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s;

server {
location /login/ {
limit_req zone=ip_limit burst=12 nodelay;
proxy_pass http://login_upstream;
}
}

  • nodelay 把开始执行请求的时间提前,以前是delay到从桶里漏出来才执行,现在不delay了,只要入桶就开始执行

要么立刻执行,要么被拒绝,请求不会因为限流而增加延迟了。

因为请求从桶里漏出来还是匀速的,桶的空间又是固定的,最终平均下来,还是每秒执行了5次请求,限流的目的还是达到了。

但这样也有缺点,限流是限了,但是限得不那么匀速。以上面的配置举例,如果有12个请求同时到达,那么这12个请求都能够立刻执行,然后后面的请求只能匀速进桶,100ms执行1个。如果有一段时间没有请求,桶空了,那么又可能出现并发的12个请求一起执行。

大部分情况下,这种限流不匀速,不算是大问题。不过nginx也提供了一个参数才控制并发执行也就是nodelay的请求的数量。


limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s;

server {
location /login/ {
limit_req zone=ip_limit burst=12 delay=4;
proxy_pass http://login_upstream;
}
}

  • delay=4 从桶内第5个请求开始delay

这样通过控制delay参数的值,可以调整允许并发执行的请求的数量,使得请求变的均匀起来,在有些耗资源的服务上控制这个数量,还是有必要的。


链接:https://www.cnblogs.com/xinzhao/p/11465297.html

(版权归原作者所有,侵删)

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
[龙年卜卦]退休的年纪Offer到!西北大学录取背景+文书写作+面试准备大揭秘!|申请案例清华系创业新势力!把大模型塞进AR眼镜,高铁上能用10块大屏办公如何出版文学作品 - 兼谈小说"硅谷的鸢尾花"创作与出版的心得无排期的吸引下如何挑选EB-5项目?优质项目大揭秘车祸猛于虎!纽约市将全面降低车辆限速至20英里西兄探险归来纽约市将限速降至每小时20英里:旨在保护行人安全....武汉大学回应开设雷军班;苹果获得可拆卸电池专利;UC网盘宣布不限速世外、七德周末秋招!热门学校入学难度大揭秘→刚刚通过!纽约市将限速降至每小时20英里:旨在保护行人安全....纽约市计划将道路限速降至20英里/小时,一个孩子用生命换来的法案Cloudflare 正式开源Nginx替代品:PingoraUC网盘称不限速,我国医生将基因编辑猪肝植入人体,B站用户平均年龄达24岁,元梦之星回应被起诉,这就是今天的其他大新闻!“钱”景比计算机好,被英伟达创始人看好加注的新兴行业——生物医学工程,大揭秘!什么?!纽约市区新限速20MPH?Nginx高并发性能优化 - 运维笔记产业周观|小米汽车赢麻了?AI人才哪家强?金店加盟大揭秘、动力电池的下一座金矿……绿卡持有者必看!美国入籍条件及流程大揭秘海归精英集结广州!4.27广州海归招聘会岗位大揭秘,不要错过求职好机会!青烟一缕入大漠(八)北碚的记忆:他空手套国家66亿,逃亡美国,惊天骗局大揭秘nginx日志切割Stable Diffusion 3 论文终于发布,架构细节大揭秘,对复现 Sora 有帮助?爆火!美图AI扩图和改图技术大揭秘夏季热门旅游目的地大揭秘!谷歌大数据告诉你该去哪里度假....美国站卖家遭遇1099-K税表,申报攻略大揭秘!花漾春色,全美14处赏樱胜地大揭秘!华大樱花在你心里排第几?Makers工具箱主理人大揭秘,教你轻松掌握营销秘籍!!!!超速驾驶事故多!波士顿议员呼吁采取措施:限速定为15英里首日销售上万美元!中国小伙在美卖三轮车赚大钱?创业真相大揭秘....宾州斯沃斯莫尔学院(Swarthmore College),校园建筑顶级富豪住区大揭秘!澳洲亿万富豪竟然住在这?悉尼WestConnex高速公路本周末限速将提高至90km/hNginx 核心开发者发布新分支 Freenginx
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。