Redian新闻
>
B站自曝去年服务器大崩溃原因,就因为这?

B站自曝去年服务器大崩溃原因,就因为这?

科技


不知道差友们还记不记得,去年的 7 月 13 日,B 站发生了一件大事。

它毫无征兆的崩了。。。( 如果忘了的小伙伴,可以看 篇文章 

至于为啥崩了,当时大家谁也心里没个底。

不过吹起水来可是一套一套的,什么停电啊,起火啊,程序员 rm -rf /* 跑路啊。。。

说的是个天马行空。

后来呢,随着 B 站在凌晨两点一顿修仙,把服务器问题给慢慢解决,这件事情也算是告一段落了。

本以为这次 B 站崩了会和微博上无数崩了的网站一样,成为我们冲浪生活中的一个笑谈,仅留下一个大会员给我们 “ 缅怀 ”。

没想到在今年的 7 月 13 日,B 站特意发了一篇文章,刨开心窝子来给我们讲了一讲,那个晚上,到底发生了什么。

咱也看了一下这篇文章,好家伙,让整个 B 站崩溃的原因,竟然只是一行代码没写好???

借着这篇文章,世超准备带大家从 B 站的角度来回顾一下这件事情。

放心,不会有生涩难懂的名词,不会有犀利糊涂的黑话,保证小白也能看明白。


   案情回溯:  


意外,发生在 2021 年 7 月 13 日的 22 时 52 分。

负责搞定站点可靠性的工程师SRE和B站的客服都收到了大量网站打不开的报警。

而负责处理这些事故的同事已经下班了,当即准备在家里通过 VPN 来登录公司内网处理这些问题。

结果发现VPN 也崩了。。。压根进不去系统。

最后,还是在公司的整了个 “ 绿色通道 ” 才成功进去。

你说这绿色通道不会是向日葵吧(一种远程桌面软件) 


而在绿色通道成功打通,负责各种业务的团队就位之后,B 站也开始对问题进行分析定位。

出问题的模块也很明显,在线业务主机房的7层 SLB负载均衡服务器,用来处理多用户,多业务的情况)的 CPU 跑满了 100%。

简单来说,就是 CPU 被不知道哪里来的刺客给占用光了算力,没法处理业务了。

系统未响应.exe 


B 站最开始的尝试方法呢,和咱们平时手机电脑卡机后做的操作一样。

重启就完事了,要相信重启能解决 90% 的问题!

但很可惜,B 站这次是那个 10.5%。

说业务恢复了嘛,也没有,主机房重启后还是出现了CPU 跑满 100%的问题。

不过别的机房好起来了,虽然会卡,但是没出现 CPU 跑满的问题。

有一部分做了多活的业务(多站点同时提供服务)开始慢慢恢复。

所以。。。重启不能完全解决问题,但是这个问题既然过去没出现过

那会不会是新加入的代码问题呢?

随着时间在一分一秒的过去,借助分析工具的帮助,问题被定位到了最近新上线的 Lua (一种编程语言,类似 Python,Java 这些) 函数上。

随后,B 站开始进行了一波波紧张的回滚操作。

这一通工作弄下来,虽然好像找到几个疑似出问题的部位,但服务器还是该挂挂,距离 “ 康复 ” 还有那么一些距离。

没办法,总得让业务先跑起来吧。

于是团队开始兵分两路。

一队继续坚持排查问题,寻找原因,另一队则是开始重建一个新的 SLB 服务。

在紧张刺激的一小时后,新的 SLB 配置成功,原本导向主站的流量也慢慢的开始迁移过去。

好在这次行了。

凌晨两点,在崩溃了三小时之后,B 站的业务总算得到了恢复。



   罪魁祸首:  


上面这些,就是那个晚上 B 站发生的故事,虽然解决了表面问题,让业务恢复了。

可是最根本的原因是啥呢?

如果不找到根因,那迟早会二度暴雷。

负责排查问题的同学也没让人失望,在时间压力大大放缓之后,找出了真相。

没有外星人,没有起火,没有断电,和网友们想象的大相径庭。

B 站这次崩的根因,仅仅是因为一个求最大公约数的函数没写好。。。

咱先盘一下这个 “ 万恶之源 ” 哈。

这是一个典型的 “ 自己调用自己 ” 的递归函数。

a b两数字辗转求余,直到 b 等于 0 的时候函数终止。

不然这个函数就会自己调用自己,重新再跑一遍。

看上去好像是一点点问题都没有,既明确了递归的终止条件(b = 0),也没有太多复杂的逻辑处理。

但是既然事情能发展到这地步。。。那就说明是出大问题了。

对编程有些了解的差友可能发现了不对:

你传进去的 0,是个什么 0?

没错,在编程语言里,数字 0 和字符串 ‘ 0 ’ 并不算是一个东西。

为了防止呆呆的计算机语言把事情给搞混,像 C 语言,Java 这些静态语言都会要求我们在创建新变量的时候声明这个变量的类型。

搞清楚它到底是整数,还是小数,或者是一个字符。

然而 Lua 是个非常智慧的语言,它没有这个要求。

麻烦的脏活累活让它自动来做就好了,Lua 会根据程序的需求自动分配变量类型。

C语言示例:
# 定义一个整型数据a,为它赋值1
# 定义一个字符串数据b,为它赋值‘1’
int a = 0;
char a = '0';
Lua示例:
--定义 a 为数字0,b为字符串‘0’
a = 0
b = '0'


所以,我们给参数 b 传进去的数值,是数字 0 呢,还是字符 ‘ 0 ’ 

一旦前面数据验证没把好关,在执行某个功能的时候,把字符 ‘ 0 ’ 给传到了这个函数里。

地雷就被引爆了。

字符串  0 不会等于数字 0,函数的终止条件判断不通过。

所以程序进入递归模式,再次调用自己。

在后续进行求余预算的时候,Lua 的 “ 智慧 ” 又突然起到了作用。

Lua 一拍脑袋,咋会有人把字符 ‘ 0 ’ 拿来做计算啊,肯定是想把这个参数当数字用。

于是发生了强制类型转换。

所以咱们小学数学都会学到的。。。 把 0 当除数的事情就发生了。

这要是古老的大哥 C 语言来干这活,可能直接就给一个 Floating point exception 报错了。

但是 Lua 不一样,作为一个新时代的 “ 智慧 ” 的语言,它会优雅的返回一个 nan (Not A Numbewr)

程序,继续运行。

更要命的是,nan 也不会等于0。。。程序的终止条件无法实现。

这样跑几个循环之后,原本用来计算 a 和 b 的最大公约数的函数 _gcd(a,b) 就变成了一个停不下来的函数 _gcd(nan,nan)。

在停不下来的路上根本停不下来,直接把 CPU 资源给吃满了。

太聪明也不是一件好事啊。。。

就这样,被占满的 CPU 一口气把别的业务也带崩了

还得前面提到的在家的 B 站程序员没法在家通过 VPN 来抢救网络么?

没错,他们登录内网的时候,其中有部分服务也需要通过内网来处理。。。

属于是把钥匙断锁眼里,也是崩的理所当然了。


   崩完之后:  


最后,如果差友们对相关技术细节更感兴趣的话,世超建议你看看 B 站发布的这篇2021.07.13 我们是这样崩的

除了对事故的起承转合,还对未来技术的更进与反思都做了更加专业,全面的总结。

讲道理,这样的机会其实挺难得的。

每年崩了的应用何其多,但是愿意发出来给同行学习,给普罗大众看个乐子的寥寥无几。

向上滑动 


B 站这次愿意分享,直面自己的 “ 伤疤 ” 。

也让我们看到了互联网运维上最真实的一面。

这些经验,可不会写在任何教科书上。

哦对,这篇文章发出来的晚上,B 站其实又偷偷小崩了一次。。。

不知道是不是团队好好总结了去年经验的缘故。

这回还没等大部分人反应过来。。。B 站已经把问题给解决了。

撰文:小陈   编辑:面线   

图片、资料来源:
2021.07.13 我们是这样崩的 —— 哔哩哔哩技术


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
澳洲流感病例激增,或将进入流感爆发季!专家分析原因,提醒居民做好准备!不是发钱!这个原因,导致美国房价上涨15.1%!大学毕业即制作人,13人开发,这款B站自研新游实在上头连加班都能抗住的打工人,却因为这件小事崩溃了一头雾水,就这?琼瑶5亿豪宅曝光,就这?这就是肺癌术后医生鼓励你咳嗽的真正原因,咳与不咳关乎预后!浪姐3美炸全网的原因,在纽约竟然找到了!刚刚公布!林志颖伤情曝光,称自己是特斯拉“信徒”!警方:车祸原因是这?细节流出,车身在人获救后燃烧...就因为这个神仙做法,我在小区出名了!香嫩解馋,劝你们赶紧来试惊人的“沉没成本”:及时止损,才是成年人的高配江西一直在下雨的原因,找到了上了108次热搜的《梦华录》,就这?🤨这些常见问题背后的原因,你是否一直弄错了?既然都是鸡蛋,彼此帮一把吧反杀!亚裔店主小哥凭这招,让“0元购”蒙面劫匪大崩溃,跪地求饶!60、70岁程序员工资暴涨,就因为这门没啥人学的编程语言。2022年服贸会,我们来聊聊气候与数字化美国校园屠杀,枪支外的原因,让你震惊美国及世界猴痘爆发情况及相关医学知识秋字源考“就因为我存了钱,所以被红码?”|河南卫健委有回应为什么吼骂完孩子,孩子还要抱抱?背后的原因,令人心疼!孩子最想逃离父母的原因,它排第一00后留学生自曝:进B站实习,月薪1W体感5W!原创丨3大原因,美与中国为敌将加速崩盘!澳洲PR越来越难拿,澳记者曝光真实原因:竟是因为这个国家?!在欢声笑语重出江湖之后“就因为你是女的!”当她被这样质疑之后,她的决定让人泪目都吵翻了!就因为她这套衣服!长期自律的原因,只有一个2022华语片第一爆款,就这???讲完了,就这?iPhone越做越丑?不妨用这网站自己设计一个。腾讯把vivo告上法庭,就因为被断了财路?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。