Redian新闻
>
日志瘦身骚操作:从 5G 优化到 1G,牛逼!!

日志瘦身骚操作:从 5G 优化到 1G,牛逼!!

公众号新闻

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑,欢迎加入芋道快速开发平台知识星球。下面是星球提供的部分资料: 

👉这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目,前端包括管理后台 + 微信小程序,后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号、CRM 等等功能:

  • Boot 仓库:https://gitee.com/zhijiantianya/ruoyi-vue-pro
  • Cloud 仓库:https://gitee.com/zhijiantianya/yudao-cloud
  • 视频教程:https://doc.iocoder.cn
【国内首批】支持 JDK 21 + SpringBoot 3.2.2、JDK 8 + Spring Boot 2.7.18 双版本 

来源:c1n.cn/mtr19


背景

在日常开发中,通常为了方便调试、方便查问题,会打印很多 INFO 级别的日志。

随着访问量越来越大,一不小心,某个日志文件一天的 size 就大于了某个阈值(如 5G),于是,收到了优化日志大小的告警,一定时间内不优化反馈给你主管,囧...

日志过大容易导致一些运维操作消耗机器性能,如日志文件检索、数据采集、磁盘清理等。

那么,日志瘦身哪些常见的思路呢?本文结合某个具体案例谈谈我的看法。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro
  • 视频教程:https://doc.iocoder.cn/video/

日志瘦身方法论

只打印必要的日志

有时候为了方便测试,临时打印很多 INFO 级别日志。对于这种日志,等项目上线前,可以将非必要的日志删除或者调整为 DEBUG 级别。

但有些场景下有些日志可打印为 DEBUG 也可打印为 INFO,打印成 INFO 级别占空间,打印成 DEBUG 级别线上查问题的时候又需要用到,肿么办?

我们可以对日志工具类进行改造,支持上下文传递某个开关时(正常调用没有这个开关,通过公司的 Tracer 或者 RPC上下文传递),可以临时将 DEBUG日志提升为 INFO级别。

伪代码如下:

if(log.isDebugEnable()){
   log.debug(xxx);
}else if(TracerUtils.openDebug2Info()){
 log.info("【debug2info】"+xxx);
}

这样,可以将一些纠结是否要打印成 INFO 日志的 log 打印成 DEBUG 级别,查问题时自动提升为INFO 日志。

为了避免误会,区分 DEBUG 提升 INFO  的日志和普通 INFO 日志,加上类似【debug2info】 日志前缀。

当然,你也可以搞一些其他骚操作,这里只是举个例子,请自行举一反三。

合并打印

有些可以合并的日志,可以考虑合并。

如在同一个方法前后都打印了 INFO 日志:

INFO   [64 位traceId]   XXXService 执行前  size =10 INFO   [64 位traceId]   XXXService 执行后  size =4

可以合并成一条:

INFO [64 位traceId] XXXService 执行前 size =10 执行后 size =4

简化&缩写&压缩

某个日志非常有必要,但是打印的对象有些大,如果可以满足问题排查需求的情况下,我们可以:

  • 选择只打印其 ID
  • 创建一个只保留关键字段的日志专用对象,转化为日志专用对象,再打印。
  • 可以用缩写,如 write 简化为 w, read 简化为 r,execute 简化为 e 等;比如 pipeline 中有 20 个核心 bean ,打印日志时可以使用不同的编号替代 bean 全称,如 S1,S2 ,虽然没那么直观,但既可以查问题,又降低了日志量。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud
  • 视频教程:https://doc.iocoder.cn/video/

优化案例

场景描述

一个业务场景涉及很多 bean,为了复用一些通用逻辑,这些 bean 都继承自某个抽象类。

在抽象类中,定义了执行 bean 前后的一些通用逻辑,如执行前后打印当前 pipeline 中 item 的数量。最后一个 bean 执行完结果转换后需要打印出结果。

优化分析

①只打印必要日志

只打印必要日志:

  • 由于当前 bean 执行前 相当于前一个 bean 执行后,因此只打印执行后的日志就可以,执行前的 INFO 日志可以删除或者改为 DEBUG (只打印必要日志)
  • 通常问题只出现在执行前后 size 不一致的情况下,因此执行后打印日志前可以加个判断,如果执行前后 size 相同则不打印。

伪代码如下:

if(sizeBefore != sizeAfter){
log.info("service:{}, 前size:{},后size:{}", getName(),sizeBefore, sizeAfter)
}

这招效果很明显,因为大多数 bean 的执行前后 size 是相同的,就不会打印这条日志。而假设之前有 20 个,这条日志就需要打印 20次,改进后可能只需要打印 2-3 次。

②日志合并

为了方便查问题还需要打印执行前的 size ,那么将执行前的 size 记录在内存中,打印执行后日志时多打印出执行前的 size。

伪代码如下:

log.info("service:{}, 执行前size:{}", getName(),sizeBefore)

log.info("service:{}, 执行后size:{}", getName(),sizeBefore, sizeAfter)

合并后:

log.info("service:{}, 前size:{},后size:{}", getName(),sizeBefore, sizeAfter)
③日志精简

对于最终结果,将结果对象(如 XXDTO)转化为只包括关键信息,如 id, title 的日志对象(XXSimpleLogDTO),转化为日志对象后再打印。

log.info("resultId:{}",result.getId());

或者:

log.info("result:{}",toSimpleLog(result));

效果评估

该日志一天产生 5G 左右,这里百分之 80% 左右都是打印执行前后的 size,10% 左右是打印最终结果,还有一些其他的日志。

经过上述方法优化后,每天日志量不足 1G。

在满足排查问题的需要,又实现日志瘦身之间进行了取舍。

总结

日志瘦身需要进行权衡,保留排查问题的必要日志情况下尽可能精简。可以采用删除不必要日志,合并日志,日志简化等方式进行优化。

我们还可以进行一些骚操作,支持线上 DEBUG 临时提升 INFO(当然也可以使用 arthas)来辅助我们查问题。

你还有哪些不错的日志瘦身技巧?欢迎在文章末尾评论和我交流。


欢迎加入我的知识星球,全面提升技术能力。

👉 加入方式,长按”或“扫描”下方二维码噢

星球的内容包括:项目实战、面试招聘、源码解析、学习路线。

文章有帮助的话,在看,转发吧。

谢谢支持哟 (*^__^*)

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
最让我满意的客服,台湾的”问讲“们5G变革为数字化带来更强动能——2023世界5G大会开幕侧记炸裂!金融圈颜值最高的两大美女突然公开撕逼!整活网红“穿”人体彩绘进健身房,被驱逐后又一系列骚操作…网友气炸!【经典重温】数据安全纳入操作风险管理——操作风险管理办法征求意见稿点评凯特王妃现身12小时后,“替身”都被扒了!王室这3个月的骚操作,难怪没人信....神作悄悄上线,秒杀元旦档!果然时长越短,越牛逼!1kg玉米秸秆产生超367g葡萄糖、171g木糖和143g木质素,青岛农业大学团队开发生物炼制新策略100斤!贾玲瘦身“迎战”春节档科学证明,嘴越脏就越牛逼!比闻会军还牛逼!秃顶又浮夸,但全网就是上头啊!凯特商店现身12小时后,“替身”名字都被扒出来了!细数王室这3个月的骚操作,不怪人不信...提示词专场:从调整提示改善与LLMs的沟通,到利用LLMs优化提示效果贾玲瘦身照流出,A先生替身露脸,剧透的尺度与节奏童年故事(10):玩冲锑招人嫉恨微信牛逼!微信年终奖平均15个月!视频号优秀高达30个月~张郎郎:\'血统\'鬼魅始终笼罩中国清华成立颠班,比姚班还牛逼!网友:他人笑我太疯癫,我笑他人看不穿你根本不知道,直男情人节送礼的骚操作,那简直是雷区蹦迪是不是玩不起啊?在宜家吃顿“霸王餐”真难:今年“吃收据”骚操作留心宜家的这种骚操作!一款卖$1600的沙发,妹纸一查旧价格气笑了...深入了解Apache 日志,Apache 日志分析工具某银行,骚操作!为了2024年春节档,瘦身100斤的贾玲,拼了!毛主席《水调歌头,才饮长沙水..》读着玩北京联通称新入网客户默认打开4G/5G,未经同意放快递柜可罚3万,传华为或打造充电联盟,GPT将推商店,这就是今天的其他大新闻!饭前先签个“生死状”!多伦多餐厅这波骚操作惊呆网友,专家却表示:这很超前!贾玲疯狂瘦身100斤 霸屏热搜这个在墨尔本开着辆破车的男人,你不知道他有多牛逼!Mayver's深烤天然花生酱半价!375g,现价$2.9!@ Coles过于牛逼!通过微信聊天定位对方位置《跌宕起伏心灵煎熬的14天》(6) 【自证清白】给娃刷酸、去黑头……这些骚操作,真叫人心疼!看到老爷们的骚操作,我都笑尿了由军队腐化到蛮族入侵看罗马帝国的灭亡
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。