logo
Redian新闻
>公众号
>
Spring Boot + Gzip 压缩超大 JSON 对象，传输大小减少一半！

Spring Boot + Gzip 压缩超大 JSON 对象，传输大小减少一半！

公众号新闻

关注公众号，学习更多 Java 干货！

1. 业务背景

是这样的，业务背景是公司的内部系统有一个广告保存接口，需要 ADX 那边将投放的广告数据进行保存供后续使用。广告数据大概长这样：

{
    "adName":"",
    "adTag":""
}
  • adName：广告名字
  • adTag：广告渲染的 HTML 代码，超级大数据库中都是用 text 类型来存放的，我看到最大的 adTag 足足有 60kb 大小…

因此，对与请求数据那么大的接口我们肯定是需要作一个优化的否则太大的数据传输有以下几个弊端：

为了克服这几个问题团队中的老鸟产生一个想法：

请求广告保存接口时先将 JSON 对象字符串进行 GZIP 压缩，那请求时传入的就是压缩后的数据，而 GZIP 的压缩效率是很高的，因此可以大大减小传输数据，而当数据到达广告保存接口前再将传来的数据进行解压缩，还原成 JSON 对象就完成了整个 GZIP 压缩数据的请求以及处理流程。

其实这样做也存在着弊端：

对于以上几点基于我们公司当前的业务可以这样解决：

那废话少说，下面给出实现方案。

2. 实现思路

前置知识：
  • Http 请求结构以及 Content-Encoding 属性
  • GZIP 压缩方式
  • Servlet Filter
  • HttpServletRequestWrapper
  • Spring Boot
  • Java 输入输出流
另外，如果你近期准备面试跳槽，建议在Java面试库小程序在线刷题，涵盖 2000+ 道 Java 面试题，几乎覆盖了所有主流技术面试题。

实现流程图 ：

推荐一个开源免费的 Spring Boot 最全教程：

https://github.com/javastacks/spring-boot-best-practice

核心代码：

创建一个 SpringBoot 项目，先编写一个接口，功能很简单就是传入一个 JSON 对象并返回，以模拟将广告数据保存到数据库：

/**
 * @ClassName: ProjectController
 * @Author zhangjin
 * @Date 2022/3/24 20:41
 * @Description:
 */
@Slf4j
@RestController
public class AdvertisingController {

    @PostMapping("/save")
    public Advertising saveProject(@RequestBody Advertising advertising) {
        log.info("获取内容"+ advertising);
        return advertising;
    }
}

/**
 * @ClassName: Project
 * @Author zhangjin
 * @Date 2022/3/24 20:42
 * @Description:
 */
@Data
public class Advertising {
    private String adName;
    private String adTag;
}

编写并注册一个拦截器

/**
 * @ClassName: GZIPFilter
 * @Author zhangjin
 * @Date 2022/3/26 0:36
 * @Description:
 */
@Slf4j
@Component
public class GZIPFilter implements Filter {

    private static final String CONTENT_ENCODING = "Content-Encoding";
    private static final String CONTENT_ENCODING_TYPE = "gzip";

    @Override
    public void init(FilterConfig filterConfig) throws ServletException {
        log.info("init GZIPFilter");
    }

    @Override
    public void doFilter(ServletRequest servletRequest, ServletResponse servletResponse, FilterChain filterChain) throws IOException, ServletException {
        long start = System.currentTimeMillis();
        HttpServletRequest httpServletRequest = (HttpServletRequest)servletRequest;

        String encodeType = httpServletRequest.getHeader(CONTENT_ENCODING);
        if (CONTENT_ENCODING_TYPE.equals(encodeType)) {
            log.info("请求:{} 需要解压", httpServletRequest.getRequestURI());
            UnZIPRequestWrapper unZIPRequestWrapper = new UnZIPRequestWrapper(httpServletRequest);
            filterChain.doFilter(unZIPRequestWrapper,servletResponse);
        }
        else {
            log.info("请求:{} 无需解压", httpServletRequest.getRequestURI());
            filterChain.doFilter(servletRequest,servletResponse);
        }
        log.info("耗时：{}ms", System.currentTimeMillis() - start);
    }

    @Override
    public void destroy() {
        log.info("destroy GZIPFilter");
    }
}

/**
 * @ClassName: FilterRegistration
 * @Author zhangjin
 * @Date 2022/3/26 0:36
 * @Description:
 */
@Configuration
public class FilterRegistration {

    @Resource
    private GZIPFilter gzipFilter;

    @Bean
    public FilterRegistrationBean<GZIPFilter> gzipFilterRegistrationBean() {
        FilterRegistrationBean<GZIPFilter> registration = new FilterRegistrationBean<>();
        //Filter可以new，也可以使用依赖注入Bean
        registration.setFilter(gzipFilter);
        //过滤器名称
        registration.setName("gzipFilter");
        //拦截路径
        registration.addUrlPatterns("/*");
        //设置顺序
        registration.setOrder(1);
        return registration;
    }
}

实现 RequestWrapper 实现解压和写回 Body 的逻辑

/**
 * @ClassName: UnZIPRequestWrapper
 * @Author zhangjin
 * @Date 2022/3/26 11:02
 * @Description: JsonString经过压缩后保存为二进制文件 -> 解压缩后还原成JsonString转换成byte[] 写回body中
 */
@Slf4j
public class UnZIPRequestWrapper extends HttpServletRequestWrapper {

    private final byte[] bytes;

    public UnZIPRequestWrapper(HttpServletRequest request) throws IOException {
        super(request);
        try (BufferedInputStream bis = new BufferedInputStream(request.getInputStream());
             ByteArrayOutputStream baos = new ByteArrayOutputStream()) {
            final byte[] body;
            byte[] buffer = new byte[1024];
            int len;
            while ((len = bis.read(buffer)) > 0) {
                baos.write(buffer, 0, len);
            }
            body = baos.toByteArray();
            if (body.length == 0) {
                log.info("Body无内容，无需解压");
                bytes = body;
                return;
            }
            this.bytes = GZIPUtils.uncompressToByteArray(body);
        } catch (IOException ex) {
            log.info("解压缩步骤发生异常！");
            ex.printStackTrace();
            throw ex;
        }
    }

    @Override
    public ServletInputStream getInputStream() throws IOException {
        final ByteArrayInputStream byteArrayInputStream = new ByteArrayInputStream(bytes);
        return new ServletInputStream() {

            @Override
            public boolean isFinished() {
                return false;
            }

            @Override
            public boolean isReady() {
                return false;
            }

            @Override
            public void setReadListener(ReadListener readListener) {

            }

            public int read() throws IOException {
                return byteArrayInputStream.read();
            }
        };
    }

    @Override
    public BufferedReader getReader() throws IOException {
        return new BufferedReader(new InputStreamReader(this.getInputStream()));
    }

}

附上压缩工具类

public class GZIPUtils {

    public static final String GZIP_ENCODE_UTF_8 = "UTF-8";

    /**
     * 字符串压缩为GZIP字节数组
     * @param str
     * @return
     */
    public static byte[] compress(String str) {
        return compress(str, GZIP_ENCODE_UTF_8);
    }

    /**
     * 字符串压缩为GZIP字节数组
     * @param str
     * @param encoding
     * @return
     */
    public static byte[] compress(String str, String encoding) {
        if (str == null || str.length() == 0) {
            return null;
        }
        ByteArrayOutputStream out = new ByteArrayOutputStream();
        GZIPOutputStream gzip;
        try {
            gzip = new GZIPOutputStream(out);
            gzip.write(str.getBytes(encoding));
            gzip.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
        return out.toByteArray();
    }

    /**
     * GZIP解压缩
     * @param bytes
     * @return
     */
    public static byte[] uncompress(byte[] bytes) {
        if (bytes == null || bytes.length == 0) {
            return null;
        }
        ByteArrayOutputStream out = new ByteArrayOutputStream();
        ByteArrayInputStream in = new ByteArrayInputStream(bytes);
        try {
            GZIPInputStream ungzip = new GZIPInputStream(in);
            byte[] buffer = new byte[256];
            int n;
            while ((n = ungzip.read(buffer)) >= 0) {
                out.write(buffer, 0, n);
            }
        } catch (IOException e) {
            e.printStackTrace();
        }
        return out.toByteArray();
    }

    /**
     * 解压并返回String
     * @param bytes
     * @return
     */
    public static String uncompressToString(byte[] bytes) throws IOException {
        return uncompressToString(bytes, GZIP_ENCODE_UTF_8);
    }

    /**
     *
     * @param bytes
     * @return
     */
    public static byte[] uncompressToByteArray(byte[] bytes) throws IOException {
        return uncompressToByteArray(bytes, GZIP_ENCODE_UTF_8);
    }

    /**
     * 解压成字符串
     * @param bytes 压缩后的字节数组
     * @param encoding 编码方式
     * @return 解压后的字符串
     */
    public static String uncompressToString(byte[] bytes, String encoding) throws IOException {
        byte[] result = uncompressToByteArray(bytes, encoding);
        return new String(result);
    }

    /**
     * 解压成字节数组
     * @param bytes
     * @param encoding
     * @return
     */
    public static byte[] uncompressToByteArray(byte[] bytes, String encoding) throws IOException {
        if (bytes == null || bytes.length == 0) {
            return null;
        }
        ByteArrayOutputStream out = new ByteArrayOutputStream();
        ByteArrayInputStream in = new ByteArrayInputStream(bytes);
        try {
            GZIPInputStream ungzip = new GZIPInputStream(in);
            byte[] buffer = new byte[256];
            int n;
            while ((n = ungzip.read(buffer)) >= 0) {
                out.write(buffer, 0, n);
            }
            return out.toByteArray();
        } catch (IOException e) {
            e.printStackTrace();
            throw new IOException("解压缩失败！");
        }
    }

    /**
     * 将字节流转换成文件
     * @param filename
     * @param data
     * @throws Exception
     */
    public static void saveFile(String filename,byte [] data)throws Exception{
        if(data != null){
            String filepath ="/" + filename;
            File file  = new File(filepath);
            if(file.exists()){
                file.delete();
            }
            FileOutputStream fos = new FileOutputStream(file);
            fos.write(data,0,data.length);
            fos.flush();
            fos.close();
            System.out.println(file);
        }
    }
}

Spring Boot 基础就不介绍了，推荐看这个免费教程：

https://github.com/javastacks/spring-boot-best-practice

3. 测试效果

注意一个大坑：千万不要直接将压缩后的 byte[] 当作字符串进行传输，否则你会发现压缩后的请求数据竟然比没压缩后的要大得多 🐶！一般有两种传输压缩后的 byte[]的方式：

  • 将压缩后的 byet[] 进行 base64 编码再传输字符串，这种方式会损失掉一部分 GZIP 的压缩效果，适用于压缩结果要存储在 Redis 中的情况
  • 将压缩后的 byte[] 以二进制的形式写入到文件中，请求时直接在 body 中带上文件即可，用这种方式可以不损失压缩效果

Postman 测试 GZIP 压缩数据请求：

  • 请求头指定数据压缩方式：

  • Body 带上压缩后的 byte[] 写入的二进制文件

  • 执行请求，服务端正确处理了请求并且请求 size 缩小了将近一半，效果还是很不错的。

注：针对json 数据大小优化，也可以通过修改 nginx 配置项来解决，开启 contentType: gzip 内容传输编码支持，并对Tomcat进行配置即可。

版权声明：本文为CSDN博主「jinchange」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。原文链接：https://blog.csdn.net/weixin_43441509/article/details/123816603

往期推荐：

再见，Navicat！！
警报炸锅，FastJson 又立功了。。
高德导航红绿灯为啥能读秒？
为什么 List 原生排序比 stream() 流效率更高？

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章
相关阅读
牢记这16个SpringBoot 扩展接口，写出更加漂亮的代码忽视日志吃大亏，手把手教你玩转 SpringBoot 日志生儿养女，为了啥寒流杀到，一定多吃它！现在最鲜也最便宜，1周2次，感冒生病少一半！别再用 kill -9 了，这才是 Spring Boot 停机的正确方式！！！大公司为什么禁止在 Spring Boot 项目中使用 @Autowired 注解？8张3090，1天压缩万亿参数大模型！3.2TB骤降至160GB，压缩率高达20倍国庆扫街SpringBoot 通用限流方案（VIP珍藏版）现诵《SPRING HOLIDAY偶题 》by AP/盈盈/K2组合Spring Boot虚拟线程的性能还不如Webflux？你的Spring Boot应用启动很慢？不妨试试这个神器！Spring Boot 整合分布式消息平台 PulsarBefore Asian Games, Hangzhou Students Tutor Elderly in EnglishFran?ais avec NellyAVS感知无损压缩标准概述——视觉无损质量等级视频浅压缩SpringBoot 调用外部接口的三种方式无题告别繁琐：SpringBoot 拦截器与统一功能处理三分钟了解 SpringBoot 的启动流程推荐35款 SpringBoot/SpringCloud 开源项目，附源码SpringBoot 2 种方式快速实现分库分表，轻松拿捏！大隐隐于市！越南一家人在San Jose开的小店全是越南客人——Phở Cường 2SpringBoot + Docker 实现一次构建到处运行~庆祝独立节：全镇出动看游行（多图）SpringBoot 高效批量插入万级数据，哪种方式最强？SpringBoot 接口快速开发神器（接口可视化界面实现）只会用 Spring Boot 创建微服务？那你就 OUT 了，还有这 4 种替代方案！教你用 SpringBoot+Redis BitMap 实现签到与统计功能“根本不需要TypeScript，JS+JSDoc够了”，大佬说我想多了JS三大运行时对比：Deno、Bun和Node.jsSpringBoot+Redis BitMap 实现签到与统计功能SpringBoot 动态定时任务，配置写死，太Low了nǚ hóng？nǚ gōng货不对板！Loblaw又摊上事了：包装印着200g，实际分量少一半！SpringBoot：一个注解就能帮你下载任意对象
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章，不代表同意其说法或描述，仅为提供更多信息，也不构成任何建议。文章信息的合法性及真实性由其作者负责，与Redian.news及其运营公司无关。欢迎投稿，如发现稿件侵权，或作者不愿在本网发表文章，请版权拥有者通知本网处理。