服务器之家:专注于服务器技术及软件下载分享
分类导航

Linux|Centos|Ubuntu|系统进程|Fedora|注册表|Bios|Solaris|Windows7|Windows10|Windows11|windows server|

服务器之家 - 服务器系统 - Linux - 让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz

让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz

2019-11-06 17:58服务器之家 Linux

这篇文章主要介绍了让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz,需要的朋友可以参考下

pig是个啥东东?
官网:http://zlib.net/pigz
一句话简介:
 

复制代码

代码如下:


A parallel implementation of gzip for modernmulti-processor, multi-core machines。


简单的说,就是支持并行的gzip。废话不多说,开始测试。

 

pig默认用当前逻辑cpu个数来并发压缩,无法检测个数的话,则并发8个线程。

一、测试压缩包文件1
 

复制代码

代码如下:


压缩前
-rw-r--r-- 1 root root 2474772480 Dec 3 19:54 dbs.tar</p> <p>1、gzip测试
压缩耗时,CPU最高:101.6%
real 2m18.042s
user 2m10.204s
sys 0m6.876s</p> <p>解压缩耗时,CPU最高:101.6%
real 0m26.756s
user 0m20.175s
sys 0m6.580s</p> <p>压缩后
-rw-r--r-- 1 root root 2349563863 Dec 3 19:54 dbs.tar.gz</p> <p>2、pigz测试
并发8线程(默认):
压缩耗时,CPU最高:832%
real 0m21.710s
user 2m31.229s
sys 0m9.101s</p> <p>解压缩耗时,CPU最高:199%
real 0m13.239s
user 0m11.791s
sys 0m12.426s</p> <p>并发4线程:
压缩耗时,CPU最高:427.6%
real 0m38.299s
user 2m30.701s
sys 0m8.369s</p> <p>解压缩耗时,CPU最高:202%
real 0m13.294s
user 0m12.154s
sys 0m11.862s</p> <p>压缩后
-rw-r--r-- 1 root root 2350161547 Dec 3 19:54 dbs.tar.gz</p> <p>二、测试压缩包文件2
压缩前
-rw-r--r-- 1 root root 5248890880 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar</p> <p>1、gzip测试
压缩耗时,CPU最高:101%
real 6m20.524s
user 6m2.466s
sys 0m7.410s</p> <p>解压缩耗时,CPU最高: 101%
real 0m58.893s
user 0m46.258s
sys 0m11.944s</p> <p>压缩后
-rw-r--r-- 1 root root 1410045513 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz</p> <p>2、pigz测试
并发8线程(默认):
压缩耗时,CPU最高: 799%
real 1m11.908s
user 6m36.717s
sys 0m9.860s</p> <p>解压缩耗时,CPU最高:179%
real 0m33.188s
user 0m38.069s
sys 0m16.728s</p> <p>并发4线程:
压缩耗时,CPU最高: 418%
real 1m41.547s
user 6m36.782s
sys 0m9.806s</p> <p>解压缩耗时,CPU最高: 179%
real 0m33.120s
user 0m37.500s
sys 0m16.956s</p> <p>压缩后
-rw-r--r-- 1 root root 1406061442 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

 

结论:

1、pigz默认用法(默认并发线程是逻辑cpu个数)可比gzip快5.3倍,CPU消耗则是gzip的8倍,压缩比则相当;
2、并发8线程对比4线程提升:41.2%,16线程对比8线程提升:27.9%,32线程对比16线程提升:3%;
3、在对压缩效率要求较高、但对短时间内CPU消耗较高不受影响的场景,使用pigz非常合适。

延伸 · 阅读

精彩推荐
  • LinuxLinux常用的日志文件和常用命令

    Linux常用的日志文件和常用命令

    成功地管理任何系统的关键之一,是要知道系统中正在发生什么事。 Linux 中提供了异常日志,并且日志的细节是可配置的。Linux 日志都以明文形式存储,所...

    Linux教程网2632020-04-18
  • LinuxLinux上设置用户通过SFTP访问目录的权限的方法

    Linux上设置用户通过SFTP访问目录的权限的方法

    这篇文章主要介绍了Linux上设置用户通过SFTP访问目录的权限的方法,SFTP可以理解为使用SSH协议进行FTP传输的协议,因而同时要对OpenSSH进行相关设置,需要的朋...

    OSChina10022019-06-19
  • Linux详解Linux系统下PXE服务器的部署过程

    详解Linux系统下PXE服务器的部署过程

    这篇文章主要介绍了Linux系统下PXE服务器的部署过程,包括对PXE的API架构作了一个基本的简介,需要的朋友可以参考下...

    运维之道9812019-07-04
  • LinuxLinux中环境变量配置的步骤详解

    Linux中环境变量配置的步骤详解

    Linux中环境变量包括系统级和用户级,系统级的环境变量是每个登录到系统的用户都要读取的系统变量,而用户级的环境变量则是该用户使用系统时加载的...

    Myths7882022-02-10
  • Linux手把手教您在 Linux 上使用 GPG 加解密文件

    手把手教您在 Linux 上使用 GPG 加解密文件

    在本教程中,我将告诉你如何用 GPG 加密和解密文件。这是一个简单的教程,你可以在你的 Linux 系统上尝试所有的练习。这将帮助你练习 GPG 命令,并在你...

    Linux中国6962021-12-15
  • LinuxLinux lnmp下无法使用mail发邮件的两种解决方法

    Linux lnmp下无法使用mail发邮件的两种解决方法

    在配置了lnmp环境后,出现了mail函数不能发送邮件的问题,其实有两种方法,一是使用sendmail组件,而是使用postfix。下面为大家一一介绍下 ...

    Linux之家4042019-09-17
  • Linuxlinux中rmdir命令使用详解(删除空目录)

    linux中rmdir命令使用详解(删除空目录)

    今天学习一下linux中命令: rmdir命令。rmdir是常用的命令,该命令的功能是删除空目录,一个目录被删除之前必须是空的 ...

    linux命令大全5372019-11-19
  • Linux确保Linux系统安全的前提条件 漏洞防护

    确保Linux系统安全的前提条件 漏洞防护

    Linux 作为开放式的操作系统受到很多程序员的喜爱,很多高级程序员都喜欢编写Linux操作系统的相关软件。这使得Linux操作系统有着丰富的软件支持,还有无...

    Linux之家2642020-04-11