歡迎來到Linux教程網
Linux教程網
Linux教程網
Linux教程網
您现在的位置: Linux教程網 >> UnixLinux >  >> Linux基礎 >> Linux技術

讓gzip壓縮速度加快的解決方案:使用支持多核CPU多線程並發壓縮的pigz

pig是個啥東東?
官網:http://zlib.net/pigz
一句話簡介:

復制代碼代碼如下:
A parallel implementation of gzip for modernmulti-processor, multi-core machines。
簡單的說,就是支持並行的gzip。廢話不多說,開始測試。

pig默認用當前邏輯cpu個數來並發壓縮,無法檢測個數的話,則並發8個線程。

一、測試壓縮包文件1

復制代碼代碼如下:
壓縮前
-rw-r--r-- 1 root root 2474772480 Dec 3 19:54 dbs.tar</p> <p>1、gzip測試
壓縮耗時,CPU最高:101.6%
real 2m18.042s
user 2m10.204s
sys 0m6.876s</p> <p>解壓縮耗時,CPU最高:101.6%
real 0m26.756s
user 0m20.175s
sys 0m6.580s</p> <p>壓縮後
-rw-r--r-- 1 root root 2349563863 Dec 3 19:54 dbs.tar.gz</p> <p>2、pigz測試
並發8線程(默認):
壓縮耗時,CPU最高:832%
real 0m21.710s
user 2m31.229s
sys 0m9.101s</p> <p>解壓縮耗時,CPU最高:199%
real 0m13.239s
user 0m11.791s
sys 0m12.426s</p> <p>並發4線程:
壓縮耗時,CPU最高:427.6%
real 0m38.299s
user 2m30.701s
sys 0m8.369s</p> <p>解壓縮耗時,CPU最高:202%
real 0m13.294s
user 0m12.154s
sys 0m11.862s</p> <p>壓縮後
-rw-r--r-- 1 root root 2350161547 Dec 3 19:54 dbs.tar.gz</p> <p>二、測試壓縮包文件2
壓縮前
-rw-r--r-- 1 root root 5248890880 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar</p> <p>1、gzip測試
壓縮耗時,CPU最高:101%
real 6m20.524s
user 6m2.466s
sys 0m7.410s</p> <p>解壓縮耗時,CPU最高: 101%
real 0m58.893s
user 0m46.258s
sys 0m11.944s</p> <p>壓縮後
-rw-r--r-- 1 root root 1410045513 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz</p> <p>2、pigz測試
並發8線程(默認):
壓縮耗時,CPU最高: 799%
real 1m11.908s
user 6m36.717s
sys 0m9.860s</p> <p>解壓縮耗時,CPU最高:179%
real 0m33.188s
user 0m38.069s
sys 0m16.728s</p> <p>並發4線程:
壓縮耗時,CPU最高: 418%
real 1m41.547s
user 6m36.782s
sys 0m9.806s</p> <p>解壓縮耗時,CPU最高: 179%
real 0m33.120s
user 0m37.500s
sys 0m16.956s</p> <p>壓縮後
-rw-r--r-- 1 root root 1406061442 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

結論:

1、pigz默認用法(默認並發線程是邏輯cpu個數)可比gzip快5.3倍,CPU消耗則是gzip的8倍,壓縮比則相當;
2、並發8線程對比4線程提升:41.2%,16線程對比8線程提升:27.9%,32線程對比16線程提升:3%;
3、在對壓縮效率要求較高、但對短時間內CPU消耗較高不受影響的場景,使用pigz非常合適。

Copyright © Linux教程網 All Rights Reserved