linux - 多线程日志压缩

这里有17个G的日志文件,使用多线程压缩2分23秒即可压缩完成3.2G的压缩,6倍的压缩比,普通压缩则要使用7分50秒,整整多出了3倍,我们看看是怎么使用的。

使用方法

安装pigz

yum install pigz -y
# 或者
apt-get install pigz

压缩(使用8个CPU)

time tar -cf - logdir | pigz -p 8 > logdir.tgz

解压缩

time pigz -p 8 -d logdir.tgz

速度是非常之快的,大家可以自行测试。

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 这里有17个G的日志文件,使用多线程压缩2分23秒即可压缩完成3.2G的压缩,6倍的压缩比,普通压缩则要使用7分5...
    大猪大猪阅读 1,117评论 0 17
  • 这里有17个G的日志文件,使用多线程压缩2分23秒即可压缩完成3.2G的压缩,6倍的压缩比,普通压缩则要使用7分5...
    大猪大猪阅读 796评论 0 1
  • WinRAR - 最新版本的更新 版本 5.50 1. WinRAR 和命令行 RAR 默认使用 RAR ...
    王舒璇阅读 2,415评论 0 2
  • 有时候购买的商品,属性很多,想做成表格进行筛选。自然用技术宅的爬虫方式做了 ```python # -*- ...
    超哥__阅读 4,324评论 0 8
  • 为什么要整理一下Linux下的打包和压缩工具呢?原因很简单,因为遇到问题了:游戏服务器可执行文件、配置和各种资源文...
    davidpp阅读 9,992评论 0 18