Go   发布时间:2022-04-09  发布网站:大佬教程  code.js-code.com
大佬教程收集整理的这篇文章主要介绍了golang中snappy的使用场合实例详解大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。

前言

项目中遇到的压缩/解压缩需求应该是很多的,比如典型的考虑网络传输延时而对数据进行压缩传输,又或者其他各种省空间存储需求等。这次同样是遇到了类似需求,在做一个爬虫时,因为抓取项目还未确定,所以考虑将整个html页面压缩存储于数据库,于是又是各种google,最后不出意外的google到了google家的Snappy :-)

google 自家的snappy 压缩优点是非常高的速度和合理的压缩率。压缩率比gzip 小,cpu 占用小。

golang中snappy使用场合

下面是对几个简单的字符串做snappy 压缩前后对比:

package main

import (
 "fmt"
 "github.com/golang/snappy"
 "io/IoUtil"
)
var (
 textMap = map[string]string{
 "a": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`,"b": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,"c": `雇萸⑴翠そ戒プ遣怃娩脘芭ㄤ洄洇洋洌洎洒洗dㄤ《Ыㄤ殇掬蹭郴钕`,"d": `雇萸⑴翠そ戒プ遣怃娩脘芭ㄤ洄洇洋洌洎洒洗dㄤ《Ыㄤ殇掬蹭郴钕雇萸⑴翠そ戒プ遣怃娩脘芭ㄤ洄洇洋洌洎洒洗dㄤ《Ыㄤ殇掬蹭郴钕雇萸⑴翠そ戒プ遣怃娩脘芭ㄤ洄洇洋洌洎洒洗dㄤ《Ыㄤ殇掬蹭郴钕`,}
 imgSrc = []string{
 "1.jpg","2.jpg","3.jpg","4.jpg",}
)
func main() {
 for k,v := range textMap {
 got := snappy.Encode(nil,[]byte(v))
 fmt.Println("k:",k,"len:",len(v),len(got))
 }
 fmt.Println("snappy jpg")
 for _,v := range imgSrc {
 buf,err := IoUtil.ReadFile(v)
 if err == nil {
  got := snappy.Encode(nil,buf)
  fmt.Println("k:",v,len(buf),len(got))
 }
 }
}

输出

k: a len: 46 48
k: b len: 184 58
k: c len: 246 250
k: d len: 738 274
snappy jpg
k: 1.jpg len: 302829 282525
k: 2.jpg len: 89109 89051
k: 3.jpg len: 124463 123194
k: 4.jpg len: 420886 368608

如果字符串包含重复字符多压缩才看到效果,对jpg 图片的压缩率不大。

一个实际使用的数据库是否使用snappy 做对比,用户文章都是10万,文章内容较简单。

使用snappy 压缩前:

用时 4m32.916312692s
数据库占用空间 176,209,920 字节(磁盘上的 172 MB)

使用snappy 压缩后:

用时 4m6.750271414s
数据库占用空间 159,424,512 字节(磁盘上的 150.9 MB)

从使用时间上看,此例压缩使用的cpu 时间小于数据压缩后省下来的数据存储IO 占用的时间。因为文章数据较短、内容简单,压缩效果不明显。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对编程小技巧的支持

大佬总结

以上是大佬教程为你收集整理的golang中snappy的使用场合实例详解全部内容,希望文章能够帮你解决golang中snappy的使用场合实例详解所遇到的程序开发问题。

如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。
标签: