goleng-set错误使用导致的内存泄漏

事情发生在公元2021年2月份,石同学接到了一个开发任务,考虑不到本章主要介绍golang-set相关的问题,因此开发任务简单理解为:开发一个条件过滤器,用于判断某一件商品的属性是否包含于预设的屏蔽规则。考虑到该功能后续的扩展性和条件快速匹配的性能要求,很容就确定了该功能的开发要基于集合数据结构实现,然后石同学查阅了一些资料发现,golang本身没有提供set这种数据结构,但是有一个比较流行的第三方包——golang-set,这个第三方包的实现方法十分简单,同时已经被应用于docker项目中,可以说十分成熟且可靠性很好。

开发过程十分顺利,在去掉业务相关以及相似逻辑之后,业务代码可以简化为如下所示代码片段:

//the set is the 
var forbiddenWords mapset.Set

func Filter(sku SkuParam) bool{
    for forbiddenWord := range forbiddenWords.Iter() {
        if strings.Contains(sku.Name, forbiddenWord.(string)) {
            return setObj.(string), true
        }
    }
}

这部分代码目的在于判断某个商品名称中是否包含了某些敏感词语,因此选择对禁用词进行了遍历,然后判断是否包含于商品名称。代码最开始运行状态很好,但是随着时间的推移,发现服务的执行速度越来越慢,因此使用pprof对服务运行状态进行了采样分析,最终发现一个异常点,具体如下图所示,三张图片分别是pprof在程序启动后,启动一段时间,启动更长一段时间后分别采集到的协程数量分析:

启动后.png

启动一段时间.png

启动更长时间.png

通过一段时间的分析,我们发现协程数在逐渐增多,发生了十分明显的协程泄漏,协程资源无法回收进而导致了内存泄漏,进一步,我们查找导致协程泄漏的代码发现定位到了如下代码:


for forbiddenWord := range forbiddenWords.Iter() {
        if strings.Contains(sku.Name, forbiddenWord.(string)) {
            return setObj.(string), true
        }
    }

这部分代码没有发现任何启动协程的步骤,那么问题可能出在了golang-set包中,我们进一步分析,发现golang-set的Iter()方法的具体实现代码如下:


func (set *threadUnsafeSet) Iter() <-chan interface{} {
    ch := make(chan interface{})
    go func() {
        for elem := range *set {
            ch <- elem
        }
        close(ch)
    }()

    return ch
}

原来golang-set的遍历方法是基于协程的异步遍历方案,这样做的好处是,当golang-set的集合对象很大时,无需等待用户侧就可以直接通过channel开始处理遍历结果,但是由于传输cahnnel是无缓存的结构,当用户不再读取数据时,遍历协程将阻塞。这就解释了为什么我们的服务会发生协程泄漏。由于我们只需要判断关键字的包含关系,因此,当遍历中途发现已经包含时,用户逻辑将会直接return,而此时遍历协程可能还没遍历完,遍历协程就会发生阻塞,此时,协程无法退出,同时channel也没执行stop,因此才发生了协程泄漏。

那么如何解决上述问题呢?考虑到golang-set包已经被长期验证,因此不可能发生如此低级的错误,因此在仔细阅读golang-set包源码后,发现了另一中可中途退出的遍历方法。具体如下:

type Iterator struct {
    C    <-chan interface{}
    stop chan struct{}
}

func newIterator() (*Iterator, chan<- interface{}, <-chan struct{}) {
    itemChan := make(chan interface{})
    stopChan := make(chan struct{})
    return &Iterator{
        C:    itemChan,
        stop: stopChan,
    }, itemChan, stopChan
}


func (set *threadUnsafeSet) Iterator() *Iterator {
    iterator, ch, stopCh := newIterator()

    go func() {
    L:
        for elem := range *set {
            select {
            case <-stopCh:
                break L
            case ch <- elem:
            }
        }
        close(ch)
    }()

    return iterator
}

该方法返回一个枚举对象而不是一个channel,而枚举对象中包含了一个stop()方法,用于通知遍历协程中途退出。从而避免了协程泄漏情况的发生。此时,我们的问题也就迎刃而解啦,解决问题后的代码如下:

    it := forbiddenWords.Iterator()
    for setObj := range it.C {
        if strings.Contains(sku.Name, setObj.(string)) {
            it.Stop()
            return setObj.(string), true
        }
    }
    return "", false

好了,以上就是本篇文章的全部内容。这次问题分析带给我的收获就是在使用第三方包的时候一定要研究透各种方法的实现方法和使用方法,否则很有可能因为使用不当而导致一些异常。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,029评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,238评论 3 388
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,576评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,214评论 1 287
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,324评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,392评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,416评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,196评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,631评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,919评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,090评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,767评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,410评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,090评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,328评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,952评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,979评论 2 351

推荐阅读更多精彩内容