go并发基础

中文版Concurrency In Go读书笔记:https://www.kancloud.cn/mutouzhang/go/596804

1. sync.Cond + time.Tick

cond := sync.NewCond(&sync.Mutex{})
go func() {
    for range time.Tick(1 * time.Millisecond) {
        cond.Broadcast()   // 每隔1ms唤醒阻塞在该条件变脸上的goroutine
    }
}()

2. 粗粒度锁 vs 细粒度锁(饥饿现象)

package main

import (
    "fmt"
    "sync"
    "time"
)

/*
* 结论: 粗粒度锁(3ns)相比细粒度锁(1ns),更容易抢占cpu资源,容易导致细粒度锁的goroutine饿死
 */

func main() {

    var wg sync.WaitGroup
    var sharedLock sync.Mutex
    const runtime = 1 * time.Second

    // 粗粒度锁goroutine
    greedyWorker := func() {
        defer wg.Done()

        var count int
        for begin := time.Now(); time.Since(begin) <= runtime; {
            sharedLock.Lock()
            time.Sleep(3 * time.Nanosecond)
            sharedLock.Unlock()
            count++
        }

        fmt.Printf("Greedy worker was able to execute %v work loops\n", count)
    }

    // 细粒度锁goroutine
    politeWorker := func() {
        defer wg.Done()

        var count int
        for begin := time.Now(); time.Since(begin) <= runtime; {

            sharedLock.Lock()
            time.Sleep(1 * time.Nanosecond)
            sharedLock.Unlock()

            sharedLock.Lock()
            time.Sleep(1 * time.Nanosecond)
            sharedLock.Unlock()

            sharedLock.Lock()
            time.Sleep(1 * time.Nanosecond)
            sharedLock.Unlock()

            count++
        }

        fmt.Printf("Polite worker was able to execute %v work loops.\n", count)
    }

    wg.Add(2)
    go greedyWorker()
    go politeWorker()
    wg.Wait()
}

3. 内存同步访问:加锁

package main

import (
    "fmt"
    "math/rand"
    "sync"
    "time"
)

func main() {
    rand.Seed(time.Now().UnixNano())
    var memoryAccess sync.Mutex // <1>
    var value int
    go func() {
        time.Sleep(time.Duration(rand.Intn(10)) * time.Millisecond)
        memoryAccess.Lock() // <2>
        value++
        memoryAccess.Unlock() // <3>
    }()

    time.Sleep(time.Duration(rand.Intn(10)) * time.Millisecond)
    memoryAccess.Lock() // <4>
    if value == 0 {
        fmt.Printf("the value is %v.\n", value)
    } else {
        fmt.Printf("the value is %v.\n", value)
    }
    memoryAccess.Unlock() // <5>
}

4. go执行外部命令

exec.Command(命令名,参数).Run()   // 例如 ./cmd -deploy=aaa

5. goroutine背后的知识

goroutine不是操作系统线程,也不完全是绿色的线程(由语言运行时管理的线程),其是更高层次的抽象,被成为协程。

协程是非抢占的并发子程序,也就是说goroutine不能被中断。

Go的独特之处在于goroutine与Go的runtime深度整合,goroutine没有定义自己的暂停或再入点,Go的runtime会监视goroutine的运行时行为,并在goroutine阻塞时自动挂起它们,在goroutine变通畅时恢复它们。

Go的宿主机制实现了所谓的M:N调度器(GPM模型),这意味着它可以将M个绿色线程映射到N个系统线程,goroutine随后被安排在这些绿色线程上。

Go并发遵循fork-join模型,即fork的子goroutine在任务结束时,最终还是会合并到主goroutine上的。go关键字为Go程序实现了fork,fork的执行者是goroutine。如下图所示:


frok-join模型

下面的go程序代码:

    var wg sync.WaitGroup
    for _, salutation := range []string{"hello", "greetings", "good day"} {
        wg.Add(1)
        go func() {
            defer wg.Done()
            fmt.Println(salutation) // 1
        }()
    }
    wg.Wait()  

最终输出结果为: good day三次

  • main goroutine不能被中断,只有在运行到wg.Wait时被阻塞,此时其余goroutine才会被调度执行
  • go内存管理机制:salutation变量从栈空间转移至堆空间,其保存的值为"good day"

因此,程序中的子goroutine在被调度执行时,salutation变量的值均为good day。

Tips
新建立一个goroutine有几千字节,这样的大小几乎总是够用的。如果出现不够用的情况,Go的runtime会自动增加(或缩小)用于存储堆栈的内存,从而允许goroutine存在适量内存中。因此,在C/C++等语言中容易发生的爆栈现象在Go中并不会发生,因为goroutine对应的堆栈空间是可以动态增长的。在相同的地址空间中创建数十万个goroutine是可以的,如果这些goroutine只是执行等同于线程的任务,那么系统资源的占用将会更小。

一种GC无法回收goroutine的情况:goroutine泄露

    go func() {
        // goroutine在此处永久阻塞
    }()
    // do work

一个计算goroutine占用内存空间大小的程序,通过运行结果可以看出一个goroutine是多么的轻量级。

package main

import (
    "fmt"
    "runtime"
    "sync"
)

func main() {

    memConsumed := func() uint64 { // 占用内存测量函数
        runtime.GC()
        var s runtime.MemStats
        runtime.ReadMemStats(&s)
        return s.Sys
    }

    var c <-chan interface{}
    var wg sync.WaitGroup
    noop := func() { wg.Done(); <-c } // 1 : goroutine将会一直被阻塞

    const numGoroutines = 1e4 // 2 : 创建1W个goroutine
    wg.Add(numGoroutines)
    before := memConsumed() // 3 : 测量创建goroutine前,内存占用大小
    for i := numGoroutines; i > 0; i-- {
        go noop()
    }
    wg.Wait()
    after := memConsumed() // 4 : 测量创建1Wgoroutine之后,内存占用情况
    fmt.Printf("%.3fkb", float64(after-before)/numGoroutines/1000)
} // 测量结果: 每个goroutine占用内存空间大小约为2.61KB

测试goroutine上下文切换的性能

// 单纯模拟两个goroutine之间的数据传输,进行goroutine上下文切换性能的统计
func BenchmarkContextSwitch(b *testing.B) {

    var wg sync.WaitGroup
    begin := make(chan struct{})
    c := make(chan struct{})

    // 只是单纯地模拟两个goroutine之间传送数据
    var token struct{}
    sender := func() {
        defer wg.Done()
        <-begin //1: 阻塞
        for i := 0; i < b.N; i++ {
            c <- token //2: 发送
        }
    }
    receiver := func() {
        defer wg.Done()
        <-begin //1: 阻塞
        for i := 0; i < b.N; i++ {
            <-c //3: 接收
        }
    }

    wg.Add(2)
    go sender()
    go receiver()
    b.StartTimer() //4: 启动定时器
    close(begin)   //5: 启动两个goroutine之间的数据传输, close channel --> done channel --> 进行信号广播
    wg.Wait()
}

// 基准测试结果如下:
➜  learndemo **go test -bench=. -cpu=1 /Users/didi/MyWork/PersonalCode/src/go_demo/learndemo/context_switch_test.go**
goos: darwin
goarch: amd64
BenchmarkContextSwitch  10000000           **165 ns/op**
PASS
ok      command-line-arguments  1.830s
➜  learndemo

6. channel相关知识

channel操作注意事项

作为拥有channnel的goroutine(生产者),应该确保以下三件事情:

  • 初始化该channel
  • 执行写入操作或将所有权交给另一个goroutine
  • 关闭该channel

作为channel的消费者,只需要考虑两件事情:

  • channel什么时候被关闭(close)
  • 处理基于任何原因出现的阻塞(block)

一个简单的生产者/消费者示例:

chanOwner := func() <-chan int {   // 返回一个只读channel

    resultStream := make(chan int, 5)//1
    go func() {//2
        defer close(resultStream)//3: defer close channel
        for i := 0; i <= 5; i++ {
            resultStream <- i  // 生产数据
        }
    }()
    return resultStream//4

}
// 生产者创建channel,并向channel中写入数据,生产结束后关闭channel(defer close)
resultStream := chanOwner()
for result := range resultStream {//5
    fmt.Printf("Received: %d\n", result)
}  // 消费者消费数据,可能会阻塞住,且在channel close时,执行退出操作
fmt.Println("Done receiving!")

7. select

select + time超时控制

var c <-chan int
select {
case <-c: //1
case <-time.After(1 * time.Second):
    fmt.Println("Timed out.")
}

select+default

start := time.Now()
var c1, c2 <-chan int
select {
case <-c1:
case <-c2:
default:
    fmt.Printf("In default after %v\n\n", time.Since(start))
}

for-select

done := make(chan interface{})
go func() {
    time.Sleep(5 * time.Second)
    close(done)
}()

workCounter := 0
loop:
for {   // 不断循环,判断select-case条件是否满足
    select {
    case <-done:
        break loop   // break tag使用方法,跳出指定的多层循环
    default:
    }

    // Simulate work
    workCounter++
    time.Sleep(1 * time.Second)
}

fmt.Printf("Achieved %v cycles of work before signalled to stop.\n", workCounter)

永久阻塞的select语句

select {}   // select没有case分支,永久被阻塞

8. GOMAXPROCS

runtime.GOMAXPROCS(runtime.NumCPU())  // 指定G-P-M模型中的P的个数,从而决定了其能够利用的操作系统线程的最大数目,多核情况下goroutine运行的并行程度
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容

  • 除了保证操作的原子性以外,同步还可以保证变量在不同线程之间的内存可见性。原子性和可见性共同构成了同步的两个核心要素...
    namelessEcho阅读 327评论 0 0
  • 第二章 线程管理 数据保护 从乐观的角度上看,还是有方法可循的:切勿将受保护数据的指针或引用传递到互斥锁作用域之外...
    scott_yu779阅读 625评论 0 0
  • 最近快手这种小视频app,特别的火,中午吃过午饭,闲来无聊,想搞下快手的短视频,看能不能搞到。 于是乎, 打开了f...
    小贤tx阅读 4,567评论 1 1
  • 相思月 月牙泉畔 星星摇曳 泛着清幽的光 你身穿一袭洁白的长裙 带着浅蓝色的微笑 俘获了我的...
    秋水长天_42b2阅读 189评论 0 2
  • 把一个像素 放大至 N个像素去显示(N就是我们像素比的值) 举个例子: 如果像素比为2 那么,我们div实际所占的...
    llpy阅读 1,199评论 0 0