1.概述
今天我们再来聊聊 Go 特有的 channel 。在使用 channel 进行 goroutine 之间的通信时,有时候场面会变得十分复杂,以至于写出难以觉察、难以定位的偶现 bug,而且上线的时候往往跑得好好的,直到某一天深夜收到服务挂了、OOM 了之类的告警……
先带大家复习一下Go语言中常用的两中channel:普通channel和带缓冲的channel。它们在定义和使用上有一些区别。
-
普通channel:
- 定义:普通channel是指没有缓冲区的channel,发送操作和接收操作是同步的。在使用
make 函数创建channel时,不指定缓冲区大小即可创建普通channel。 - 用法:发送操作将会阻塞,直到有goroutine接收数据;接收操作也会阻塞,直到有goroutine发送数据。这种同步的特性使得发送和接收操作的执行是一一对应的。
- 定义:普通channel是指没有缓冲区的channel,发送操作和接收操作是同步的。在使用
示例:
ch := make(chan int) // 创建一个普通channel go func() { ch <- 1 // 发送数据到channel }() data := <-ch // 从channel接收数据
-
带缓冲的channel:
- 定义:带缓冲的channel允许在channel中存储一定数量的元素,发送操作只有在缓冲区满时才会阻塞,而接收操作只有在缓冲区空时才会阻塞。在使用
make 函数创建channel时,需要指定缓冲区大小。 - 用法:发送操作只有在缓冲区满时才会阻塞,而接收操作只有在缓冲区空时才会阻塞。这种特性使得发送和接收操作可以异步进行,不需要一一对应。
- 定义:带缓冲的channel允许在channel中存储一定数量的元素,发送操作只有在缓冲区满时才会阻塞,而接收操作只有在缓冲区空时才会阻塞。在使用
示例:
ch := make(chan int, 3) // 创建一个带缓冲的channel,缓冲区大小为3 go func() { ch <- 1 // 发送数据到channel ch <- 2 // 发送数据到channel }() data := <-ch // 从channel接收数据
总的来说,带缓冲的channel允许发送和接收操作异步进行,而普通channel则是同步的。根据具体的需求,可以选择使用普通channel或带缓冲的channel。
本文来梳理一下使用 channel 中常见的三大坑:panic、死锁、内存泄漏,通过主动给程序挖坑搞破坏的方式,让大家换一个角度看,我们正经写代码使用 channel 的时候怎么做到防患于未然。
2. 死锁
go 语言新手在编译时很容易碰到这个死锁的问题:
fatal error: all goroutines are asleep - deadlock!
这个就是喜闻乐见的「死锁」了…… 在操作系统中,我们学过,「死锁」就是两个线程互相等待,耗在那里,最后程序不得不终止。go 语言中的「死锁」也是类似的,两个 goroutine 互相等待,导致程序耗在那里,无法继续跑下去。看了很多死锁的案例后,channel 导致的死锁可以归纳为以下几类案例(先讨论 unbuffered channel 的情况):
2.1 只有生产者,没有消费者,或者反过来
channel 的生产者和消费者必须成对出现,如果缺乏一个,就会造成死锁,例如:
// 只有生产者,没有消费者 func f1() { ch := make(chan int) ch <- 1 }
或是:
// 只有消费者,没有生产者 func f2() { ch := make(chan int) <-ch }
2.2 生产者和消费者出现在同一个 goroutine 中
除了需要成对出现,还需要出现在不同的 goroutine 中,例如:
// 同一个 goroutine 中同时出现生产者和消费者 func f3() { ch := make(chan int) ch <- 1 // 由于消费者还没执行到,这里会一直阻塞住 <-ch }
对于 buffered channel 则是:
2.3 buffered channel 已满,且出现上述情况
buffered channel 会将收到的元素先存在
所以实际使用中,推荐尽量使用 buffered channel ,使用起来会更安全,在下文的「内存泄漏」相关内容也会提及
3. 内存泄漏
内存泄漏一般都是通过
在 go 语言中,错误地使用 channel 会导致 goroutine 泄漏,进而导致内存泄漏。
3.1 如何实现 goroutine 泄漏呢?
不会修 bug,我还不会写 bug 吗?让 goroutine 泄漏的核心就是:
生产者/消费者 所在的 goroutine 已经退出,而其对应的 消费者/生产者 所在的 goroutine 会永远阻塞住,直到进程退出
3.2 生产者阻塞导致泄漏
我们一般会用 channel 来做一些超时控制,例如下面这个例子:
func leak1() { ch := make(chan int) // g1 go func() { time.Sleep(2 * time.Second) // 模拟 io 操作 ch <- 100 // 模拟返回结果 }() // g2 // 阻塞住,直到超时或返回 select { case <-time.After(500 * time.Millisecond): fmt.Println("timeout! exit...") case result := <-ch: fmt.Printf("result: %d ", result) } }
这里我们用 goroutine
-
假设客户端超时为 500ms,而实际请求耗时为 2s,则 select 会走到 timeout 的逻辑,这时
g2 退出,channelch 没有消费者,会一直在等待状态,输出如下:
Goroutine num: 1 timeout! exit... Goroutine num: 2
如果这是在 server 代码中,这个请求处理完后,
-
假设客户端超时调整为 5000ms,实际请求耗时 2s,则 select 会进入获取 result 的分支,输出如下:
Goroutine num: 1 result: 100 Goroutine num: 1
3.3 消费者阻塞导致泄漏
如果生产者不继续生产,消费者所在的 goroutine 也会阻塞住,不会退出,例如:
func leak2() { ch := make(chan int) // 消费者 g1 go func() { for result := range ch { fmt.Printf("result: %d ", result) } }() // 生产者 g2 ch <- 1 ch <- 2 time.Sleep(time.Second) // 模拟耗时 fmt.Println("main goroutine g2 done...") }
这种情况下,只需要增加
3.4 如何预防内存泄漏?
预防 goroutine 泄漏的核心就是:
创建 goroutine 时就要想清楚它什么时候被回收
具体到执行层面,包括:
-
当 goroutine 退出时,需要考虑它使用的 channel 有没有可能阻塞对应的生产者、消费者的 goroutine
-
尽量使用
buffered channel 使用buffered channel 能减少阻塞发生、即使疏忽了一些极端情况,也能降低 goroutine 泄漏的概率
4. panic
panic 就更刺激了,一般是测试的时候没发现,上线之后偶现,程序挂掉,服务出现一个超时毛刺后触发告警。channel 导致的 panic 一般是以下几个原因:
4.1 向已经 close 掉的 channel 继续发送数据
先举一个简单的栗子:
func p1() { ch := make(chan int, 1) close(ch) ch <- 1 } // panic: send on closed channel
在实际开发过程中,处理多个 goroutine 之间协作时,可能存在一个 goroutine 已经 close 掉 channel 了,另外一个不知道,也去 close 一下,就会 panic 掉,例如:
func p1() { ch := make(chan int, 1) done := make(chan struct{}, 1) go func() { <- time.After(2*time.Second) println("close2") close(ch) close(done) }() go func() { <- time.After(1*time.Second) println("close1") ch <- 1 close(ch) }() <-done }
万恶之源就是在 go 语言里,你是无法知道一个 channel 是否已经被 close 掉的,所以在尝试做 close 操作的时候,就应该做好会 panic 的准备……
4.2 多次 close 同一个 channel
同上,在尝试往 channel 里发送数据时,就应该考虑
-
这个 channel 已经关了吗?
-
这个 channel 什么时候、在哪个 goroutine 里关呢?
-
谁来关呢?还是干脆不关?
5. 如何优雅地 close channel
5.1 需要检查 channel 是否关闭吗?
刚遇到上面说的 panic 问题时,我也试过去找一个内置的
那么,如果有这样的函数,真能彻底解决 panic 的问题么?答案是不能。因为 channel 是在一个并发的环境下去做收发操作,就算当前执行
if !closed(ch) { // 返回 false // 在这中间出了幺蛾子! close(ch) // 还是 panic 了…… }
遵循 less is more 的原则,这个
5.2 需要 close 吗?为什么?
结论:除非必须关闭 chan,否则不要主动关闭。关闭 chan 最优雅的方式,就是不要关闭 chan~
当一个 chan 没有 sender 和 receiver 时,即不再被使用时,GC 会在一段时间后标记、清理掉这个 chan。那么什么时候必须关闭 chan 呢?比较常见的是将 close 作为一种通知机制,尤其是生产者与消费者之间是 1:M 的关系时,通过 close 告诉下游:我收工了,你们别读了。
5.3 谁来关?
chan 关闭的原则:
Don't close a channel from the receiver side 不要在消费者端关闭 chan
Don't close a channel if the channel has multiple concurrent senders 有多个并发写的生产者时也别关
只要我们遵循这两条原则,就能避免两种 panic 的场景,即:向 closed chan 发送数据,或者是 close 一个 closed chan。
按照生产者和消费者的关系可以拆解成以下几类情况:
-
一写一读:生产者关闭即可
-
一写多读:生产者关闭即可,关闭时下游全部消费者都能收到通知
-
多写一读:多个生产者之间需要引入一个协调 channel 来处理信号
-
多写多读:与 3 类似,核心思路是引入一个中间层以及使用
try-send 的套路来处理非阻塞的写入,例如:
func main() { rand.Seed(time.Now().UnixNano()) log.SetFlags(0) const Max = 100000 const NumReceivers = 10 const NumSenders = 1000 wgReceivers := sync.WaitGroup{} wgReceivers.Add(NumReceivers) dataCh := make(chan int) stopCh := make(chan struct{}) // stopCh 是额外引入的一个信号 channel. // 它的生产者是下面的 toStop channel, // 消费者是上面 dataCh 的生产者和消费者 toStop := make(chan string, 1) // toStop 是拿来关闭 stopCh 用的,由 dataCh 的生产者和消费者写入 // 由下面的匿名中介函数(moderator)消费 // 要注意,这个一定要是 buffered channel (否则没法用 try-send 来处理了) var stoppedBy string // moderator go func() { stoppedBy = <-toStop close(stopCh) }() // senders for i := 0; i < NumSenders; i++ { go func(id string) { for { value := rand.Intn(Max) if value == 0 { // try-send 操作 // 如果 toStop 满了,就会走 default 分支啥也不干,也不会阻塞 select { case toStop <- "sender#" + id: default: } return } // try-receive 操作,尽快退出 // 如果没有这一步,下面的 select 操作可能造成 panic select { case <- stopCh: return default: } // 如果尝试从 stopCh 取数据的同时,也尝试向 dataCh // 写数据,则会命中 select 的伪随机逻辑,可能会写入数据 select { case <- stopCh: return case dataCh <- value: } } }(strconv.Itoa(i)) } // receivers for i := 0; i < NumReceivers; i++ { go func(id string) { defer wgReceivers.Done() for { // 同上 select { case <- stopCh: return default: } // 尝试读数据 select { case <- stopCh: return case value := <-dataCh: if value == Max-1 { select { case toStop <- "receiver#" + id: default: } return } log.Println(value) } } }(strconv.Itoa(i)) } wgReceivers.Wait() log.Println("stopped by", stoppedBy) }
本用例来自参考资料中的《How to Gracefully Close Channels》