Go运行时metrics指标详解

一个运行中的程序似乎很难具有“内省”能力,我们需要通过一个外部的观察者例如dlv、gdb来观察,或者是程序自身暴露的metric。这就好像是要查看人体胃部的状况,需要借助外部工具胃镜,而内部的病变或者疼痛这样的指标也可以通过外部反应出来一样。这种metric暴露当然都是需要成本的。

对于Go程序来讲,大点的公司都有自己的监控平台,观测机器级别的(例如内存、CPU、网络、磁盘容量)、容器级别的(cgroup,cpu抢占、cpu.throttled)、程序级别的(qps、请求延迟)等等。

虽然大部分指标都是某一时刻瞬时的指标,但是通过指定时间内拉取指标,观察指标的变化,我们就可以观察到程序在一段时间内运行状况。

在本文中笔者将介绍运行时暴露出来的一些指标,主要是内存方面的。其他CPU等指标可以通过pprof等其他手段获取到。这些指标对于观察程序的异常情况、并排查问题有重要意义。对一些指标的深刻理解需要对于Go运行时处理模型的理解,因此并不是一件简单的事情。本文希望提供对这些指标的准确表述,较少其他同学理解的成本。

要注意的是,我们可能有多种工具来观测相同的指标,例如pprof、trace 都可以在不同程度表征程序内存的运行状态。不同的工具也有自己单独的指标,需要灵活的应用各种手段来达到自己想要的目的。

标准库获取运行时指标的函数有多个,Debug库中的 ReadGCStats 方法可以返回运行时GC相关的关键指标,对于判断是否频繁发生GC、以及GC完全不可用时长是否偏高有重要的意义。

func ReadGCStats(stats *GCStats) {
     ...
}
Debug库中的NumGoroutine获取程序的协程数量,GOMAXPROCS()获取逻辑处理器P。

func NumGoroutine() int {
    return int(gcount())
}

func GOMAXPROCS(n int) int[

}

runtime 标准库ReadMemStats 函数也包含了运行时内存相关的指标,有一些指标比较难懂,涉及到对于Go内存模型的深刻理解。

func ReadMemStats(m *MemStats) {
    ...
}

当然了runtime 还暴露了一些供pprof工具使用的API,获取当前Profile 样本文件,例如

func MemProfile(p []MemProfileRecord, inuseZero bool) (n int, ok bool)
func MutexProfile(p []BlockProfileRecord) (n int, ok bool)
func ThreadCreateProfile(p []StackRecord) (n int, ok bool)
ReadMemStats 和 GCStats

在本文中, 笔者将对ReadMemStats 得到的MemStats结构 和ReadGCStats中的GCStats结构中的各个指标进行解释。

type MemStats struct {
        Alloc uint64
        TotalAlloc uint64
        Sys uint64
        ... 
}

type GCStats struct {
    LastGC         time.Time     
    NumGC          int64         
    PauseTotal     time.Duration 
  ...
}

下面对各个指标进行深入解析:
Alloc
对象的分配字节数 = 已分配对象的字节数 - GC已释放的对象的字节数

TotalAlloc
对象的分配数量 = 已分配对象的数量 - GC已释放的对象的数量

Sys
运行时保留的虚拟内存,这些内存含义比较丰富,堆、栈和其他内部结构的内存

nlookup (已废弃!)

Mallocs
活着的对象数量(Mallocs - Frees),和alloc不同的是,包含了微小对象。

Frees
释放的对象数量

HeapAlloc
堆内存分配的对象的字节数,同Alloc

HeapSys
向系统申请的虚拟内存大小

HeapIdle
向操作系统申请但是未分配或者回收了的堆内存 , =HeapSys - HeapInuse

HeapInuse
被堆使用的内存,HeapInuse - HeapAlloc 表示这些内存还没有被分配对象。

HeapReleased
HeapIdle 中已经被释放给操作系统的内存。

HeapObjects
已分配的活着的堆对象 = Mallocs - Frees

StackInuse
协程栈本身占据的内存字节数

StackSys
= StackInuse协程栈字节数 + 系统线程栈字节数

MSpanInuse
正在使用的的span的字节数

MSpanSys
操作系统分配的span的字节数,其包含了MSpanInuse 和未被使用的span

mcache_inuse
正在使用的的mcache的字节数

mcache_sys
操作系统分配的mcache的字节数,其包含了mcache_inuse 和未被使用的mcache

BuckHashSys
pprof需要用到的bucket 内存大小

GCSys
垃圾收集需要用到的元数据所占的内存大小。

OtherSys
运行时其他特殊对象所占的内存大小。

NextGC
下一次GC的目标内存大小

PauseTotalNs
程序累积的垃圾回收stop-the-world时间,即不可用时间。在odin为ms

PauseNs
最近一次stop-the-world时间,即不可用时间

NumGC
程序开始后的GC次数,每一次GC加1

NumForcedGC
用户强制触发的GC数量

GCCPUFraction
衡量GC花费的CPU时间
runtime/metrics
其实Go语言还提供了更通用的接口,完成runtime.ReadMemStats 和Debug.ReadGCStats 共同的功能,api位于runtime/metrics中,生成当前时刻的metric样本。如下例中,简单打印出metric Key-Value对。

package main

import (
    "fmt"
    "runtime/metrics"
)

func main() {
    // Get descriptions for all supported metrics.
    descs := metrics.All()

    // Create a sample for each metric.
    samples := make([]metrics.Sample, len(descs))
    for i := range samples {
        samples[i].Name = descs[i].Name
    }

    // Sample the metrics. Re-use the samples slice if you can!
    metrics.Read(samples)

    // Iterate over all results.
    for _, sample := range samples {
        // Pull out the name and value.
        name, value := sample.Name, sample.Value

        // Handle each sample.
        switch value.Kind() {
        case metrics.KindUint64:
            fmt.Printf("%s: %d\n", name, value.Uint64())
        case metrics.KindFloat64:
            fmt.Printf("%s: %f\n", name, value.Float64())
        case metrics.KindFloat64Histogram:
            // The histogram may be quite large, so let's just pull out
            // a crude estimate for the median for the sake of this example.
            fmt.Printf("%s: %f\n", name, medianBucket(value.Float64Histogram()))
        case metrics.KindBad:
            // This should never happen because all metrics are supported
            // by construction.
            panic("bug in runtime/metrics package!")
        default:
            // This may happen as new metrics get added.
            //
            // The safest thing to do here is to simply log it somewhere
            // as something to look into, but ignore it for now.
            // In the worst case, you might temporarily miss out on a new metric.
            fmt.Printf("%s: unexpected metric Kind: %v\n", name, value.Kind())
        }
    }
}

func medianBucket(h *metrics.Float64Histogram) float64 {
    total := uint64(0)
    for _, count := range h.Counts {
        total += count
    }
    thresh := total / 2
    total = 0
    for i, count := range h.Counts {
        total += count
        if total >= thresh {
            return h.Buckets[i]
        }
    }
    panic("should not happen")
}

这些metric具有与之前描述中相似的功能,可以对比着学习。

/gc/cycles/automatic:gc-cycles
运行时完成的gc次数

/gc/cycles/forced:gc-cycles
用户调用force完成的gc次数

/gc/cycles/total:gc-cycles
gc总次数

/gc/heap/allocs-by-size:bytes
按照近似大小(Go内存管理有各级span分别对应存储不同大小的对象)分配的堆大小

/gc/heap/allocs:bytes
堆内存分配的对象的字节数

/gc/heap/allocs:objects
堆内存分配的对象的个数

/gc/heap/frees-by-size:bytes
按照近似大小(Go内存管理有各级span分别对应存储不同大小的对象)释放的内存大小

/gc/heap/frees:bytes
gc释放的堆内存的累积总和

/gc/heap/frees:objects
gc释放的堆内存的累积大小和

/gc/heap/goal:bytes
下一次GC内存目标

/gc/heap/objects:objects
占用堆内存的对象数,无论是活着的还是未清扫的

/gc/heap/tiny/allocs:objects
tiny微小对象分配的个数

/gc/pauses:seconds
stw时间

/memory/classes/heap/free:bytes
可以返回给操作系统的内存数量

/memory/classes/heap/objects:bytes
存活的对象或暂时未被gc标记的死对象大小

/memory/classes/heap/released:bytes
返回给操作系统的内存大小

/memory/classes/heap/stacks:bytes
当前协程栈占用的内存大小

/memory/classes/heap/unused:bytes
为堆对象保留但当前没有的内存

/memory/classes/metadata/mcache/free:bytes
为运行时 mcache 结构保留的内存,但未使用

/memory/classes/metadata/mcache/inuse:bytes
运行时 mcache 结构占用的内存,正在使用

/memory/classes/metadata/mspan/free:bytes
运行时 mspan 结构保留的内存,但未使用。

/memory/classes/metadata/mspan/inuse:bytes
运行时 mspan 结构占用的内存,目前正在使用

/memory/classes/metadata/other:bytes
为运行时保留或用于保存运行时元数据的内存

/memory/classes/os-stacks:bytes
底层操作系统分配的栈内存。

/memory/classes/other:bytes
调试运行时、finalizer等分配的内存,用于特殊功能

/memory/classes/profiling/buckets:bytes
profiling样本,栈扫描时使用的哈希表,占用的内存大小。

/memory/classes/total:bytes
Go 运行时映射到当前进程的所有内存。不包括通过 cgo 或 syscall 包里的代码映射的内存。

/sched/goroutines:goroutines
实时 goroutine 的计数。

/sched/latencies:seconds
协程在实际运行之前,在调度器中等待所花费的时间分布。
总结

本文对运行时暴露的指标进行了准确的表述,这些指标对于在一段时间周期内观察程序的运行状态,监控和排查问题有最重要意义。而要理解有些指标详细的含义,需要对于内存、虚拟内存、Go内存模型的准确理解。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,869评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,716评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,223评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,047评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,089评论 6 395
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,839评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,516评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,410评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,920评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,052评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,179评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,868评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,522评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,070评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,186评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,487评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,162评论 2 356

推荐阅读更多精彩内容