go yaml 和 k8s yaml 混用踩坑

云原生相关的项目避免不了和 yaml 打交道。go 没有内置对 yaml 格式的支持,比较常用的 go-yaml 这个库,这个库可以用进行日常的 marshal 和 unmarshal。
k8s 自身也常和 yaml 打交道,所以 k8s 提供了一个 sigs.k8s.io/yaml 库。这个库自身也是基于 go-yaml,所以文档中也说明了 k8syaml 支持 go-yaml 的全部功能。

我们在一个项目中一开始引入的是 go-yaml 的依赖,后来引入了 k8syaml 依赖,导致在代码的不同模块中分别使用两个模块进行序列化和反序列化,最终触发了一个系统 bug,该 bug 的表现一个配置项原本没有发生变化,但是系统会显示为发生了变化。经过 debug 才发现是由于在旧值和新值分别使用了 go-yaml 和 k8s yaml 进行了初始化导致的。
我们写一小段代码进行验证一下,发现由于 k8syaml 会先将 data 转为 json 再 unmarshal,导致 Value 的类型为 float64,而直接使用 go-yaml 中话,Value 的类型则是 int。

k8s-yaml Unmarshal 出来的类型之所以为 float64,也不是做了什么魔法,仅仅是先 unmarshal 到 json 导致的,我们直接使用 json unmarshal 的话,Value 的类型也是 float64。不过 json 提供了 decode 提供了选项 UseNumger() 的选项来处理此行为。

其实 k8syaml 的这个行为在文档中也有明确说明,只是之前没有触碰到这个先转为 json 再转为 yaml 的问题,算是踩了一次坑。

package main

import (
    "bytes"
    "encoding/json"
    "fmt"
    "reflect"

    "gopkg.in/yaml.v3"
    k8syaml "sigs.k8s.io/yaml"
)

func MustUnmarshalJSON(data []byte, o interface{}, useNumber bool) {
    var dec = json.NewDecoder(bytes.NewReader(data))
    if useNumber {
        dec.UseNumber()
    }
    err := dec.Decode(o)
    if err != nil {
        panic(err)
    }
}

const (
    DefaultYaml = iota
    K8SYaml
)

func MustUnmarshalYAML(data []byte, o interface{}, yamlType int, opts ...k8syaml.JSONOpt) {
    var err error
    switch yamlType {
    case DefaultYaml:
        err = yaml.Unmarshal(data, o)
    case K8SYaml:
        err = k8syaml.Unmarshal(data, o, opts...)
    default:
        panic(fmt.Errorf("unknown yamlType %v", yamlType))
    }
    if err != nil {
        panic(err)
    }
}

var useNumberOpt = func(d *json.Decoder) *json.Decoder {
    d.UseNumber()
    return d
}

func main() {
    type data struct {
        yaml string
        json string
    }
    type dd struct {
        Value interface{} `yaml:"value"`
    }
    for _, o := range []data{
        {
            yaml: `value: 7`,
            json: `{"value": 7}`,
        },
        {
            yaml: `value: 7.4`,
            json: `{"value":7.4}`,
        },
    } {
        var d dd
        fmt.Printf("Input:%+v\n", o)
        MustUnmarshalJSON([]byte(o.json), &d, false)
        fmt.Printf("JSON Unmarshal Default: %+v, type of value: %v\n", d, reflect.TypeOf(d.Value))
        MustUnmarshalJSON([]byte(o.json), &d, true)
        fmt.Printf("JSON Unmarshal UseNumber: %+v, type of value: %v\n", d, reflect.TypeOf(d.Value))

        MustUnmarshalYAML([]byte(o.yaml), &d, DefaultYaml)
        fmt.Printf("Default YAML Unmarshal %+v, type of value: %v\n", d, reflect.TypeOf(d.Value))

        MustUnmarshalYAML([]byte(o.yaml), &d, K8SYaml)
        fmt.Printf("K8SYAML Unmarshal %+v, type of value: %v\n", d, reflect.TypeOf(d.Value))

        MustUnmarshalYAML([]byte(o.yaml), &d, K8SYaml, useNumberOpt)
        fmt.Printf("K8SYAML Unmarshal With JSONOpt %+v, type of value: %v\n", d, reflect.TypeOf(d.Value))
    }
}
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,294评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,493评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,790评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,595评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,718评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,906评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,053评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,797评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,250评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,570评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,711评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,388评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,018评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,796评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,023评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,461评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,595评论 2 350