分享一个CI/CD的自动部署想法

我是一个着迷于产品和运营的技术人,乐于跨界的终身学习者。欢迎关注我的个人公众号「跨界架构师」

每周五11:45 按时送达

我的第「221」篇原创敬上


大家好,我是Z哥。

最近工作中正好在设计一个方案,以支持 CD 环节的第一个部署节点可以完全自动部署,并且整个环节中尽量减少人为干预的节点。

之前也没有这块的实战经验,摸着石头过河,想了一个方案,在这里分享给大家,欢迎你一起讨论,相互学习。


我目前所在的公司 CI/CD 流程是这样的。

相信大多数公司的 CI/CD 流程和上图差别不大,基本上都是一个逐渐推进的直线节点。

在这个节点不断推进的过程中,数据库和配置的变更如何自动化,往往是面临的最大问题。


我这次要做的事就是在图中的 QA 环境之前增加一个 Alpha 环境,并且该环境的部署需要完全自动化进行。

那么自动部署过程中,我们有哪些原则可以被提炼出来,可以指导我们将这件事做成,并且往正确的方向持续进行呢?

我的理解是以下两点:

   ■ 在自动部署之前,尽可能提前检测出部署后会导致该程序的上下游甚至整个系统不可用的风险。比如,通过静态代码检测。

   ■ 部署之后,尽可能广地识别上下游以及整个系统的异常,及时回滚。比如,通过冒烟测试。

基于此原则,我构思的方案是这个样子:

在具体实施层面,觉得需要做以下几件事,优先级从高到低排列:

    1.配置和数据库变更文件的标准制定

    2.能够识别配置和数据库变更文件的新增

    3.能够将构建的镜像、变更文件打包到一起通知到运维与 DBA(条件允许的话,直接在系统层面打通)

    4.在部署 Alpha 环境前的可用性检测。

    5.每个程序提供健康检查接口,用于检测部署结果。

    6.自动化的冒烟测试。用于检测 Alpha 环境的可用性,并触发回滚。

要做的细节工作还不有不少,但是核心工作就这么多。我们再来展开一下其中的每一件事。

/01 配置和数据库变更文件的标准制定/

首先,自动化的前提是先标准化,为了实现自动化,我们需要先将标准确定好。针对变更文件的标准,我大致想了下是这个样子。

01 文件存放目录定义

方案1:分别在 gitlab 仓库里定义 infra_changes_conf 、 infra_changes_db 、deploy_dependencies 文件夹。

【建议】方案2:在 gitlab 仓库里定义infra_changes文件夹,其中统一存放配置和 DB 变更、依赖描述文件,用不同的前缀区分。

02 文件名的定义

文件名格式为:[conf/db/depend]_JiraID_自增序号。Jira ID 是Jira上的故事、任务、Bug 的 ID。示例:

conf_XXXProject-2564_1.yaml

conf_XXXProject-2564_2.yaml

db_XXXProject-2564_1.yaml

db_XXXProject-2564_2.yaml

depend_XXXProject-2564_1.yaml

depend_XXXProject-2564_2.yaml

文件名最后的自增序号一般用于两种场景:

   ■ 前一次构建并发布 Alpha 环境成功,但因功能需求,需要额外增加配置并发新版。

   ■ 配置或者 db 变更需要区分程序运行前还是运行后。

03 文件内容的格式

conf_ 文件内容格式为 YAML 格式,结构如下:

runtime:before|after  #程序运行前 or 运行后

store_type:config_map|apollo|nacos|... #配置的存储类型

service_name:xxxxxx  #服务名

remove_keys:

    -key1

    -key2.a.b  #多级key 以 Properties 格式定义

add_keys:

    -key1:value1

    key2.a.b:value2

update_keys:

    -key1:value1

    key2.a.b:value2

同样的,db_ 文件内容格式为 YAML 格式,它支持两种模式,结构分别如下:

runtime: before|after #程序运行前or运行后

db_type: mysql|mongodb|dynamodb|... #数据库的类型

ddls:

  - sql1

  - sql2

dmls:

  - sql1

  - sql2

depend_ 文件内容格式同样为 YAML 格式,结构如下

jira_ids:

  - XXXProject-2564

  - XXXProject-2564

相信你从文件格式中也能明白每一个属性的意义吧?


/02 识别配置和 DB 变更文件的新增/

聪明的你可能已经根据前面的《文件名的定义》部分内容猜到了,就是通过 Jira ID 来识别。具体操作方式是:

    1.研发将配置、DB变更文件与代码一起提交到Gitlab 仓库。

    2.如果检测到 Gitlab 的 commit 信息中带 Jira ID,那么会触发构建,并且将该镜像与 commit 中的 Jira ID 关联。

    3.然后根据 Jira ID 去找 infra_changes 目录中与该 Jira ID 相关的变更文件,将它们与镜像放到一起。

/03  将构建的镜像、变更文件打包到一起通知到运维与 DBA /

如果运维和DBA已经有相关的自动化操作系统的话,可以直接在系统层面进行打通。否则的话,直接发出一个飞书或者钉钉消息就好了。

/04  部署 Alpha 环境前的可用性检测/

这个目前能想到的好像只有静态代码扫描了。


/05  每个程序提供健康检查接口,用于检测部署结果/

健康检查的作用在于,在部署完之后,通过调用每个系统的健康检查接口来快速得到某个程序的自检结果。毕竟只靠冒烟测试的话,整个效率会比较低。

具体的检查项:

比如数据库连接是否正常,所依赖的外部系统是否已经就绪等等。

/06  自动化的冒烟测试/

这个大家应该都知道,就不展开了。


大体上就这么多。等后面实际运用起来之后应该还会有一些迭代变化,到时候如果我觉得值得分享的话,再来和大家分享。

好了,总结一下。

这篇呢,Z 哥和你分享了我在目前团队中正在做的一个与 CI/CD 相关的事情。

为了确保整个自动化过程的尽可能稳定,我们需要基于两个原则不断思考和打磨整个过程。他们分别是:

   ■ 在自动部署之前,尽可能提前检测出部署后会导致该程序的上下游甚至整个系统不可用的风险。比如,通过静态代码检测。

   ■ 部署之后,尽可能广的识别上下游以及整个系统的异常,及时回滚。比如,通过冒烟测试。


在具体的实践过程中,主要有以下六个步骤:

    1.配置和数据库变更文件的标准制定

    2.能够识别配置和数据库变更文件的新增

    3.能够将构建的镜像、变更文件打包到一起通知到运维与 DBA(条件允许的话,直接在系统层面打通)

    4.在部署 Alpha 环境前的可用性检测。

    5.每个程序提供健康检查接口,用于检测部署结果。

    6.自动化的冒烟测试。用于检测 Alpha 环境的可用性,并触发回滚。

希望对你有所启发。

如果你有什么关于CI/CD的好想法,欢迎和我交流哈~


推荐阅读:

   ■ goroutine配上panic会怎样?

   ■ 2021,我的巨变之年


如果你喜欢这篇文章,可以点一下右下角的「爱心」,支持我的创作~

定期发表原创内容:架构设计丨分布式系统丨产品丨运营丨一些深度思考。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,063评论 6 510
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,805评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,403评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,110评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,130评论 6 395
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,877评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,533评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,429评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,947评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,078评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,204评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,894评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,546评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,086评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,195评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,519评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,198评论 2 357

推荐阅读更多精彩内容