通过项目学习Go语言之gatekeeper项目介绍

目前,go语言已然成为各大厂的标配开发语言,各大厂都在使用go语言构建一些重要的支撑系统。当今最流行的容器Docker及容器编排和管理工具k8s都是使用go来构建的,并且是开源的,这给go开发者提供了很好的学习资料。但是,这些项目对初学者来说过于复杂,很难通读其源码。国内大厂也开源了一些go开发的项目,比如baidu的应用负载均衡产品bfe、bilibili开源的go微服务框架kratos、didi最近开源的gatekeeper都是开发者值得学习的好项目。

接下来,通过didi开源的gatekeeper为例,来深入学习go语言。为什么选择gatekeeper为例来学习go语言呢?

  • 微服务已经成为各个公司构建系统首先倡导的架构风格,对于微服务架构来说一个很重要的组件就是网关,gatekeeper就是一个这样的项目
  • go语言以其简单和高性能,部署快捷简单著称,很多公司都是用go开发前端接口服务,getekeeper使用了最著名的一个http web开发框架gin
  • gatekeeper既包含了接口服务也包括了管理后台,使用了mysql也使用了redis
    鉴于以上原因,笔者选中了它来作为需要使用go语言开发生产级项目的剖析原型。

在此也非常感谢didi的gatekeeper团队开源出来这么优秀的产品。

项目介绍

GateKeeper 是一个使用 Go (golang) 编写的不依赖分布式数据库的 API 网关, 使用它可以高效进行服务代理 以及 在线化服务配置并且你无需重启服务器。具备以下特性:

  • http、websocket、tcp服务代理
  • 服务探测
  • 加权负载轮询
  • URL地址重写
  • 服务限流:支持独立IP限流
  • 高拓展性:支持自定义 请求前验证request方法、请求后更改response方法、tcp中间件、http中间件 等。
  • 高可用性:单个服务异常不影响其他服务。
  • 最少依赖:无需任何额外组件即可运行,mysql、redis 只做管理和统计使用可随时关闭。
    通过官方的介绍,我们可以看到getekeeper具备了网关的几乎全部功能。其中最重要的特性就是支持http的代理,还支持websocket和tcp,同时也支持插件。gatekeeper处理http代理时,直接是使用了go内置的代理组件ReverseProxy。

运行

getakeeper官方给了很详细的运行说明,我们看一下其部署的步骤:

  1. 下载github上的源代码到本地
git clone git@github.com:didichuxing/gatekeeper.git
  1. 设置运行环境,gatekeeper是通过go mod来管理构建项目的,需要按照如下步骤开启go mod模式
export GO111MODULE=on
export GOPROXY=https://goproxy.cn

3.getekeeper为我们提供了管理后台,用于配置管理的api和租户,查看调用统计,需要我们设置mysql和redis
创建数据库

mysql -h localhost -u root -p -e "CREATE DATABASE gatekeeper DEFAULT CHARACTER SET utf8 COLLATE utf8_general_ci;"
mysql -h localhost -u root -p gatekeeper < install/db.sql --default-character-set=utf8

创建数据库导入表后,我们看到创建了如下表:


数据库表

redis为了方便将通过docker启动

docker run -p 6379:6379 -d redis:latest redis-server
6fce8bf5cc2faa0ca462939161960dcdf137a07f1fd587d93da51dc2b5f3a8cb
docker ps
CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS              PORTS                    NAMES
6fce8bf5cc2f        redis:latest        "docker-entrypoint.s…"   4 seconds ago       Up 3 seconds        0.0.0.0:6379->6379/tcp   brave_shtern

4.调整配置文件,修改 ./conf/dev/mysql.toml 和 ./conf/dev/redis.toml 为自己的环境配置

# this is mysql config  将数据库的用户名和密码 数据库ip和端口修改成实际的环境配置即可
[list]
    [list.default]
        driver_name = "mysql"
        data_source_name = "root:123456@tcp(127.0.0.1:3306)/gatekeeper?charset=utf8&parseTime=true&loc=Asia%2FChongqing"
        max_open_conn = 20
        max_idle_conn = 10
        max_conn_life_time = 100
# this is redis config file  将redis地址和端口修改为实际环境配置
[list]
    [list.default]
        proxy_list = ["127.0.0.1:6379"]
        conn_timeout = 50 #ms
        read_timeout = 100
        write_timeout = 100

5.运行

go run main.go 

2019/12/12 21:12:16 ------------------------------------------------------------------------
2019/12/12 21:12:16 [INFO]  config=./conf/dev/
2019/12/12 21:12:16 [INFO]  start loading resources.
2019/12/12 21:12:16 [INFO]  success loading resources.
2019/12/12 21:12:16 ------------------------------------------------------------------------
[GIN-debug] [WARNING] Running in "debug" mode. Switch to "release" mode in production.
 - using env:   export GIN_MODE=release
 - using code:  gin.SetMode(gin.ReleaseMode)
....省略路由映射日志
2019/12/12 21:12:16  [INFO] HttpServer :8081 listening
2019/12/12 21:12:16  [INFO] TCPServer :8900 listening

访问:http://127.0.0.1:8081/admin/login,打开页面登陆:admin / 123456

管理页面

6.配置一个http api
添加api

访问http://127.0.0.1:8081/gatekeeper/pvst/stat/ping

返回正确结果

至此,api网关已经正常运行起来了。

组件分析

在上文中我们也提到getekeeper的http部分是基于优秀的框架gin构建的,由gin来处理全部的http请求。

//HTTPServerRun 服务启动
func HTTPServerRun() {
    gin.SetMode(lib.ConfBase.DebugMode)
//初始化engine
    r := InitRouter()
    HTTPSrvHandler = &http.Server{
        Addr:           lib.GetStringConf("base.http.addr"),
        Handler:        r,
        ReadTimeout:    time.Duration(lib.GetIntConf("base.http.read_timeout")) * time.Second,
        WriteTimeout:   time.Duration(lib.GetIntConf("base.http.write_timeout")) * time.Second,
        MaxHeaderBytes: 1 << uint(lib.GetIntConf("base.http.max_header_bytes")),
    }
    go func() {
        defer func() {
            if err := recover(); err != nil {
                public.SysLogger.Error("HttpServerRun_recover:%v", err)
            }
        }()
        log.Printf(" [INFO] HttpServer %s listening\n",lib.GetStringConf("base.http.addr"))
        if err := HTTPSrvHandler.ListenAndServe(); err != nil && err != http.ErrServerClosed {
            log.Fatalf(" [ERROR] HttpServer %s err:%v\n", lib.GetStringConf("base.http.addr"), err)
        }
    }()
}

通过r := InitRouter(),对gin Engine进行初始化,以接管来自外部的全部http请求,接下来我们看看 InitRouter()做了哪些事。

//InitRouter 声明http路由
func InitRouter() *gin.Engine {
    router := gin.New()
    router.Use(middleware.Recovery())

    //admin
    admin := router.Group("/admin")
    admin.Use(middleware.RequestTraceLog())
    {
        controller.AdminRegister(admin)
    }

    //assets
    router.Static("/assets", "./tmpl/green/assets")

    //gateway
    gateway := controller.Gateway{}
    router.GET("/ping", gateway.Ping)

    //cluster
    csr:=router.Group("/")
    csr.Use(middleware.ClusterAuth())
    csr.GET("/reload", gateway.Reload)
//注册网关路由
    gw:=router.Group(lib.GetStringConf("base.http.route_prefix"))
    gw.Use(
        middleware.RequestTraceLog(),
        middleware.MatchRule(),
        middleware.AccessControl(),
        middleware.HTTPLimit(),
        //todo 拓展中间件
        middleware.LoadBalance())
    {
        gw.GET("/*action", gateway.Index)
        gw.POST("/*action", gateway.Index)
        gw.DELETE("/*action", gateway.Index)
        gw.OPTIONS("/*action", gateway.Index)
    }
    return router
}

通过gw:=router.Group(lib.GetStringConf("base.http.route_prefix"))注册了请求URI以/gatekeeper开头的全部请求会进入gw路由组的处理逻辑,即经过注册的一系列的插件转发到实际的realserver进行请求的处理和响应。

在请求代理处理部分,getekeeper直接使用了go内置的代理组件ReverseProxy来处理请求的转发代理:proxy.ServeHTTP(c.Writer, c.Request)。

//LoadBalance 负载均衡中间件
func LoadBalance() gin.HandlerFunc {
    return func(c *gin.Context) {
        gws,ok:=c.MustGet(MiddlewareServiceKey).(*service.GateWayService)
        if !ok{
            public.ResponseError(c, http.StatusBadRequest, errors.New("gateway_service not valid"))
            return
        }
        proxy, err := gws.LoadBalance()
        if err != nil {
            public.ResponseError(c, http.StatusProxyAuthRequired, err)
            return
        }
        requestBody,ok:=c.MustGet(MiddlewareRequestBodyKey).([]byte)
        if !ok{
            public.ResponseError(c, http.StatusBadRequest, errors.New("request_body not valid"))
            return
        }
        c.Request.Body = ioutil.NopCloser(bytes.NewBuffer(requestBody))
        proxy.ServeHTTP(c.Writer, c.Request)
        c.Abort()
    }
}

go语言net包为我们提供了丰富的关于http的处理工具,其中http代理就是其提供的一个强大的正向代理和反向代理的工具,在这里我们就对其进行展开分析了。

本节完。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,293评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,604评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,958评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,729评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,719评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,630评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,000评论 3 397
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,665评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,909评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,646评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,726评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,400评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,986评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,959评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,996评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,481评论 2 342

推荐阅读更多精彩内容