架构修炼之道(一)

api网关

      网关在后端架构中之api gateway,接口调用经过的网关。大家在微服务的开发环境下,对网关并不陌生,如是复杂一点的微服务架构基本都会有网关层。springcloud体系中用的可能是zuul、gateway等
      我们从软件的体系发展来看,网关也是随着微服务兴起的,传统单体应用只有一个应用直接访问,由于单体应用顶不住现在的数据流量,产生的微服务、分布式等,后台服务从单体应用剧增,为了安全以及流量的管控等,服务需要一个统一的入口和出口,网关因此而生。


image.png

      很明显,网关作为后台服务的一个入口和出口;决定了他需要保证高性能高可用;以及进行流量的管控;容错、降级等安全防护。

api生命周期

      从swagger等工具中可以总结到api应该有哪几种状态
      设计-构建-文档-测试-分享-运行-下线

泛化调用

      泛化调用对我来说第一次听到,确实在复杂、大流量的架构下才会产生这种概念,简单来说就是网关中是所有服务的入口,会调用很多rpc,rpc调用需要依赖api的jar包,如果每个服务提供者都依赖它的jar包,那网关就会变得很臃肿。
      泛化调用很多rpc框架都有,如dubbo的GenericService,原理和依赖api调用是一样的,都是通过序列化,网络,反射等技术实现,不过泛化不需要api了,不需要pojo,全部用map来表示,简化了众多服务下的网关结构,网关只需要依赖一个rpc泛化调用服务。


image.png

image.png

api发布至网关

      依据以上所述,网关和rpc服务是有所依赖的,泛化之后,没有了依赖,网关依赖了一个rpc泛化服务,因此这个服务作为了网关的api调用口,也是rpc api发布的平台,这里api发布上来后一般通过缓存存储


image.png

管道技术

夜深,明日更。。。


继续
      网关中是没有业务的,不过很很多种校验,结合这种处理,我们利用管道技术会非常优雅(上面图再截一遍发现模糊,于是以下用原图,需要旋转一下)
      可以看到如下图,管道技术首先是一种解耦,把每种校验(处理)拆开,而且可插拔可配置很方便;管道的实现如图下方,用pipe接口处理检验逻辑,线程类包装pipe,再交给线程池处理。


image.png

如何获取管道

      每个api都有管道,因此在以上的api平台入口可以在发布时配置管道,之后通过接口即可获取到管道;管道中处理根据管道的顺序向下传递

优点

      管道解耦也在于可以随时去掉某些管道,如黑白名单,开始需要后面可以撤掉等。

与责任链

      管道与责任链很容易联想起来,非常相似;责任链的处理是每个处理中存有变量nextHandler和方法handlerRequest();管道技术会更加灵活自由,责任链比较限制,而且实际的实现看起来会更复杂。

传统网关弊端

      网关演进的阶段为:同步、半同步、全异步

传统

      这里的传统指的是同步、半同步的网关;同步即从接受请求到调用api都是同步,半同步是io请求和业务请求分开,业务处理内部还是同步调用api;
      网关的特点已经知道,承受流量大、rpc调用多、各种系统、接口调用;外部复杂度到了服务器内部,我们就需要关注计算机每个部件、负载以及网络等。

关注点

  • cpu cpu是最宝贵的资源;关注cpu利用率和负载,利用率是实时占用百分比,负载是最近平均任务数。都需要关注
  • 磁盘 网关调用量大,实时关注磁盘使用率,例如日志系统;进入容器时代,更需关注
  • 网络 关注每个环节的耗时,尤其rpc调用跨进程跨网络

servlet3异步

      异步化处理,网关请求量超大,io线程和业务处理线程需要分开,不能一个请求进来一个线程处理到结束。servlet3开启异步支持,asyncSupported=true,注解或者xml。

tomcat nio/servlet3 async/spring mvc

  • nio是一个io模型,和异步没有关系,是一种通信模式,可以用少量线程处理大量请求
  • servlet3异步是请求接收和业务处理的异步化,如此可以业务隔离。
  • spirngmvc是基于servlet3封装的

servlet3非阻塞io

数据量大的接收参数时可以异步化


image.png

整体流程


image.png

全异步网关

rpc调用异步化


image.png

脱库与多缓存

脱库

      不建议使用数据库,直接使用缓存,缓存也要考虑高可用。

多级缓存

image.png

热更新

      热更新其实很多地方都需要,网关层需要管理的东西多,配置更新等;二流量大不适合重启,因此需要热更新支持
      热更新可以用mq/rpc/zk....方法很多。

网关功能总结

  • 降级
  • 限流
  • 熔断
  • 线程池隔离
  • 管道技术
  • 热更新
  • 异步
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,100评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,308评论 3 388
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,718评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,275评论 1 287
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,376评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,454评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,464评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,248评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,686评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,974评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,150评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,817评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,484评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,140评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,374评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,012评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,041评论 2 351