spring cloud微服务架构(二):雪崩效应与Hystrix基本原理

1 雪崩效应

简单是来说,在分布式系统中,假如有一个请求需要调用A服务,但A服务出现了问题,则这个请求就会阻塞,那么只要调用服务A的请求都会阻塞,当阻塞的请求越来越多,占用的计算机资源就越来越多。进一步来说,就是一个服务出现问题,可能导致所有的请求都不可用,从而导致整个分布式系统都不可用,这就是“雪崩效应”。

image.png

如果要是考虑服务与服务之间的依赖关系,则连带作用更强,系统崩坏的速度更快!

举例来说:火车购票系统提供两种服务,查票服务和订票服务

  1. 如果不考虑两个服务之间的依赖关系:查票服务出现问题,则查票的请求全部阻塞,占用大量的系统资源,久而久之,导致整个系统无法响应请求
  2. 如果考虑依赖关系:订票服务依赖查票服务,查票服务出现问题,不仅仅查票的请求会全部阻塞,订票的服务也会阻塞,整个系统迅速崩坏!

2 Hystrix如何去解决雪崩

2.1 隔离技术

例如,货船为了进行防止漏水和火灾的扩散,会将货仓分隔为多个,如下图所示:

image.png
  • 线程池隔离

例如,淘宝的一个商品页面至少包含三方面信息,商品基本信息、商品价格、买家评论。一个商品页面的请求依赖于三个服务,基本信息服务A、价格服务B、评论服务C。因为是一个请求(线程)调用三个服务,调用顺序为:A->B->C,如果其中A服务出现问题,则另外两个服务都无法调用;如果B服务出现问题,则C服务无法调用。【横向调用】

image.png

线程隔离主要解决的问题就是,A、B、C服务之间无调用顺序的限制,不论哪个服务出现问题,都不会影响其他服务的调用。但是前提是A、B、C服务之间相互独立。基本原理是,为每个服务维护一个线程池,用户的请求将不再直接访问服务,而是通过线程池中的空闲线程来访问服务。【纵向调用】

image.png
  • 信号量隔离

该隔离技术,是限制某个服务的并发数量,对服务的并发数量设置一个阈值,超过该阈值则服务暂停接受新的请求。

2.2 熔断机制

如果某个目标服务调用慢或者有大量超时,如5秒内20次调用失败,此时,熔断该服务的调用,对于后续调用请求,不在继续调用目标服务,直接返回,快速释放资源。如果目标服务情况好转则恢复调用。熔断机制在Hystrix中,位于隔离技术之前。

1、判断是否进行熔断的依据是:计算错误率,当错误率超过预设的值(默认是50%)且10秒内超过20个请求,则开启熔断。
2、 对于被熔断的请求,并不是永久被切断,而是被暂停一段时间之后,允许部分请求通过,若请求都是健康的,则对请求健康恢复(取消熔断),如果不是健康的,则继续熔断。

2.3 总执行流程

image.png
  1. 首先判断是否有缓存,如果有则直接返回结果
  2. 无缓存,则判断断路器是否打开,如果打开则执行回退方法,返回结果
  3. 熔断器未打开,则判断线程池/信号量是否到底阈值,如果到达阈值,则执行回退方法,返回结果
  4. 若未达到阈值,则执行命令,如果成功返回结果;失败返回回退方法的执行结果

参考:
[1] Hystrix GitHub官网:https://github.com/Netflix/Hystrix/wiki
[2] 杨恩雄-2017《疯狂Spring Cloud微服务架构实战》

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,547评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,399评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,428评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,599评论 1 274
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,612评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,577评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,941评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,603评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,852评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,605评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,693评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,375评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,955评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,936评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,172评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,970评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,414评论 2 342

推荐阅读更多精彩内容

  • (git上的源码:https://gitee.com/rain7564/spring_microservices_...
    sprainkle阅读 9,326评论 13 33
  • 原文:https://my.oschina.net/7001/blog/1619842 摘要: Hystrix是N...
    laosijikaichele阅读 4,296评论 0 25
  • 流程图 下图展示了当你使用 Hystrix 来包装你请求依赖服务时的流程: 接下来将详细介绍如下问题: 1.构建H...
    KingsChan阅读 5,964评论 0 21
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,587评论 18 139
  • assert 是C里面的宏。用于断言。 NSAssert 类似于NSLog(),方便易用。但她只能在Objecti...
    _Lily阅读 2,565评论 1 2