负载均衡器:Ribbon

什么是负载均衡

当一台服务器的性能达到极限时,我们可以使用服务器集群来提高网站的整体性能。那么,在服务器集群中,需要有一台服务器充当调度者的角色,用户的所有请求都会首先由它接收,调度者再根据每台服务器的负载情况将请求分配给某一台后端服务器去处理。
在这个过程中,调度者如何合理分配任务,保证所有后端服务器都将性能充分发挥,从而保持服务器集群的整体性能最优,这就是负载均衡要解决的问题。

Ribbon是什么

SpringCloud Ribbon是一个客户端负载均衡工具,它几乎存在于每一个springcloud构建的微服务和基础设施中。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。

客户端负载均衡

负载均衡在系统中是一个非常重要,并且不得不去实施的内容。因为负载均衡是对系统的高可用,网络压力的缓解和处理能力扩容的重要手段之一。关于负载均衡的知识可以参考这篇文章高性能网站实用技巧之负载均衡篇
我们在为服务架构中使用客户端负载均衡非常方便:

  • 服务提供者启动多个实例并注册到注册中心
  • 服务消费者直接通过调用被@LoadBalanced注解修饰过的RestTemplate来实现面向服务的接口调用

Load Balancer(LB)方案分类

目前主流的LB方案分为两类:

  • 集中式LB,即在服务的提供者和服务的消费者之间使用独立的LB设施(可以是硬件如F5,也可以是软件如nginx),由该设施负责把访问请求通过某种策略发至服务提供者。
  • 进程内LB:将LB逻辑集成到服务消费者,消费者从服务注册中心获知有哪些服务可用,然后再从这些服务中选择合适的服务器

Ribbon的核心组件

  • ServerList:用于获取地址列表,它可以是静态的(提供一组固定的地址),例如ConfigurationBasedServerList,它是通过设置静态的服务列表;也可以是动态的(从注册中心定期查询地址列表),例如DiscoveryEnabledNIWSServerList

  • ServerListFilter:仅当使用动态ServerList时,用于在原始的服务列表中使用一定的策略过滤掉一部分地址。Ribbon中有两种ServerListFilter的实现:(1)ZoneAffinityServerListFilter:过滤掉与客户端不在同一可用区中的服务,除非同一区中没有可用服务 ;(2)ServerListSubsetFilter:该过滤器确保客户端只能看见所有服务列表中的一个固定子集,它也可以周期性的用新服务替换掉子集中低可用的服务

  • Ping:确保服务可用性的组件

  • IRule:负载均衡策略

Ribbon提供的常用负载均衡策略

  • RandomRule:随机选择状态为up的server
  • RoundRobinRule:按照线性轮询的方式选择server
  • RetryRule:实现了一个具备重试机制的实例选择功能(当请求一个服务实例超时时会触发,可以设置超时时间以及重试次数)
  • WeightedResponseTime:根据响应时间分配一个weight,响应时间越长,weight越小,被选中的可能性越低
  • BestAvailableRule:遍历所有的服务实例,过滤掉故障的实例,找出并发请求数最少的一个,所有可以选出最空闲的实例
  • ZoneAvoidanceRule:复合判断server所在区域的性能和server的可用性选择server

负载均衡的单点问题

负载均衡服务器是整个集群所有请求的入口,当请求量过大的时候难免会出现单点问题,这也是集群模式天然的弊端。
要解决这个问题很简单,只要对配置几个Ribbon服务即可

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 224,896评论 6 522
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 96,283评论 3 402
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 172,085评论 0 367
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 61,010评论 1 300
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 70,015评论 6 400
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 53,492评论 1 314
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 41,858评论 3 428
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 40,829评论 0 279
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 47,374评论 1 324
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 39,409评论 3 346
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 41,527评论 1 355
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 37,131评论 5 351
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 42,858评论 3 339
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 33,296评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 34,434评论 1 276
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 50,087评论 3 381
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 46,597评论 2 366

推荐阅读更多精彩内容