Ribbon-负载均衡

我们的服务都需要部署多实例的,然后实现负载均衡

负载均衡的两种方式

  • 服务器端的负载均衡
  • 客户端侧负载均衡

服务器端负载均衡
在单体架构时代,我们为一个应用部署多个实例,然后用nginx做反向代理。当有请求过来的时候,先通过nginx,nginx在通过负载均衡算法,计算一下转发到哪个实例,然后进行转发。由于负载均衡算法是由nginx提供的,而nginx又是部署在服务器端的,所以这种方式又被称为服务器端负载均衡

服务器端负载均衡

客户端侧负载均衡
我们之前的例子是用户中心提供服务,内容中心去调用。当我们将用户中心部署多实例的时候,内容中心就可以通过DiscoveryClient获取到所有的用户中心实例了。如果我们自己在内容中心写一个负载均衡的规则,计算一下请求哪一个实例,然后交给RestTemplate去请求,这样也可以实现负载均衡。这样对于用户中心来说,内容中心就是客户端,负载均衡算法是由客户端提供的,那这样实现的负载均衡就是客户端侧负载均衡

客户端侧负载均衡

手动实现一个客户端侧负载均衡

根据上面的图形案例,手动实现一个客户端侧负载均衡

        // 获取所有用户中心实例的请求地址
        List<ServiceInstance> instances = discoveryClient.getInstances("user-center");
        // 处理每个实例的uri
        List<String> uris = instances.stream()
                .map(instance -> instance.getUri().toString()+"/users?id={id}")
                .collect(Collectors.toList());
        //使用随机算法,获取一个下标,根据下边找到一个uri
        int index = ThreadLocalRandom.current().nextInt(uris.size());
        String uri = uris.get(index);

        log.info("请求user服务的地址:"+uri);
        // 使用RestTemplate发送请求
        UserDTO userDTO = this.restTemplate.getForObject(
                uri,
                UserDTO.class,
                userId
        );

使用Ribbon实现负载均衡

1. 整合Ribbon

第一步:添加依赖:

依赖已经添加过了,因为我们已经添加过了nacos依赖,在nacos依赖中存在Ribbon的依赖

第二步:添加注解

注解添加到RestTemplate上面。如下图:

image.png
第三步:添加配置

这个不需要配置

这样就将Ribbon整合好了。

使用的时候将RestTemplate的请求地址改为http://user-center/users/?id={userId}代码片段如下图:

image.png

2. Ribbon组成

image.png

3. Ribbon内置的负载均衡规则

image.png

默认使用的是ZoneAvoidanceRule规则

如果我们想要更改Ribbon的负载均衡规则,我们只需要写一个配置类就可以了。具体代码如下:

package com.chuxin.contentcenter.config;

import com.netflix.loadbalancer.*;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

/**
 * @FileName: RibbonConfig
 * @Description: Ribbon的配置
 * @author: <a href="mailto: muyuanpei@163.com">myp</a>
 * @create: 2019-08-13 15:23
 * @Copyright: (c) 初心科技有限公司(待创)
 */
@Configuration
public class RibbonConfig {

    @Bean
    public IRule ribbonRule() {
        // 负载均衡规则,改为随机
        return new RandomRule();

        // 选择一个最小并发请求的server,逐个考察server,如果server被tripped了,则跳过
//        return new BestAvailableRule();

        //轮训选择,轮询index,选择index对应位置的server
//        return new RoundRobinRule();

        //根据响应时间加权,响应时间越长,权重越小,被选中的可能性越低
//        return new WeightedResponseTimeRule();
    }
}

上面我们只是修改了一下Ribbon的负载均衡的策略。我们还可以根据Ribbon组成的那个列表中修改其他的配置,方法都是类似的哦!


4. 细粒度配置自定义

Ribbon支持非常灵活的配置,支持细粒度的配置。实际项目中就是配置他的负载均衡规则,我们上面实现的是细粒度比较低的配置,下面举例说明细粒度高的配置以及实现

例子:如果有三个微服务,微服务A、微服务B、微服务C。当A调用B和C的时候,默认的ZoneAvoidanceRule规则满足不了我们的需求时,我们就可以修改配置。修改为A调用B的时候使用随机的原则,A调用C的时候使用轮询的规则

4.1 使用代码方式配置

首先在启动类所在包的平级下创建一个包,然后在包下面创建一个专门为一个微服务服务的配置类,在配置类上面添加@Configuration注解,在类里面注入使用的规则,然后在启动类可以扫描到的包下面创建一个对应的RibbonClient的配置,详情如下:

image.png

配置类UserCenterRibbonConfig.java内容如下:

package com.chuxin.ribbonconfig;

import com.netflix.loadbalancer.*;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

/**
 * @FileName: RibbonConfig
 * @Description: Ribbon的配置
 * @author: <a href="mailto: muyuanpei@camelotchina.com">myp</a>
 * @create: 2019-08-13 15:23
 * @Copyright: (c) 初心科技有限公司(待创)
 */
@Configuration
public class UserCenterRibbonConfig {

    @Bean
    public IRule ribbonRule() {
        // 负载均衡规则,改为随机
        return new RandomRule();

        //默认使用规则
//        return new ZoneAvoidanceRule();

        // 选择一个最小并发请求的server,逐个考察server,如果server被tripped了,则跳过
//        return new BestAvailableRule();

        //轮训选择,轮询index,选择index对应位置的server
//        return new RoundRobinRule();

        //根据响应时间加权,响应时间越长,权重越小,被选中的可能性越低
//        return new WeightedResponseTimeRule();
    }

    @Bean
    public IPing ribbonPing() {
        //默认的简单实现,标记服务器的活跃性
        return new DummyPing();

//        return new PingUrl();

        //
//        return new NoOpPing();
//        return new PingConstant();
    }
}

配置类UserRibbonConfig.java内容如下:

package com.chuxin.contentcenter.config;

import com.chuxin.ribbonconfig.UserCenterRibbonConfig;
import org.springframework.cloud.netflix.ribbon.RibbonClient;
import org.springframework.context.annotation.Configuration;

/**
 * @FileName: UserRibbonConfig
 * @Description: user类的Ribbon自定义配置
 * @author: <a href="mailto: muyuanpei@camelotchina.com">myp</a>
 * @create: 2019-08-15 11:13
 */
@Configuration
//表示这个配置类是为用户中心服务的
@RibbonClient(name = "user-center", configuration = UserCenterRibbonConfig.class)
public class UserRibbonConfig {

}

解释一下为什么非要创建一个和启动类所在包平级的目录下创建包来放Ribbon的配置类,就是因为Spring上下文的问题导致的。具体解析如下:

Spring上下文可以参考另一篇文章【Spring父子上下文解析】

Ribbon的父子上下文重叠会导致什么问题,我们可以参考【官方文档】,内容如下图:

官网提供父子上下文重叠导致的问题

大概意思:Ribbon的配置类一定要有@Configuration注解,但是不能被@ComponentScan注解重复扫描,否则就会被所有的RibbonClient共享。

因为我们上面提到的是细粒度的配置,我们要实现的也是细粒度的配置,如果我们将Ribbon的配置类放在@ComponentScan注解能扫描到的位置,那么我们的微服务A不管是掉微服务B还是微服务C用的都会是同一个规则,也就变成了一个全局的配置

4.2 使用配置文件方式配置

直接在配置文件中,添加如下代码就可以啦

#服务名称
user-center:
  ribbon:
    #随机
#    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
    #默认
#    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.ZoneAvoidanceRule
    #轮询
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule

这样就配置好了,使用哪种规则,直接将全路径配置在这里就ok了。

4.3 两种方式的比较

image.png

正常情况下使用属性配置方式就可以了。(SpringBoot支持读取外部配置,就是将jar包和application.yml放在同一个目录下即可。他的优先级要比jar包里面的配置文件优先级高)

4.4 细粒度配置-最佳实践

  • 尽量使用属性配置,属性方式实现不了的在考虑用代码配置
  • 在同一微服务内 尽量保证单一性 ,比如同一使用属性配置,不要两种方式混用,增加定位代码的复杂性

5. 全局配置

全局配置和上面细粒度配置的相似。之前说过,Ribbon的那个配置类如果放在启动类可以扫描到的包下面,那么就是全局的配置。但是会存在父子上下文重复问题,严重会导致项目启动失败。所以不建议使用。
使用@RibbonClients(defaultConfiguration = xxx.class)
我们还是使用代码配置的方式,只需要改一下启动类能扫描到的那个类就可以,我们改一下,代码如下:

@Configuration
//表示这个配置类是为用户中心服务的
@RibbonClients(defaultConfiguration = UserCenterRibbonConfig.class)
public class UserRibbonConfig {

}

这样就可以实现全局的配置了

6. 支持的配置项

文章的第二点就是Ribbon的组成,表格里面所有项,都是Ribbon支持的配置项。
举例:配置IPing
Java代码方式:就是在UserCenterRibbonConfig .java类里面加上一个bean注入的就可以了,代码如下:

    @Bean
    public IPing ribbonPing() {
        //默认的简单实现,标记服务器的活跃性
        return new DummyPing();

//        return new PingUrl();

        //
//        return new NoOpPing();
//        return new PingConstant();
    }

属性方式:就是按照模板填写响应的配置就可以了

user-center:
  ribbon:
    NFLoadBalancerPingClassName: com.netflix.loadbalancer.PingUrl

模板如图:


image.png

7. 饥饿加载

默认情况下Ribbon是懒加载的,所以导致我们通过内容中心调用用户中心的第一次请求响应特别慢。我们可以将其配置为饥饿加载,从而解决这个问题。只需要在配置类里面添加两个配置就ok
配置如下:

# 配置饥饿加载
ribbon:
  eager-load:
    # true 为打开状态
    enabled: true
    # 细粒度指定哪些具体的服务,多个使用英文逗号分隔
    clients: user-center,xxxx,xxxx
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,701评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,649评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,037评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,994评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,018评论 6 395
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,796评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,481评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,370评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,868评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,014评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,153评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,832评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,494评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,039评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,156评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,437评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,131评论 2 356

推荐阅读更多精彩内容