集群容错和负载均衡
- Cluster封装了集群的容错机制failover、failfast、failsafe、failback以及forking。
- Directory管理集群中服务的List,根据注册中心动态注册而变化List。Cluster通过获取Directory,将List<Invoker>伪装成一个Invoker抽象,这一过程对于调用者透明。
- Router负责按规则从多个Invoker中选出子集。通过Router实现应用隔离、读写分离,即使部分服务挂掉也不会影响其它应用。
- LoadBalance负责从步骤3中获取的子集中选出具体要求执行invoke的具体Invoker。选的过程中包含了负载均衡算法。
容错机制分类
- Failover Cluster
失败自动切换,当出现失败,重试其它服务器 [1]。通常用于读操作,但重试会带来更长延迟。可通过 retries="2"
来设置重试次数(不含第一次)。
重试次数配置如下:
<dubbo:service retries="2" />
或
<dubbo:reference retries="2" />
或
<dubbo:reference>
<dubbo:method name="findFoo" retries="2" />
</dubbo:reference>
- Failfast Cluster
快速失败,只发起一次调用,失败立即报错。通常用于非幂等性的写操作,比如新增记录。
- Failsafe Cluster
失败安全,出现异常时,直接忽略。通常用于写入审计日志等操作。
- Failback Cluster
失败自动恢复,后台记录失败请求,定时重发。通常用于消息通知操作。
- Forking Cluster
并行调用多个服务器,只要一个成功即返回。通常用于实时性要求较高的读操作,但需要浪费更多服务资源。可通过 forks="2"
来设置最大并行数。
- Broadcast Cluster
广播调用所有提供者,逐个调用,任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。
如何配置
按照以下示例在服务提供方和消费方配置集群模式
<dubbo:service cluster="failsafe" />
或
<dubbo:reference cluster="failsafe" />
负载均衡算法
-
Random LoadBalance
- 随机,按权重设置随机概率。
- 在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。
-
RoundRobin LoadBalance
- 轮询,按公约后的权重设置轮询比率。
- 存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。
-
LeastActive LoadBalance
- 最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差。
- 使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。
-
ConsistentHash LoadBalance
- 一致性 Hash**,相同参数的请求总是发到同一提供者。
- 当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。
- 算法参见:http://en.wikipedia.org/wiki/Consistent_hashing
- 缺省只对第一个参数 Hash,如果要修改,请配置
<dubbo:parameter key="hash.arguments" value="0,1" />
- 缺省用 160 份虚拟节点,如果要修改,请配置
<dubbo:parameter key="hash.nodes" value="320" />
如何配置
- 服务端服务级别
<dubbo:service interface="..." loadbalance="roundrobin" />
- 客户端服务级别
<dubbo:reference interface="..." loadbalance="roundrobin" />
- 服务端方法级别
<dubbo:service interface="...">
<dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:service>
- 客户端方法级别
<dubbo:reference interface="...">
<dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:reference>
只订阅
在实际生产开发中会出现这样的情况:大部分开发人员希望有一个提供所有稳定服务的注册中心,但又存在一些新的服务或者变更的服务需要开发联调,对于这部分服务可以通过过直连提供者(点对点直连)。对于正在开发的服务可以只用只订阅模式,只订阅服务,而不注册正在开发的服务。
直连提供者
配置优先级 JVM > 文件映射 > XML配置
- XML配置
<dubbo:reference id="xxxService" interface="com.alibaba.xxx.XxxService" url="dubbo://localhost:20890" />
- 通过-D参数指定
// 在 JVM 启动参数中加入-D参数映射服务地址 [2],如:
java -Dcom.alibaba.xxx.XxxService=dubbo://localhost:20890
- 通过文件映射
如果服务比较多,也可以用文件映射,用 -Ddubbo.resolve.file
指定映射文件路径,此配置优先级高于 <dubbo:reference>
中的配置 [3],如:
java -Ddubbo.resolve.file=xxx.properties
然后在映射文件 xxx.properties
中加入配置,其中 key 为服务名,value 为服务提供者 URL:
com.alibaba.xxx.XxxService=dubbo://localhost:20880
只注册
假设存在两个镜像环境,两个注册中心,有一个服务只在一个注册中心A完成部署,在另一个注册中心B尚未完成部署,且A、B的其它应用都需要依赖此服务。这个时候可以让服务提供者只在B注册,但是不从B做服务订阅。
<!-- 禁用服务订阅way1 -->
<dubbo:registry id="aRegistry" address="10.20.153.10:9090" />
<dubbo:registry id="bRegistry" address="10.20.141.150:9090" subscribe="false" />
<!-- 禁用服务订阅way2 -->
<dubbo:registry id="aRegistry" address="10.20.153.10:9090" />
<dubbo:registry id="bRegistry" address="10.20.141.150:9090?subscribe=false" />