什么是断路器和服务的熔断?
Sentinel 是微服务中的断路器,其作用为当某个服务因为压力过大或者宕机而变慢或者失效时,该服务的调用者会切断与该服务的链接,从而保护系统的可用性,这种策略叫做服务的熔断。
如果没有熔断会发生什么?
假如我们的系统中有A、B、C、D、E五个服务,其调用关系如图所示,B调A,D、C调B,E调C。
如果没有熔断机制,当A服务因为某种因素发生了故障而导致该服务不可用,这时B服务调用A服务时,因为A服务的故障而导致访问B服务时,请求大量积压,从而拖慢B的速度,直至B的线程资源被耗尽,这时B服务也变的不可用,这种情况会在微服务系统中蔓延,拖垮整个系统,从而导致微服务的雪崩。
Sentinel是什么?
Sentine以流量为切入点,从流量控制,熔断降级,系统负载保护等多个维度保护服务的稳定性。
Sentinel分为两个部分:
- 核心库(Java 客户端)不依赖任何框架/库,能够运行于所有 Java 运行时环境,同时对 Dubbo / Spring Cloud 等框架也有较好的支持。
- 控制台(Dashboard)基于 Spring Boot 开发,打包后可以直接运行,不需要额外的 Tomcat 等应用容器。
Spring Cloud集成Sentinel Dashboard
- 添加依赖。
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
- 添加配置。
spring:
cloud:
# 指定sentinel dashboard控制台的链接地址
# sentinel dashboard默认的端口号为8080
sentinel:
transport:
dashboard: localhost:8080
-
下载sentinel dashboard管理端jar包。
此处下载 sentinel dashboard的jar包 - 启动刚刚下载好的jar包,就可以看到sentinel的控制台了,控制台默认的账号和密码都为
sentinel
。
sentinel控制台
sentinel限流
点击下图所示控制台按钮,可以添加流控规则。
下图为新增流控规则页面。
资源名:默认为操作节点的名称或url。
针对来源:可以指定具体某个微服务掉用该节点时进行限流,默认为default
,表示对所有来源进行限流。
阈值类型:QPS
为每秒的请求次数,并发线程
为该节点所使用的线程数。
流控模式:有三个,分别为直连、关联和链路。
直连:当接口达到限流条件时,进行限流。
关联:指定一个关联的接口,当关联的接口达到限流条件时进行限流。
链路:当从某个接口过来的资源达到限流条件时,开启限流。
流控效果:定义发生流控时的行为。
快速失败:当发生限流时,再接受到的请求直接返回失败信息。
Warm Up:冷启动,当微服务在同一时间收到大量请求时,不会直接让微服务达到最大阈值,而是有一个初始最大阈值,然后在指定时间内将初始最大阈值提升至最大阈值。初始最大阈值计算方法:总阈值 / coldFactor
,coldFactoy
的模式值为3,可以在配置文件中更改
排队模式: 超过阈值后,之后在每隔一段时间后(可以指定)才允许通过一个请求。场景:在某一秒有大量的请求到来,而接下来的几秒则处于空闲状态,我们希望系统能够在接下来的空闲期间逐渐处理这些请求,而不是在第一秒直接拒绝多余的请求。
自定义流控返回结果
没有自定义流控的返回结果时,当服务发生了限流时会返回Blocked by Sentinel (flow limiting)
的提示信息,我们可以自定义限流的返回结果,返回更加友好的提示信息,示例代码如下:
@Component
public class CustomBlockExceptionHandler implements BlockExceptionHandler {
@Override
public void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception {
@Cleanup PrintWriter writer = response.getWriter();
writer.println("custom result");
writer.flush();
}
}