Spring Cloud Circuit Breaker

支持实现
  • Netfix Hystrix

  • Resilience4J

    官方介绍:

    Resilience4j是一款轻量级,易于使用的容错库,其灵感来自于Netflix Hystrix,专为Java8和函数式编程而设计。轻量级,因为库只使用了Vavr,它没有任何其他外部依赖下。相比之下,Netflix HystrixArchaius具有编译依赖性,Archaius具有更多的外部库依赖性,例如GuavaApache Commons Configuration

    多种支持:

    提供对Spring Boot2.XSpring Cloud以及 RXJAVA2的支持等

    环境:

    JDK1.8+

    • 提供的组件(版本均为1.1.0

      • Circuit Breaker
        <dependency>
          <groupId>io.github.resilience4j</groupId>
          <artifactId>resilience4j-circuitbreaker</artifactId>
          <version>${resilience4j.version}</version>
         </dependency>
    
        ###### 断路器三种状态
    
        *   `CLOSED` - 一切正常,不涉及短路
    
        *   `OPEN` - 远程服务器已关闭,所有请求都被短路
    
        *   `HALF_OPEN` - 从进入开放状态到现在已经经过了一段时间,断路器允许请求检查远程服务是否重新上线
    
        ###### 配置项
    
配置属性 默认值 描述
failureRateThreshold 50(%) 当故障率等于或大于阈值时,CircuitBreaker转换为打开状态并开始短路呼叫。
slowCallRateThreshold 100 配置百分比阈值。当通话时长大于10分钟时,CircuitBreaker会认为通话缓慢slowCallDurationThreshold当慢速呼叫的百分比等于或大于阈值时,CircuitBreaker转换为打开并开始短路呼叫。
slowCallDurationThreshold 60(s) 配置持续时间阈值,在该阈值以上,呼叫将被视为慢速并增加慢速呼叫的速率。
permittedNumberOfCallsInHalfOpenState 10 配置当CircuitBreaker半开时允许的呼叫数。
slideWindowType COUNT_BASED 配置滑动窗口的类型,该窗口用于在CircuitBreaker关闭时记录呼叫结果。 滑动窗口可以基于计数或基于时间。如果滑动窗口为COUNT_BASEDslidingWindowSize则记录并汇总最近的调用。 如果滑动窗口是TIME_BASED,则slidingWindowSize记录并汇总最近几秒的调用。
slideWindowSize 100 配置滑动窗口的大小,该窗口用于记录CircuitBreaker关闭时的呼叫结果。
minimumNumberOfCalls 10 配置CircuitBreaker可以计算错误率之前所需的最小呼叫数(每个滑动窗口时段)。例如,如果minimumNumberOfCalls10,则在计算失败率之前,必须至少记录10个呼叫。如果仅记录了9个呼叫,则即使所有9个呼叫均失败,CircuitBreaker也不会转换为打开。
waitDurationInOpenState 60(s) 从打开状态转为半开状态等待的时间
recordExceptions empty 需要记录的异常列表
ignoreExceptions empty 需要忽略的异常列表
recordException throwable->true默认情况下,所有异常都记录为失败。 用于评估是否应将异常记录为失败。如果异常应计为失败,则必须返回true。如果异常应被视为成功,则必须返回false,除非该异常被显式忽略ignoreExceptions
ignoreException throwable->false默认情况下,不会忽略任何异常。 用于评估是否应忽略异常,并且该异常既不算作失败也不算成功。如果应忽略异常,则必须返回true。否则必须返回false
automaticTransitionFromOpenToHalfOpenEnabled false 如果置为true,当等待时间结束会自动由打开变为半开,若置为false,则需要一个请求进入来触发熔断器状态转换
 CircuitBreakerConfig cfg = CircuitBreakerConfig
             .custom()
             .failureRateThreshold(50) // 错误率,这个是根据滑动窗口大小决定的,e.g. windowSize = 2,failureRate=50% 那么,当出现一个错误的时候即为失败
             .waitDurationInOpenState(Duration.ofMillis(1000))
             .permittedNumberOfCallsInHalfOpenState(2)
             .slidingWindowSize(2) // 滑动窗口大小
             .recordExceptions(RuntimeException.class) // 当出现列表中的异常类型时记录
             .build();
  • RateLimiter

    • 默认实现 - io.github.resilience4j.ratelimiter.internal.AtomicRateLimiter
      • State -io.github.resilience4j.ratelimiter.internal.AtomicRateLimiter.State
      • activeCycle - 上一次调用使用的周期号
      • activePermissions- 上次调用后的可用权限计数。
        如果保留某些权限,则可以为负
      • nanosToWait- 等待上一次呼叫的等待许可的纳秒数
       <!-- 需要添加的依赖 -->
         <dependency>
         <groupId>io.github.resilience4j</groupId>
         <artifactId>resilience4j-ratelimiter</artifactId>
         <version>${resilience4j.version}</version>
         </dependency>
配置项
配置属性 默认值 描述
timeoutDuration 5 [s] 默认等待权限持续时间
limitRefreshPeriod 500 [ns] 限制刷新的时间段。在每个时间段之后,速率限制器将其权限计数重新设置为limitForPeriod
limitForPeriod 50 限制刷新期间段可用的权限数
  • Bulkhead
        <!-- 需要添加的依赖 -->
            <dependency>
             <groupId>io.github.resilience4j</groupId>
             <artifactId>resilience4j-bulkhead</artifactId>
             <version>${resilience4j.version}</version>
            </dependency>
实现方式:
  • SemaphoreBulkhead - 使用信号量
    应该应用于多线程环境或者I/O密集型的场景下,基于semaphore,但与histrix不同,他不提供'shadow'线程池选项, 客户端应确保正确的线程池大小与bulkhead配置保持一致。
配置项:
配置属性 默认值 描述
maxConcurrentCalls 25 允许的最大并行执行量
maxWaitDuration 0 尝试进入饱和的bulkhead时,应阻塞线程的最长时间。
BulkheadConfig config = BulkheadConfig.custom()
               .maxConcurrentCalls(5)
               .maxWaitDuration(Duration.ofMillis(1))
               .build();
               BulkheadRegistry registry = BulkheadRegistry.of(config);
               Bulkhead bulkhead = registry.bulkhead("Bulkhead");
               for (int i = 0; i<10;i++){
               Supplier<String> decoratedSupplier = Bulkhead
               .decorateSupplier(bulkhead, CircuitBreakerService::say);
               String result = Try.ofSupplier(decoratedSupplier)
               .recover(throwable -> "bulkhead").get();
               System.out.println(result);
               }
  • FixedThreadPoolBulkhead - 使用有界队列和固定大小的线程池
配置项:
配置属性 默认值 描述
maxThreadPoolSize Runtime.getRuntime() .availableProcessors() 最大线程池大小
coreThreadPoolSize Runtime.getRuntime() .availableProcessors() - 1 核心线程池大小
queueCapacity 100 队列的容量
keepAliveDuration 20(ms) 当线程总数大于核心线程数时,空闲线程存活的最大时间
ThreadPoolBulkheadConfig config = ThreadPoolBulkheadConfig.custom()
                 .maxThreadPoolSize(2)
                 .coreThreadPoolSize(1)
                 .queueCapacity(1)
                 .build();
                 ThreadPoolBulkheadRegistry registry = ThreadPoolBulkheadRegistry.of(config);
                 ThreadPoolBulkhead bulkhead = registry.bulkhead("ThreadPoolBulkhead");
                 ThreadPoolBulkhead bulkhead2 = registry.bulkhead("ThreadPoolBulkhead2");
                 ThreadPoolBulkhead bulkhead3 = registry.bulkhead("ThreadPoolBulkhead3");
                 Callable<CompletionStage<String>> call =
                 ThreadPoolBulkhead.decorateCallable(bulkhead, () -> CircuitBreakerService.say());
                ​
                 Callable<CompletionStage<String>> call2 =
                 ThreadPoolBulkhead.decorateCallable(bulkhead2, () -> CircuitBreakerService.say());
                ​
                 Callable<CompletionStage<String>> call3 =
                 ThreadPoolBulkhead.decorateCallable(bulkhead3, () -> CircuitBreakerService.say());
                ​
                ​
                 ExecutorService es = Executors.newFixedThreadPool(2);
                 es.submit(call);
                 es.submit(call2);
                 es.submit(call3);
  • Retry
        <!-- 需要添加的依赖 -->
            <dependency>
             <groupId>io.github.resilience4j</groupId>
             <artifactId>resilience4j-retry</artifactId>
             <version>${resilience4j.version}</version>
            </dependency>
配置项
配置属性 默认值 描述
maxAttempts 3 最大重试次数
waitDuration 500 [ms] 重试尝试过程等待时间
intervalFunction numOfAttempts -> waitDuration 发生故障后修改等待间隔的功能。默认情况下,等待时间保持不变。
retryOnResultPredicate result -> false 是否需要重试,如果需要则必须置位true, 否则应置位为false
retryOnExceptionPredicate throwable -> true 发生故障后是否需要重试,如果需要则必须置位true, 否则应置位为false
retryExceptions empty 需要重试的异常类型列表
ignoreExceptions empty 忽略重试的异常类型列表
 RetryConfig config = RetryConfig.custom()
             .maxAttempts(2) // 最大重试次数
             .waitDuration(Duration.ofMillis(100)) // 等待时间
             .retryOnException(e -> e instanceof WebServiceException)
             .retryExceptions(IOException.class, TimeoutException.class,RuntimeException.class)
            //                .ignoreExceptions(TimeoutException.class)
             .build();
             RetryRegistry registry = RetryRegistry.of(config);
             Retry retry = registry.retry("Retry");
             Function<Void , String> decorated
             = Retry.decorateFunction(retry, (s) -> CircuitBreakerService.say());
             decorated.apply(null);
  • Cache
    <!-- 需要添加的依赖 -->
            <dependency>
             <groupId>io.github.resilience4j</groupId>
             <artifactId>resilience4j-cache</artifactId>
             <version>${resilience4j.version}</version>
            </dependency>

注意:

不建议在生产中使用参考JCache 的实现,因为它会导致一些并发问题。使用EhcacheCaffeineRedissonHazelcastIgnite或其他实现。

Spring Cloud 配置 Resilience4J

1.1. 启动器

-  `org.springframework.cloud:spring-cloud-starter-circuitbreaker-resilience4j` -非反应式应用 
-  `org.springframework.cloud:spring-cloud-starter-circuitbreaker-reactor-resilience4j` -反应式应用 

1.2. 禁用自动装配

spring.cloud.circuitbreaker.resilience4j.enabled=false

1.3. 默认配置

如果需要为所有断路器提供默认配置, 可以通过如下方式创建一个Customizer

  • Resilience4JCircuitBreakerFactory
  @Bean
public Customizer<Resilience4JCircuitBreakerFactory> defaultCustomizer() {
    return factory -> factory.configureDefault(id -> new Resilience4JConfigBuilder(id)
            .timeLimiterConfig(TimeLimiterConfig.custom().timeoutDuration(Duration.ofSeconds(4)).build())
            .circuitBreakerConfig(CircuitBreakerConfig.ofDefaults())
            .build());
}
  • ReactiveResilience4JCircuitBreakerFactory
  @Bean
public Customizer<Resilience4JCircuitBreakerFactory> defaultCustomizer() {
    return factory -> factory.configureDefault(id -> new Resilience4JConfigBuilder(id)
            .timeLimiterConfig(TimeLimiterConfig.custom().timeoutDuration(Duration.ofSeconds(4)).build())
            .circuitBreakerConfig(CircuitBreakerConfig.ofDefaults())
            .build());
}

1.4. 特殊熔断配置

// 与默认配置相似
 @Bean
public Customizer<Resilience4JCircuitBreakerFactory> slowCustomizer() {
    return factory -> factory.configure(builder -> builder.circuitBreakerConfig(CircuitBreakerConfig.ofDefaults())
            .timeLimiterConfig(TimeLimiterConfig.custom().timeoutDuration(Duration.ofSeconds(2)).build()), "slow");
}
//  可以在创建断路器之后,返回结果之前获取回调。 
@Bean
public Customizer<Resilience4JCircuitBreakerFactory> slowCustomizer() {
    return factory -> factory.addCircuitBreakerCustomizer(circuitBreaker -> circuitBreaker.getEventPublisher()
    .onError(normalFluxErrorConsumer).onSuccess(normalFluxSuccessConsumer), "normalflux");
}

// Reactive方式
@Bean
public Customizer<ReactiveResilience4JCircuitBreakerFactory> slowCusomtizer() {
    return factory -> {
        factory.configure(builder -> builder
        .timeLimiterConfig(TimeLimiterConfig.custom().timeoutDuration(Duration.ofSeconds(2)).build())
        .circuitBreakerConfig(CircuitBreakerConfig.ofDefaults()), "slow", "slowflux");
        factory.addCircuitBreakerCustomizer(circuitBreaker -> circuitBreaker.getEventPublisher()
            .onError(normalFluxErrorConsumer).onSuccess(normalFluxSuccessConsumer), "normalflux");
     };
}

1.5. 收集指标

需要加入如下依赖:
org.springframework.boot:spring-boot-starter-actuator
io.github.resilience4j:resilience4j-micrometer.

  <!-- SpringCloud依赖 -->
org.springframework.cloud:spring-cloud-starter-circuitbreaker-sentinal

该项目为Spring应用程序提供了声明式重试支持。它用于Spring BatchSpring IntegrationSpring Cloud等。命令重试也支持显式用法。

环境:JDK1.7+ , MAVEN 3.3.3 +

<!-- SpringCloud依赖 -->
org.springframework.cloud:spring-cloud-starter-circuitbreaker-spring-retry

Spring RetrySpring应用程序提供了声明式重试支持。该项目的子工程包括实现断路器功能的能力。Spring Retry通过使用CircuitBreakerRetryPolicy有状态重试. 来提供断路器实现 。

1.1. 默认配置

如果需要给断路器提供统一的默认配置,可以通过如下方式创建一个Customizer

@Bean
public Customizer<SpringRetryCircuitBreakerFactory> defaultCustomizer() {
    return factory -> factory.configureDefault(id -> new SpringRetryConfigBuilder(id)
        .retryPolicy(new TimeoutRetryPolicy()).build());
}

1.2. 特殊配置

// 与默认配置相似
@Bean
public Customizer<SpringRetryCircuitBreakerFactory> slowCustomizer() {
    return factory -> factory.configure(builder -> builder.retryPolicy(new SimpleRetryPolicy(1)).build(), "slow");
}

@Bean
public Customizer<SpringRetryCircuitBreakerFactory> slowCustomizer() {
    return factory -> factory.addRetryTemplateCustomizers(retryTemplate -> retryTemplate.registerListener(new RetryListener() {

        @Override
        public <T, E extends Throwable> boolean open(RetryContext context, RetryCallback<T, E> callback) {
            return false;
        }
        @Override
        public <T, E extends Throwable> void close(RetryContext context, RetryCallback<T, E> callback, Throwable throwable) {

        }
        @Override
        public <T, E extends Throwable> void onError(RetryContext context, RetryCallback<T, E> callback, Throwable throwable) {

        }
    }));
}
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,651评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,468评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,931评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,218评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,234评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,198评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,084评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,926评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,341评论 1 311
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,563评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,731评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,430评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,036评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,676评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,829评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,743评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,629评论 2 354

推荐阅读更多精彩内容