前言
Spring Cloud是一系列框架的有序集合。它利用Spring Boot的开发便利性巧妙地简化了分布式系统基础设施的开发,如服务发现注册、配置中心、消息总线、负载均衡、断路器、数据监控等,都可以用Spring Boot的开发风格做到一键启动和部署。Spring Cloud并没有重复制造轮子,它只是将目前各家公司开发的比较成熟、经得起实际考验的服务框架组合起来,通过Spring Boot风格进行再封装屏蔽掉了复杂的配置和实现原理,最终给开发者留出了一套简单易懂、易部署和易维护的分布式系统开发工具包。
Spring Cloud组成
Spring Cloud的子项目,大致可分成两类,一类是对现有成熟框架”Spring Boot化”的封装和抽象,也是数量最多的项目;第二类是开发了一部分分布式系统的基础设施的实现,如Spring Cloud Stream扮演的就是kafka, ActiveMQ这样的角色。对于我们想快速实践微服务的开发者来说,第一类子项目就已经足够使用,如:
Spring Cloud Netflix:核心组件,可以对多个Netflix OSS开源套件进行整合,包括以下几个组件:
- Eureka:服务治理组件,包含服务注册与发现
- Hystrix:容错管理组件,实现了熔断器
- Ribbon:客户端负载均衡的服务调用组件
- Feign:基于Ribbon和Hystrix的声明式服务调用组件
- Zuul:网关组件,提供智能路由、访问过滤等功能
服务治理:Spring Cloud Eureka
简介
Spring Cloud Eureka是Netflix开发的服务发现框架,本身是一个基于REST的服务,主要用于定位运行在AWS域中的中间层服务,以达到负载均衡和中间层服务故障转移的目的。SpringCloud将它集成在其子项目spring-cloud-netflix中,以实现SpringCloud的服务发现功能。
Eureka包含两个组件:Eureka Server和Eureka Client,其中Eureka Client又可以分为Eureka Provider和Eureka Consumer。
Eureka Server
- 服务端-没有存储,内存保持,每服务实例需要发送心跳去续约
- 客户端-在内存中缓存着eureka的注册信息,因此不必每请求到eureka查找服务
- eureka之间会做注册服务同步,从而保证状态一致,客户端只需访问一个eureka
Service Provider
- 会向Eureka Server做Register(服务注册)、Renew(服务续约)、Cancel(服务下线)等操作
Service Consumer
- 会从Eureka Server获取注册服务列表,并消费服务
注册发现
Eureka Server提供服务注册服务,各个节点启动后,会在Eureka Server中进行注册,这样EurekaServer中的服务注册表中将会存储所有可用服务节点的信息,服务节点的信息可以在界面中直观的看到。
Eureka Client是一个Java客户端,用于简化与Eureka Server的交互,客户端同时也就是一个内置的、使用轮询(round-robin)负载算法的负载均衡器。
服务心跳(renew)
在应用启动后,将会向Eureka Server发送心跳,默认周期为30秒,如果Eureka Server在多个心跳周期内没有接收到某个节点的心跳,Eureka Server将会从服务注册表中把这个服务节点移除(默认90秒)。
服务实例会通过心跳(eureka.instance.lease-renewal-interval-in-seconds
定义心跳的频率,默认值为30s)续约的方式向Eureka Server定时更新自己的状态。Eureka Server收到心跳后,会通知集群里的其它Eureka Server更新此实例的状态。Service Provider/Service Consumer也会定时更新缓存的实例信息。
Eureka Server间数据同步
为了解决Eureka Server单点的问题,我们可以启动多个Eureka Server注册中心,并让多个Eureka Server注册中心相互注册,这样可以实现Eureka Server注册中心集群。这是一种去中心化的架构中,各个节点是平等的,每个节点都保存完整实例注册服务的信息。
Eureka Server 集群不区分主从节点或者 Primary & Secondary 节点,所有节点相同角色( 也就是没有角色 ),完全对等。
Eureka Client 可以向任意 Eureka Client 发起任意读写操作,Eureka Server 将操作复制到另外的 Eureka Server 以达到最终一致性。注意,Eureka Server 是选择了 AP 的组件。
Eureka Server之间通过复制的方式完成数据的同步,Eureka还提供了客户端缓存机制,即使所有的Eureka Server都挂掉,客户端依然可以利用缓存中的信息消费其他服务的API。综上,Eureka通过心跳检查、客户端缓存等机制,确保了系统的高可用性、灵活性和可伸缩性。
自我保护模式
如果Eureka Server最近1分钟收到renew的次数小于阈值(即预期的最小值),则会触发自我保护模式(如上图所示,在Eureka Server首页可以看到一排红色的警告信息),此时Eureka Server此时会认为这是网络问题,它不会注销任何过期的实例。等到最近收到renew的次数大于阈值后,则Eureka Server退出自我保护模式。
自我保护模式阈值计算:
每个instance的预期心跳数目 = 60/每个instance的心跳间隔秒数
阈值 = 所有注册到服务的instance的数量的预期心跳之和 *自我保护系数
以上的参数都可配置的:
instance的心跳间隔秒数:eureka.instance.lease-renewal-interval-in-seconds
自我保护系数:eureka.server.renewal-percent-threshold
如果我们的实例比较少且是内部网络时,推荐关掉此选项。我们也可以通过eureka.server.enable-self-preservation = false
来禁用自我保护系数
客户端负载均衡:Spring Cloud Ribbon
简介
负载均衡在系统架构中是一个非常重要,并且不得不去实施的功能。因为负载均衡是对系统的高可用、网络压力的缓解和处理能力扩容的重要手段之一。
Spring Cloud Ribbon是一个基于HTTP和TCP的客户端负载均衡工具,它基于Netflix Ribbon实现,通过它我们可以轻松地将面向服务的REST模板请求自动转换成客户端负载均衡的服务调用。
服务容错保护:Spring Cloud Hystrix
简介
Spring Cloud Hystrix实现了断路器、线程隔离等一系列服务保护功能。在微服务架构中,每个单元都在不同的进程中运行,进程间通过远程调用的方式相互依赖,这样就可能因为网络的原因出现调用故障和延迟,如果调用请求不断增加,将会导致自身服务的瘫痪。为了解决这些问题,产生了断路器等一系列服务保护机制。
资源隔离
Hystrix通过将每个依赖服务分配独立的线程池进行资源隔离,从而避免服务雪崩。如下,当BSP服务不可用时,即使BSP服务独立分配的20个线程全部处于同步等待状态,也不会影响其他依赖服务的调用
熔断器
当请求失败、被拒绝、超时或短路时,熔断器器功能以阻止所有对某依赖的请求。
提供熔断器组件,可以自动运行或手动调用,停止当前依赖一段时间(10秒),熔断器默认错误率阈值为50%,超过将自动运行。
服务降级
当某个服务熔断之后,服务器将不再被调用,此时客户端可以自己准备一个本地的fallback回调,返回一个缺省值
缓存
hystrix支持将一个请求结果缓存起来,下一个具有相同key的请求将直接从缓存中取出结果,减少请求开销。
要使用hystrix cache功能,第一个要求是重写getCacheKey(),用来构造cache key;
第二个要求是构建context,如果请求B要用到请求A的结果缓存,A和B必须同处一个context。
通过HystrixRequestContext.initializeContext()和context.shutdown()可以构建一个context,这两条语句间的所有请求都处于同一个context。
声明式服务调用:Spring Cloud Feign
简介
Feign是一个声明式的Web Service客户端,它的目的就是让Web Service调用更加简单。Feign提供了HTTP请求的模板,通过编写简单的接口和插入注解,就可以定义好HTTP请求的参数、格式、地址等信息。
而Feign则会完全代理HTTP请求,我们只需要像调用方法一样调用它就可以完成服务请求及相关处理。Feign整合了Ribbon和Hystrix,可以让我们不再需要显式地使用这两个组件。
总起来说,Feign具有如下特性:
可插拔的注解支持,包括Feign注解和JAX-RS注解;
- 支持可插拔的HTTP编码器和解码器;
- 支持Hystrix和它的Fallback;
- 支持Ribbon的负载均衡;
- 支持HTTP请求和响应的压缩。
API 网关服务:Spring Cloud Zuul
监控管理:Spring Cloud Actuator
pom依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
接口说明
HTTP方法 | 路径 | 描述 | 鉴权 |
---|---|---|---|
GET | /autoconfig | 查看自动配置的使用情况 | true |
GET | /configprops | 查看配置属性,包括默认配置 | true |
GET | /beans | 查看bean及其关系列表 | true |
GET | /dump | 打印线程栈 | true |
GET | /env | 查看所有环境变量 | true |
GET | /env/{name} | 查看具体变量值 | true |
GET | /health | 查看应用健康指标 | false |
GET | /info | 查看应用信息 | false |
GET | /mappings | 查看所有url映射 | true |
GET | /metrics | 查看应用基本指标 | true |
GET | /metrics/{name} | 查看具体指标 | true |
POST | /shutdown | 关闭应用 | true |
GET | /trace | 查看基本追踪信息 | true |
配置
# 用于选择公开所有接口
management.endpoints.web.exposure.include=*
# 显示所有健康状态
management.endpoint.health.show-details=always
# 配置接口的启用,false关闭 true开启
management.endpoint.<id>.enabled=true
management.endpoint.configprops.enabled=false
# Actuator 默认所有的监控点路径都在/actuator/*,如果有需要这个路径也支持定制
management.endpoints.web.base-path=/act