五、服务端负载均衡
服务端的负载均衡,只需要在调用方配置负载均衡策略就可以了。
在application.yml中添加下面这段配置。
product-service:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
- product-service :是服务被调用方的 application.name 。
- ribbon:SpringCloud远程调用服务的方式(SpringCloud远程调用服务的方式有 ribbon 和 feign,ribbon是手写远程服务地址调用,feign是通过配置和注解调用,但其底层本质上还是ribbon的方式。
- NFLoadBalancerRuleClassName :负载均衡的策略,默认为轮询,可选择:
- com.netflix.loadbalancer.RandomRule:随机
- com.netflix.loadbalancer.RoundRobinRule:轮询
- com.netflix.loadbalancer.BestAvailableRule:根据并发量选择最优
- com.netflix.loadbalancer.WeightedResponseTimeRule:根据响应时间分配一个weight(权重),响应时间越长,weight越小,被选中的可能性越低
- com.netflix.loadbalancer.RetryRule:对选定的负载均衡策略机上重试机制,在一个配置时间段内当选择server不成功,则一直尝试使用subRule的方式选择一个可用的server
- com.netflix.loadbalancer.ZoneAvoidanceRule:复合判断server所在区域的性能和server的可用性选择server
修改端口号,启动两个product-service,测试结果:
返回的端口号不同,表明调用的service不同,并且是随机选择的,而不是默认的轮询,说明配置起效。
六、gateway网关
Spring Cloud Gateway 是 Spring Cloud 新推出的网关框架,比 Zuul 性能和功能更好。
网关的作用
服务间的调用一般是在内网中进行,外网不能直接访问到服务器。网关可以作为服务于外网接通的桥梁,互联网的访问只能通过nginx转发到网关,再由网关分发到各个客户端。在网关中可以做限流、转发、权限校验等,使得服务更加专注自身业务。比如说登录、权限等功能,可以在网关中实现。
搭建product-gateway工程
添加Module,选择dependencies时添加Consul Discovery 和 Gateway,实际上是添加了依赖。
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>
编写配置文件:
server:
port: 8080
spring:
application:
name: product-gataway
cloud:
consul:
host: localhost
port: 8500
discovery:
serviceName: product-gataway
register: false
gateway:
discovery:
locator:
enabled: true
routes:
- id: product-service
uri: lb://product-service
order: 1
predicates:
- Path=/product/service/**
filters:
- StripPrefix=2
- id: product-web
uri: lb://product-web
order: 1
predicates:
- Path=/product/web/**
filters:
- StripPrefix=2
- discover.locator.enabled=true :启动网关
- routes:路由,也就是分发请求
- id:每个自配置需要一个不相同的id
- uri:目标地址,lb表示转发到该服务名的服务上
- order:多个路由配置间的优先级
- predicates:断言,如果满足以下的匹配,则进行请求分发
- Path:predicates的关键字之一,如果访问的url满足条件,则进行转发。predicates的关键字很多,如After,Before等等。
- filters:过滤器,对访问的url进行处理
- StripPrefix:跳过前缀,也就是对url进行前缀过滤,比如 Path=/product/web/insert,StripPrefix=2 ,表示将路径的前面两个地址作为前缀跳过,实际访问的是 product-web的 /insert 接口。
测试访问,访问地址是网关地址:http://localhost:8080/product/web/insert,响应正确。
网关过滤器
前文说到可以在网关进行登录和权限认证,下面演示网关过滤器,可以在过滤器里面编写认证方法。
- 编写LoginFilter,并实现 GlobalFilter, Ordered 接口。GlobalFilter是全域过滤器,Ordered是该过滤器优先级。
过滤放行,返回 chain.filter(exchange),不放行,返回 exchange.getResponse().setComplete()。
public class LoginFilter implements GlobalFilter, Ordered {
@Override
public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
System.out.println("-------------------进入过滤器-------------------");
return chain.filter(exchange);
// return exchange.getResponse().setComplete();
}
@Override
public int getOrder() {
return 0;
}
}
- 将LoginFilter 注册进Spring容器
@Configuration
public class GatewayConfig {
@Bean
public LoginFilter loginFilter() {
return new LoginFilter();
}
}
七、熔断和降级
熔断:当A服务模块中的某块程序出现故障后,为了不影响其他客户端的请求而做出的及时回应。目的:防止整个系统故障,保护自己和下游服务
降级:为了解决整体项目压力,而牺牲掉某一服务模块而采取的措施。
相同点:都是从可用性可靠性着想,为防止系统的整体缓慢甚至崩溃,采用的技术手段。最终表现类似,对于两者来说,最终让用户体验到的是某些功能暂时不可达或不可用。
不同点:触发的条件不一样,熔断一般是某个服务(下游服务)故障引起,而服务降级一般是从整体负荷考虑。
服务器雪崩效应。