Hystrix
Netflix 的 Hystrix[附录 12.24](github 12.4k stars)把熔断、隔离、限流和降级等能力封装成组件,任何依赖调用(数据库,服务,缓存)都可以封装在 Hystrix Command 之内,封装后自动具备容错能力。Hystrix 起源于 Netflix 的弹性工程项目,经过 Netflix 大规模生产验证,目前是容错组件的社区标准,GitHub 上有超 12k 星。其它语言栈也有类似 Hystrix 的简化版本组件。
Hystrix 一般需要在应用端或者框架内埋点,有一定的使用门槛。对于采用集中式反向代理(边界和内部)做服务路由的公司,则可以集中在反向代理上做熔断限流,例如采用 Nginx[附录 12.25](GitHub 5.1k stars)或者 Kong[附录 12.7](GitHub 11.4k stars)这类反向代理,它们都插件支持灵活的限流容错配置。Zuul 网关也可以集成 Hystrix 实现网关层集中式限流容错。集中式反向代理需要有一定的研发和运维能力,但是可以对限流容错进行集中治理,可以简化客户端。
Ribbon
Ribbon提供的主要负载均衡策略
• 简单轮询负载均衡(RoundRobin): 以轮询的方式依次将请求调度不同的服务器,即每次调度执行i = (i + 1) mod n,并选出第i台服务器。
• 随机负载均衡 (Random): 随机选择状态为UP的Server
• 加权响应时间负载均衡 (WeightedResponseTime): 根据相应时间分配一个weight,相应时间越长,weight越小,被选中的可能性越低。
• 区域感知轮询负载均衡(ZoneAvoidanceRule) :复合判断server所在区域的性能和server的可用性选择server
Feign
Spring Cloud Feign 是对这两个基础工具的更高层次封装,在 Netflix Feign 的基础上扩展了对 Spring MVC 的注解支持,提供了一种声明式的 Web 服务客户端定义方式。
Zuul
zuul实现的网关类似于设计模式中的门面模式Facade,通常在网关层实现功能:
- 认证 来源的合法性校验
- 动态路由 隐藏内部接口,通过调用所配置路径转发至各微服务接口
- 安全 权限校验
- 服务迁移 简单化因业务变化而需要拆分/整合服务的工作
- 通过Zuul我们可以完成以下功能:
- 客户端负载:Zuul 注册于 Eureka 并集成了 Ribbon 所以自然也是可以从注册中心获取到服务列表进行客户端负载。
- 动态路由:解放运维。
- 监控与审查
- 身份认证与安全
- 压力测试: 逐渐增加某一个服务集群的流量,以了解服务性能;
- 金丝雀测试
- 服务迁移
- 负载剪裁: 为每一个负载类型分配对应的容量,对超过限定值的请求弃用;
- 静态应答处理
zuul 像其他微服务一样作为一个微服务向eureka server注册,并且能够通过注册列表获取所有的可用服务,其内部默认实现了ribbon,可达到负载均衡的目的
无论是pc还是移动端调用首先经过zuul网关层,在这里会有一系列的filter(例如权限控制,接口认证等),验证合法后zuul放行并调用相关的微服务接口,在此架构中,需要说明通常的部署方法:zuul网关在系统的最外层暴露映射后的地址供外部客户端调用,而使用内部私有地址调用各微服务
Zuul 高可用
Zuul 现在既然作为了对外的第一入口,那肯定不能是单节点,对于 Zuul 的高可用有以下两种方式实现。
1. Eureka 高可用:部署多个 Zuul 节点,并且都注册于 Eureka(有一个严重的缺点:那就是客户端也得注册到 Eureka 上才能对 Zuul 的调用做到负载,这显然是不现实的。)
基于 Nginx 高可用:在调用 Zuul 之前使用 Nginx 之类的