在linux下有Nginx、LVS、 Haproxy 等等服务可以提供负载均衡服务，而且Nginx提供了几种分配方式(策略):
负载均衡策略
| 策略 | 方式 |
|---|---|
| 轮询 | 默认方式 |
| weight | 权重方式 |
| ip_hash | 依据ip分配方式 |
| least_conn | 最少连接方式 |
| fair（第三方） | 响应时间方式 |
| url_hash（第三方） | 依据URL分配方式 |
-
1、轮询(默认)
每个请求按时间顺序逐一分配到不 同的后端服务器，如果后端服务器down掉，能自动剔除
有如下参数：
| 参数 | 解释 |
|---|---|
| fail_timeout | 与max_fails结合使用。 |
| max_fails | 设置在fail_timeout参数设置的时间内最大失败次数，如果在这个时间内，所有针对该服务器的请求都失败了，那么认为该服务器会被认为是停机了 |
| fail_time | 服务器会被认为停机的时间长度,默认为10s。 |
| backup | 标记该服务器为备用服务器。当主服务器停止时，请求会被发送到它这里。 |
| down | 标记服务器永久停机了 |
-
2、weight 权重
weight代表权重默认为1,权重越高被分配的客户端越多。
指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的情况。例如:
upstream server_pool
server 192.168.5.21:80 weight=2;
server 192.168.5.22:80;
}
-
3、ip hash
每个请求按访问ip的hash结果分配, 这样每个访客固定访问一个后端服务器,可以解诀session的问题。例如:
upstream server_pool
ip_hash
server 192.168.5.21:80;
server 192.168.5.22:80;
}
4、least_conn(最少连接方式)
把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端，使它们的负载大致相同；但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least_conn这种方式就可以达到更好的负载均衡效果
#动态服务器组
upstream dynamic_zuoyu {
least_conn; #把请求转发给连接数较少的后端服务器
server localhost:8080 weight=2; #tomcat 7.0
server localhost:8081; #tomcat 8.0
server localhost:8082 backup; #tomcat 8.5
server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0
}
5、第三方策略
第三方的负载均衡策略的实现需要安装第三方插件。
① fair (第三方)
按后端服务器的响应时间来分配请求，响应时间短的优先分配
upstream server_pool
server 192.168.5.21:80;
server 192.168.5.22:80;
fair; #实现响应时间短的优先分配
}
②url_hash(第三方)
按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，要配合缓存命中来使用。同一个资源多次请求，可能会到达不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费。而使用url_hash，可以使得同一个url（也就是同一个资源请求）会到达同一台服务器，一旦缓存住了资源，再此收到请求，就可以从缓存中读取。
upstream dynamic_zuoyu {
hash $request_uri; #实现每个url定向到同一个后端服务器
server 192.168.5.21:80;
server 192.168.5.22:80;
}
