当面试官问我Nginx如何实现负载均衡,我这么答让他眼前一亮

负载均衡介绍

在介绍Nginx的负载均衡实现之前,先简单的说下负载均衡的分类,主要分为硬件负载均衡和软件负载均衡,硬件负载均衡是使用专门的软件和硬件相结合的设备,设备商会提供完整成熟的解决方案,比如F5,在数据的稳定性以及安全性来说非常可靠,但是相比软件而言造价会更加昂贵;软件的负载均衡以Nginx这类软件为主,实现的一种消息队列分发机制。

简单来说所谓的负载均衡就是把很多请求进行分流,将他们分配到不同的服务器去处理。比如我有3个服务器,分别为A、B、C,然后使用Nginx进行负载均衡,使用轮询策略,此时如果收到了9个请求,那么会均匀的将这9个请求分发给A、B、Cf服务器,每一个服务器处理3个请求,这样的话我们可以利用多台机器集群的特性减少单个服务器的压力。

Nginx实现负载均衡的示例图:

负载均衡策略

NGINX开源支持四种负载平衡方法,而NGINX Plus又增加了两种方法。

1.Round Robin: 对所有的请求进行轮询发送请求,默认的分配方式。

nginx.conf 配置示例:

upstream xuwujing {
   server www.panchengming.com;
   server www.panchengming2.com;
}

注:上面的域名也可以用IP替代。

2.Least Connections:以最少的活动连接数将请求发送到服务器,同样要考虑服务器权重。

nginx.conf 配置示例:

upstream xuwujing {
    least_conn;
    server www.panchengming.com;
    server www.panchengming2.com;
}

3.IP Hash : 发送请求的服务器由客户机IP地址决定。在这种情况下,使用IPv4地址的前三个字节或整个IPv6地址来计算散列值。该方法保证来自相同地址的请求到达相同的服务器,除非该服务器不可用。

upstream xuwujing {
     ip_hash;
     server www.panchengming.com;
     server www.panchengming2.com;
}

4.Generic Hash: 请求发送到的服务器由用户定义的键决定,该键可以是文本字符串、变量或组合。

 upstream xuwujing {
     hash $request_uri consistent;
     server www.panchengming.com;
        server www.panchengming2.com;
 }

5.Least Time (NGINX Plus only) – 对于每个请求,NGINX Plus选择具有最低平均延迟和最低活动连接数的服务器,其中最低平均延迟是根据包含least_time指令的下列参数计算的:

  • header :从服务器接收第一个字节的时间。
  • last_byte:从服务器接收完整响应的时间。
  • last_byte inflight:从服务器接收完整响应的时间。
    upstream xuwujing { least_time header; server www.panchengming.com; server www.panchengming2.com; }

6.Random:每个请求将被传递到随机选择的服务器。如果指定了两个参数,首先,NGINX根据服务器权重随机选择两个服务器,然后使用指定的方法选择其中一个。

  • least_conn :活动连接的最少数量
  • least_time=header (NGINX Plus):从服务器接收响应标头的最短平均时间 ($upstream_header_time)。
  • least_time=last_byte (NGINX Plus) :从服务器接收完整响应的最短平均时间($upstream_response_time)。
    upstream xuwujing { random two least_time=last_byte; server www.panchengming.com; server www.panchengming2.com; }

Nginx+SpringBoot实现负载均衡

环境准备

  • 依赖JDK1.8以上的版本;
  • 依赖Nginx环境;

Nginx 配置

我们找到nginx的配置文件nginx.conf,该配置在nginx/conf/nginx.conf目录下,然后我们来修改该配置,新增如下配置:

upstream pancm{
   server 127.0.0.1:8085;
   server 127.0.0.1:8086;
}
  • upstream pancm:定义一个名称,随意就行;
  • server + ip:端口 or 域名;

如果不想使用Round Robin策略,也可以换成其他的。

然后在server添加/修改如下配置:

 server {
        listen       80;
        server_name  127.0.0.1;

        location / {
            root   html;
            proxy_pass http://pancm;
            proxy_connect_timeout 3s;
            proxy_read_timeout 5s;
            proxy_send_timeout 3s; 
            index  index.html index.htm;
        }

        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }

配置说明:

  • server: 虚拟主机的名称,一个http中可以配置多个server;
  • listen:Nginx默认的端口;
  • server_name:Nginx服务的地址,可以使用域名,多个用空格分隔。
  • proxy_pass:代理路径,一般配置upstream后面的名称用于实现负载均衡,可以直接配置ip进行跳转;

nginx.conf 完整的配置:

events {
    worker_connections  1024;
}

error_log nginx-error.log info;
http {
    include       mime.types;
    default_type  application/octet-stream;
    sendfile        on;
    keepalive_timeout  65;

      upstream pancm{
       server 127.0.0.1:8085;
       server 127.0.0.1:8086;
    }

    server {
        listen       80;
        server_name  127.0.0.1;

        location / {
            root   html;
            proxy_pass http://pancm;
            proxy_connect_timeout 3s;
            proxy_read_timeout 5s;
            proxy_send_timeout 3s; 
            index  index.html index.htm;
        }

        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }
}

负载均衡测试

在完成Nginx配置之后,我们启动Nginx。linux输入/usr/local/nginx -c /usr/local/nginx/cinf/nginx.conf,如果已经启动可以使用/usr/local/nginx/sbin/nginx -s reload命令进行热加载配置文件,Windows直接点击Nginx目录下的ngix.exe或者cmd运行start nginx进行启动,如果启动了依旧可以使用nginx -s reload进行热加载。Nginx启动完成之后,我们依次启动刚刚下载的springboot和复制更改端口的项目,输入:java -jar springboot-jap-thymeleaf.jar启动。都启动成功之后,我们在浏览器输入服务的ip即可进行访问。示例图:

注:这里我使用的是windows系统做测试,实际linux也是一样的。然后我们进行操作,并查看控制台日志!

从上述示例图中我们进行4次界面刷新请求,最终平均分配到两个服务中去了,从上述的测试结果中我们实现了负载均衡。这里我在说一下使用Nginx的注意事项,在进行学习和测试的时候,使用nginx默认的端口实现负载均衡一般没有什么问题,但是当我们在项目中使用的时候,特别有登录界面的并且端口不是80的时候,会出现登录的界面无法跳转,进行调试的话会出现net::ERR_NAME_NOT_RESOLVED这样的错误,出现这个原因的是因为nginx默认的端口是80,那么默认跳转的也是这个,所以出现这种情况的时候,需要在location 下添加proxy_set_header Host $host:port 这个配置,port 和listen 的端口保持一致就可以了。

最后

关注公众号:程序员麦冬,回复888 领取2020最新Java面试题手册(200多页PDF文档)。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,240评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,328评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,182评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,121评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,135评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,093评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,013评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,854评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,295评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,513评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,678评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,398评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,989评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,636评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,801评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,657评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,558评论 2 352