nginx负载均衡

下面将介绍nginx开源版内置的4种负载均衡策略和2种三方负载均衡策略,他们分别是:

本文只是展示了部分nginx实现负载均衡时可以使用的策略模块,另外在nginx商业版中还存在其他内置的策略模块。负载均衡的三方策略可以在三方模块列表这里找到。

轮询

默认情况

nginx将所有请求均匀的分给集群中的每台服务器。

upstream test {
    server 127.0.0.1:7001; # 等同于server 127.0.0.1:7001 weight=1;
    server 150.109.118.85:7001; # 等同于server 150.109.118.85:7001 weight=1;
}

server {
    listen 8081;
    server_name localhost;

    location / {
        proxy_pass http://test/;
    }
}

upstream:定义一个服务集群。
proxy_pass: 将匹配的请求代理转发到proxy_pass后面配置的服务上,这里因为需要配置负载均衡,所以这里http://后面必须要跟上upstream定义的服务集群。

注意:upstream定义服务集群时,配置的服务地址只能是域名+端口或者ip+端口,不能带有协议和路径,否则nginx会报nginx: [emerg] invalid host in upstream这个错误信息。

加权(weight)

upstream test {
    server 127.0.0.1:7001 weight=2;
    server 150.109.118.85:7001 weight=1;
}

前面两次请求都会转发到127.0.0.1:7001这个服务,后面一次请求会转发到150.109.118.85:7001这个服务,再后面两次转发到127.0.0.1:7001,。。。

最少连接数

文件位置:src/http/modules/ngx_http_upstream_least_conn_module.c

nginx请求分配给active_connection/weight最小的服务器。

upstream test {
    least_conn;
    server 127.0.0.1:7001 weight=1;
    server 150.109.118.85:7001 weight=1;
}

ip_hash

文件位置:src/http/modules/ngx_http_upstream_ip_hash_module.c

根据用户的ip,计算出一个hash值,如果负载均衡缓存中有这个hash对应的服务器,那就直接转发到对应的服务器上。

upstream test {
    ip_hash;
    server 127.0.0.1:7001;
    server 150.109.118.85:7001;
}

nginx使用ip_hash策略后,只要用户电脑的ip不变化,就会始终请求同一台业务服务。

应用场景:nginx负载均衡策略:ip_hash、url_hash这篇文章中有介绍一个可以使用ip_hash的例子。在实现文件上传功能时,要实现一个大文件上传,往往会将这个大文件分成多个片段,然后上传到服务器,如果使用前面给的策略,就会出现同一个文件的分片被上传到不同服务器,导致文件合并失败,不能达到预期效果。nginx使用ip_hash策略后,客户端只要上传了当前文件的一个片段,后续文件片段上传的时候,nginx通过计算ip的hash,自动把请求转发到hash对应的服务器。

hash

文件位置:src/http/modules/ngx_http_upstream_hash_module.c

可以进行hash计算的有remote_addr(客户端ip)(从测试结果上面看感觉可以直接替换掉ip_hash)、request_uri(请求uri)、args(请求参数),下面主要以request_uri的使用作为展示,其他两个使用都类似。

根据请求的uri计算出一个hash值,然后将该请求转发到一台服务器上面,后续请求通过hash计算后,如果有相同的hash,那么就会将该请求转发到该hash对应的服务器。

如果集群中某台服务器宕机之后会出现什么情况:假设r1命中a服务器;r2命中b服务器。当a服务器宕机,之前通过r1计算出来的hash与a服务器的对应情况会失效,r1将重新分配给b服务器。后续a服务器恢复正常后,r1还是会分配给b服务器。

upstream test {
    hash $request_uri;
    server 127.0.0.1:7001;
    server 150.109.118.85:7001;
}

应用场景:nginx负载均衡策略:ip_hash、url_hash有介绍,所有请求相同的文件资源的请求都会被转发到同一个服务器,资源更容易命中缓存,减少宽带和资源下载时间。

consistent_hash

consistent_hash(一致性hash)这个模块使用方式和nginx内置的hash模块几乎相同。能够使用consistent_hash进行计算的内容和前面提到的nginx内置的hash模块一样,有remote_addr、request_uri、args。这是一个三方模块,可以在ngx_http_consistent_hash这里下载。

upstream test {
    consistent_hash $request_uri;
    server 127.0.0.1:7001;
    server 150.109.118.85:7001;
}

fair

响应时间短的服务优先分配请求。这个是三方模块,可以在nginx_upstream_fair这里下载模块。这个模块上次更新是8年前,可能需要考虑下是否需要使用这个。

upstream test {
    fair;
    server 127.0.0.1:7001;
    server 150.109.118.85:7001;
}

测试中得出效果和轮询默认情况效果一样,暂时没有找到问题在哪。。。

负载均衡相关参数

down

标识down的服务器暂时不支持资源请求。

upstream test {
    server 127.0.0.1:7001 down;
    server 150.109.118.85:7001;
}

上面负载均衡的例子中,因为127.0.0.1:7001标识为down,所以不会有请求转发到这个服务,所有的请求都会转发到150.109.118.85:7001这个服务。

weight

集群中服务的权重值,默认是1。在只有weight这一个影响条件下,且集群中服务都正常,nginx会将更多的请求转发到weight更大的服务。

upstream test {
    server 127.0.0.1:7001 weight=2;
    server 150.109.118.85:7001 weight=1;
}

这个集群中127服务和150服务各处理的请求比例为2:1。

max_fails

允许服务处理请求时服务出错的次数,默认为1。当服务处理请求发生错误的次数超过max_fails时,后面的请求暂时不会转发到这台发生错误的服务。

upstream test {
    server 127.0.0.1:7001 max_fail=1;
    server 150.109.118.85:7001;
}

fail_timeout

当服务处理请求发生错误的次数超过max_fails以后,nginx会暂时禁止将请求转发到这个服务。当过去fail_timeout设置的时间以后,nginx会尝试将请求转发到刚才被禁止的服务,如果服务正常,那么后续的请求可以继续转发到这台服务,如果服务错误,那么继续等待fail_timeout时间后再来检测。fail_timeout默认时间是10s。

upstream test {
    server 127.0.0.1:7001 max_fail=1 fail_timeout=10s;
    server 150.109.118.85:7001;
}

backup

备用服务器,当所有非backup服务发生错误被停用或者设置为down时,nginx会启用标识为backup的服务。

upstream test {
    server 127.0.0.1:7001 backup;
    server 150.109.118.85:7001;
}

max_conns

这个功能存在于nginx商业版。同一服务同时处理请求的个数。防止服务因处理请求过多,服务器性能不足,发生宕机的情况。

upstream test {
    server 127.0.0.1:7001 max_conns=10000;
    server 150.109.118.85:7001;
}

slow_start

这个功能存在于nginx商业版。当集群中错误服务等待fail_timeout时间后,nginx检测到这个服务能够正常使用后,再等待slow_start时间后,才正式使用这个服务。

upstream test {
    server 127.0.0.1:7001 slow_start=30s;
    server 150.109.118.85:7001;
}
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,294评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,780评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,001评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,593评论 1 289
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,687评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,679评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,667评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,426评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,872评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,180评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,346评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,019评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,658评论 3 323
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,268评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,495评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,275评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,207评论 2 352

推荐阅读更多精彩内容

  • linux负载均衡总结性说明(四层负载/七层负载) 一,什么是负载均衡1)负载均衡(Load Balance)建立...
    phpdi阅读 399评论 0 0
  • Nginx负载均衡 1、负载均衡的作用 如果你的nginx服务器给2台web服务器做代理,负载均衡算法采用轮询,那...
    漫步云端vv阅读 546评论 0 1
  • 一、概要 负载均衡的主要作用是为了避免单独一个服务器压力过大,将来自用户的请求转发给不同的服务器负载均衡通过ups...
    任未然阅读 517评论 0 0
  • 1. Nginx 1). 学习资源 Nginx 中文文档Nginx 配置 2). Nginx Nginx是一款轻量...
    _凌浩雨阅读 2,670评论 0 2
  • 一、负载均衡 负载均衡是一种集群技术,旨在解决高并发场景下的服务问题。其硬件环境模型可以由一台前置服务器和多台服务...
    大鱼炖海棠阅读 415评论 0 8