互联网架构中的负载均衡

计算机的资源在分配和使用有两大思维:效率和公平。比如负载均衡技术就体现了公平思维。
负载均衡(Load Balance)是集群和分布式系统中必须考虑的关键因素,它通常是指把数据或请求均匀分摊到操作单元上,它的灵魂就是“均匀”。
负载均衡主要分为硬件负载均衡和软件负载均衡两大类。我在某央企工作时,使用的F5就是硬件负载均衡(记得均衡策略是轮询),本文主要谈软件负载均衡。
说到负载均衡,我第一反应是Nginx,其实互联网架构中到处体现着负载均衡的设计。

三层架构

四层架构

上图是常见的互联网架构,它的最大特点就是分层,每层可以水平扩展。在上层访问下层的时候,就会用到用负载均衡技术。

1. 客户端层 -> 反向代理层

上网的第一步骤,就是解析域名,得到IP,这通过DNS实现。DNS-server对于一个域名,可能配置多个IP,此时的负载均衡是通过DNS轮询实现的,会轮询返回IP,保证每个IP访问是均匀的。这些IP就是Nginx的外网IP。

2. 反向代理层 -> 站点层

这一步骤的负载均衡是通过Nginx实现的。通过修改nginx.conf可以配置多种负载均衡策略。

常见的Nginx负载均衡策略有以下三种:

  1. 轮询(Round Robin,RR)
  2. 随机(Random)
  3. 权重轮询(Weighted Round Robin,WRR)
  4. 最少连接(Least Connections):那个web-server连接少,就路由到哪个web-server
  5. 源地址哈希(Source hashing):只要IP是均匀的,那么请求理论上也是均衡的。

3.站点层 -> 服务层

4.服务层->数据层:

请求是否均衡取决于数据分布是否均衡。

在数据量很大的时候,数据层(db和cache)会做水平切分。所以数据层的负载均衡,分为数据的均衡和请求的均衡。

数据的均衡是指,水平切分后的每个服务,数据量是差不多的
请求的均衡是指,水平切分后的每个服务,请求量是差不多的。

数据的均衡提现在水平切分的策略上,最常见的有两种:
A)按照range水平切分


这种切分的优点:实现简单, 数据均衡,易于扩展

缺点:请求的负载不够均衡。可能在某个range中服务请求压力比较大。
B)根据id做哈希

这种切分的优点:实现简单,数据均衡,请求均衡
缺点:不易扩展,增加或减少机器,需要rehash,伴随数据迁移。可以利用一致性哈希来优化这种方案。

5.总结:

客户端层->反向代理层:DNS轮询

反向代理层->站点层:Nginx

站点层->服务层:服务连接池

服务层->数据层:请求是否均衡依据数据分布是否均衡,数据层的数据切分方式,常见的有按照范围水平切分和hash水平切分。

2019-07-16:
互联网架构最本质的特征就是分层。
为什么要分层呢?这是分而治之思想的体现。
从单层结构来看,可以解耦,易于水平扩展。
如果每层之间通信(交换数据),那么怎么选择合适的对象呢?这就需要负载均衡了。

如果提起来架构,首先要会想到什么架构呢?

  1. 计算机本身的结构
  2. 后端的四层架构:反向代理层,站点层,服务层,数据层。

客户端为什么要请求服务端呢?
就是因为服务端有数据(体现为各种资源),而且能操作这些数据。
数据不仅要存储均衡,还要使得数据的访问也要均衡。尤其要将热点数据均匀分布。

Thanks a million:一分钟了解负载均衡的一切

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,826评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,968评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,234评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,562评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,611评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,482评论 1 302
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,271评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,166评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,608评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,814评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,926评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,644评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,249评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,866评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,991评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,063评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,871评论 2 354

推荐阅读更多精彩内容