mysql中间件-atlas介绍

一 。atlas简介

Atlas是由 Qihoo 360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上,修改了大量bug,添加了很多功能特性。目前该项目在360公司内部得到了广泛应用,很多MySQL业务已经接入了Atlas平台,每天承载的读写请求数达几十亿条。同时,有超过50家公司在生产环境中部署了Atlas,超过800人已加入了我们的开发者交流群,并且这些数字还在不断增加。(简介内容摘自github官网 https://github.com/Qihoo360/Atlas/wiki/Atlas%E7%9A%84%E6%9E%B6%E6%9E%84

1》主要功能:

1.读写分离,2.从库负载均衡,3.IP过滤,4.自动分表,5.DBA可平滑上下线DB,6.自动摘除宕机的DB

2》系统主要架构:

tlas是一个位于应用程序与MySQL之间中间件。在后端DB看来,Atlas相当于连接它的客户端,在前端应用看来,Atlas相当于一个DB。Atlas作为服务端与应用程序通讯,它实现了MySQL的客户端和服务端协议,同时作为客户端与MySQL通讯。它对应用程序屏蔽了DB的细节,同时为了降低MySQL负担,它还维护了连接池。Atlas的整体架构,可参考下面这两幅图:

image
image

3》线程模型

Atlas启动后会创建多个线程,其中一个为主线程,其余为工作线程。主线程负责监听所有的客户端连接请求,工作线程只监听主线程的命令请求。

如下图所示,主线程接收到客户端的连接请求,将该请求的相关信息封装为一个名为CON的结构,再把该结构推入一个异步队列。然后通过round-robin方式选择一个工作线程,向其发送一个字节的数据包以激活它。工作线程在收到主线程的激活指令后,从异步队列中取出CON结构,开始处理客户端的请求。

image

4》Atlas配合LVS使用的架构

下图是一个可以参考的整体架构,LVS前端做负载均衡,两个Atlas做HA,防止单点故障。LVS周期性地对后端Atlas的存活检测有两种方式,一是直接去探测端口是否可连接,二是执行一个脚本,这个脚本会去尝试连接Atlas,通过脚本的返回值来决定每个后端是否可用。Atlas有两种运行状态,通常为online,可通过发信号将其置为offline。Atlas检测到来请求的IP是LVS的网卡IP时,如果处于online状态,就向LVS的检测脚本返回online,如果处于offline状态,就向脚本返回offline。比如我现在因为某种原因需要重启一台Atlas,但直接重启势必导致瞬间的SQL请求全部失败,对前端应用造成影响。因此我先发下线信号将Atlas置为offline状态,当LVS的检测脚本发现返回值是offline时,便将这台Atlas摘除,从此时开始便没有新的请求导向这台Atlas。等到已经打向这台Atlas的SQL请求处理完毕后(这是一个很短的时间),就可以安全重启Atlas而不必担心对前端造成影响了。

image

二。atlas安装和读写分离

1》atlas安装过程(参考https://github.com/Qihoo360/Atlas/wiki/Atlas%E7%9A%84%E5%AE%89%E8%A3%85

这里已经安装了 mysql的双主双从 参考(http://blog.csdn.net/liaomin416100569/article/details/78580382)

环境:
数据库:mariadb 系统centos7

[html] view plaincopy

<embed id="ZeroClipboardMovie_1" src="https://csdnimg.cn/public/highlighter/ZeroClipboard.swf" loop="false" menu="false" quality="best" bgcolor="#ffffff" width="16" height="16" name="ZeroClipboardMovie_1" align="middle" allowscriptaccess="always" allowfullscreen="false" type="application/x-shockwave-flash" pluginspage="http://www.macromedia.com/go/getflashplayer" flashvars="id=1&width=16&height=16" wmode="transparent" style="box-sizing: border-box; outline: 0px; margin: 0px; padding: 0px; overflow-wrap: break-word;">

<embed id="ZeroClipboardMovie_2" src="https://csdnimg.cn/public/highlighter/ZeroClipboard.swf" loop="false" menu="false" quality="best" bgcolor="#ffffff" width="16" height="16" name="ZeroClipboardMovie_2" align="middle" allowscriptaccess="always" allowfullscreen="false" type="application/x-shockwave-flash" pluginspage="http://www.macromedia.com/go/getflashplayer" flashvars="id=2&width=16&height=16" wmode="transparent" style="box-sizing: border-box; outline: 0px; margin: 0px; padding: 0px; overflow-wrap: break-word;">

  1. 主:192.168.58.147:3306"
  2. 从1:192.168.58.149:3306
  3. 主备:192.168.58.151:3306
  4. 从2:192.168.58.150:3306

下载最新版rpm包 (https://github.com/Qihoo360/Atlas/releases) el5是centos5版本 el6是centos6以上版本

wget https://github.com/Qihoo360/Atlas/releases/download/sharding-1.0.1/Atlas-sharding_1.0.1-el6.x86_64.rpm

安装

rpm -ivh Atlas-sharding_1.0.1-el6.x86_64.rpm

默认安装目录位于

usr/local/mysql-proxy

2》配置读写分离
在/usr/local/mysql-proxy/cnf目录下有个test.cnf文件 有关于所有配置的信息

[mysql-proxy] #带#号的为非必需的配置项目 #管理接口的用户名admin-username = admin #管理接口的密码admin-password = admin #Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔proxy-backend-addresses = 192.168.58.147:3306,192.168.58.151:3306 #Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔#proxy-read-only-backend-addresses = 192.168.58.149:3306,192.168.58.150:3306 #用户名与其对应的加密过的MySQL密码,密码使用/usr/local/mysql-proxy/bin目录下的加密程序encrypt加密,下行的user1和user2为示例,将其替换为你的MySQL的用户名和加密密码!我的后端mysql的密码时root  ./encrypt root 获取密码pwds = root:DAJnl8cVzy8= #设置Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。daemon = true #设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,设为false时只有worker,没有monitor,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。keepalive = true #工作线程数,对Atlas的性能有很大影响,可根据情况适当设置event-threads = 8 #日志级别,分为message、warning、critical、error、debug五个级别log-level = message #日志存放的路径log-path = /usr/local/mysql-proxy/log #SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,REALTIME代表记录SQL日志且实时写入磁盘,默认为OFF#sql-log = OFF #慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-log-slow(单位:ms)的日志记录。不设置该参数则输出全部日志。#sql-log-slow = 10 #实例名称,用于同一台机器上多个Atlas实例间的区分#instance = test #Atlas监听的工作接口IP和端口proxy-address = 0.0.0.0:1234 #Atlas监听的管理接口IP和端口admin-address = 0.0.0.0:2345 #分表设置,此例中person为库名,mt为表名,id为分表字段,3为子表数量,可设置多项,以逗号分隔,若不分表则不需要设置该项#tables = person.mt.id.3 #默认字符集,设置该项后客户端不再需要执行SET NAMES语句#charset = utf8 #允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接#client-ips = 127.0.0.1, 192.168.1 #Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP),若有LVS且设置了client-ips则此项必须设置,否则可以不设置#lvs-ips = 192.168.1.1

启动atlas

./mysql-proxyd test start

查看发现启动了两个端口

[root@bogon bin]# netstat -nlp | grep mysqltcp        0      0 0.0.0.0:2345            0.0.0.0:*               LISTEN      9103/mysql-proxy    tcp        0      0 0.0.0.0:1234            0.0.0.0:*               LISTEN      9103/mysql-proxy 

其中 1234是mysql客户端连接的端口 2345是管理端口
使用装有mysql客户端的电脑连接

mysql -uroot -proot -h192.168.58.148 -P1234

操作数据库 测试是否自动同步读写 出现问题参考(https://github.com/Qihoo360/Atlas/wiki/Atlas%E7%9A%84%E8%BF%90%E8%A1%8C%E5%8F%8A%E5%B8%B8%E8%A7%81%E9%97%AE%E9%A2%98

2345管理端口可以动态管理 后端服务器的添加和删除,管理密码的处理等 使用mysql客户端登录使用 select * from help查看

所有命令帮助 登录密码就是test.cnf中指定的admin用户名和密码

[root@node1 ~]# mysql -h192.168.58.148 -P2345 -uadmin -padminWelcome to the MariaDB monitor.  Commands end with ; or \g.Your MySQL connection id is 1Server version: 5.0.99-agent-admin  Copyright (c) 2000, 2017, Oracle, MariaDB Corporation Ab and others.  Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.  MySQL [(none)]> show databases;ERROR 1105 (07000): use 'SELECT * FROM help' to see the supported commandsMySQL [(none)]> select * from help    -> ;+---------------------------------------+---------------------------------------------------------+| command                               | description                                             |+---------------------------------------+---------------------------------------------------------+| SELECT * FROM help                    | shows this help                                         || SELECT * FROM backends                | lists the backends and their state                      || SET OFFLINE $backend_id               | offline backend server, $backend_id is backend_ndx's id || SET ONLINE $backend_id                | online backend server, ...                              || ADD MASTER $backend                   | example: "add master 127.0.0.1:3306", ...               || ADD SLAVE $backend                    | example: "add slave 127.0.0.1:3306", ...                || ADD GMASTER $group_id $backend        | example: "add gmaster 1 127.0.0.1:3306", ...            || ADD GSLAVE $group_id $backend         | example: "add gslave 1 127.0.0.1:3306", ...             || REMOVE BACKEND $backend_id            | example: "remove backend 1", ...                        || REMOVE GBACKEND $group_id $backend_id | example: "remove gbackend 1 1", ...                     || SELECT * FROM clients                 | lists the clients                                       || ADD CLIENT $client                    | example: "add client 192.168.1.2", ...                  || REMOVE CLIENT $client                 | example: "remove client 192.168.1.2", ...               || SELECT * FROM pwds                    | lists the pwds                                          || ADD PWD $pwd                          | example: "add pwd user:raw_password", ...               || ADD ENPWD $pwd                        | example: "add enpwd user:encrypted_password", ...       || REMOVE PWD $pwd                       | example: "remove pwd user", ...                         || SAVE CONFIG                           | save the backends to config file                        || SELECT VERSION                        | display the version of Atlas                            |+---------------------------------------+---------------------------------------------------------+19 rows in set (0.00 sec)

三。atlas高可用

atlas使用lvs或者haproxy进行四层代理 达到高可用(lvs安装可以使用简易安装工具 piranha)


image

这里lvs就是反向代理 可以使用nat模型
模拟环境
除之前四台mysql外 另外添加两台主机 配置atlas

192.168.58.146 atlas192.168.58.148 atlas192.168.58.147 lvs

关闭146和148防火墙和selinux

systemctl stop firewalld

atlas安装过程参考章节2 相同的配置ok 配置完成后测试在任意mysql客户端的环境连接

[root@node1 ~]# mysql -uroot -proot -h192.168.58.146 -P1234Welcome to the MariaDB monitor.  Commands end with ; or \g.Your MySQL connection id is 19Server version: 5.0.81-log MariaDB Server Copyright (c) 2000, 2017, Oracle, MariaDB Corporation Ab and others. Type 'help;' or '\h' for help. Type '\c' to clear the current input statement. MySQL [(none)]> exitBye[root@node1 ~]# mysql -uroot -proot -h192.168.58.148 -P1234Welcome to the MariaDB monitor.  Commands end with ; or \g.Your MySQL connection id is 4Server version: 5.0.81-log MariaDB Server Copyright (c) 2000, 2017, Oracle, MariaDB Corporation Ab and others. Type 'help;' or '\h' for help. Type '\c' to clear the current input statement. MySQL [(none)]> 

具体配置原理


image

147上安装lvs(参考http://blog.csdn.net/liaomin416100569/article/details/73300692

yum -y install ipvsadm

虚拟机上添加一个虚拟网卡 参考上面博客 (ip是 192.168.86.116【是vip 对外提供服务的ip】 window主机是 192.168.86.112 所以生成的虚拟ip是86段)
添加lvs集群配置

ipvsadm -A -t 192.168.86.116:3333 -s rripvsadm -a -t 192.168.86.116:3333 -r 192.168.58.146:1234 -mipvsadm -a -t 192.168.86.116:3333 -r 192.168.58.148:1234 -m  

147设置网卡间转发 (修改 /etc/sysctl.conf ) 添加

net.ipv4.ip_forward = 1 

使用命令 sysctl -p 生效
将 目标机器146和148修改为静态ip 同时设置网关为 147 配置如下

146修改配置(其他参数默认)

BOOTPROTO=staticIPADDR=192.168.58.146GATEWAY=192.168.58.147

148同理配置

BOOTPROTO=staticIPADDR=192.168.58.148GATEWAY=192.168.58.147

分别重启网卡

service network restart

在window上使用mysql客户端 访问vip 连接 3333端口测试是否能连接atlas并且测试是否目标机器轮询

C:\Users\jiaozi>mysql -uroot -proot -h192.168.86.116 -P3333Welcome to the MySQL monitor.  Commands end with ; or \g.Your MySQL connection id is 20Server version: 5.0.81-log MariaDB Server Copyright (c) 2000, 2011, Oracle and/or its affiliates. All rights reserved. Oracle is a registered trademark of Oracle Corporation and/or itsaffiliates. Other names may be trademarks of their respectiveowners. Type 'help;' or '\h' for help. Type '\c' to clear the current input statement. mysql> select user();+---------------------+| user()              |+---------------------+| root@192.168.58.146 |+---------------------+1 row in set (0.00 sec) mysql> exitBye C:\Users\jiaozi>mysql -uroot -proot -h192.168.86.116 -P3333Welcome to the MySQL monitor.  Commands end with ; or \g.Your MySQL connection id is 5Server version: 5.0.81-log MariaDB Server Copyright (c) 2000, 2011, Oracle and/or its affiliates. All rights reserved. Oracle is a registered trademark of Oracle Corporation and/or itsaffiliates. Other names may be trademarks of their respectiveowners. Type 'help;' or '\h' for help. Type '\c' to clear the current input statement. mysql> select user();\+---------------------+| user()              |+---------------------+| root@192.168.58.148 |+---------------------+1 row in set (0.00 sec)

四。atlas分表分库
参考 github (https://github.com/Qihoo360/Atlas/wiki/Atlas-Sharding

</article>

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,794评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,050评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,587评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,861评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,901评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,898评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,832评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,617评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,077评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,349评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,483评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,199评论 5 341
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,824评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,442评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,632评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,474评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,393评论 2 352

推荐阅读更多精彩内容