微服务管理平台nacos虚拟ip负载均衡集群模式搭建
一、Nacos简介
Nacos是用于微服务管理的平台,其核心功能是服务注册与发现、服务配置管理。
Nacos作为服务注册发现组件,可以替换Spring Cloud应用中传统的服务注册于发现组件,如:Eureka、consul等,支持服务的健康检查。
Nacos作为服务配置中心,可以替换Spring Cloud Config。
当然Nacos作为一个微服务管理平台,除了面向spring Cloud,还支持很多其他的微服务基础设施,如:docker、dubbo、kubernetes等。除了核心的服务注册与发现和配置管理功能,还提供了各种服务管理的功能特性,如:动态DNS、服务元数据管理等。
二、Nacos单点部署
Nacos支持单点部署的模式,搭建过程非常简单,实际上nacos的standalone模式没有所谓的安装过程,就是下载和启动。但是这种情况没有高可用支持,所以只适合测试或学习使用。
首先去nacos的github地址下载release安装包。当然你也可以自己下载源码之后进行编译打包,nacos是使用java开发的,使用maven进行编译打包。这里我们就不自己打包了,使用release安装包。下载地址是:https://github.com/alibaba/nacos/releases。在linux系统下可以使用如下的命令下载和解压缩。
#下载nacos wget https://github.com/alibaba/nacos/releases/download/1.1.4/nacos-server-1.1.4.tar.gz; # 解压nacos tar -xvf nacos-server-1.1.4.tar.gz
进入到nacos/bin目录下面,startup命令用于启动nacos,shutdown命令用于停掉nacos。
图片:nacos启动命令
如果你是linux/unix系统,使用sh startup.sh -m standalone脚本启动方式。
如果你是windows系统,双击startup.cmd启动nacos。
nacos的默认服务端口是8848,启动完成之后通过浏览器访问nacos:http://ip:8848/nacos/。看到如下界面,需要登陆,默认的用户名密码都是nacos,登陆之后看到如下界面:
图片:浏览器访问nacos
如果你访问不到上面的界面,请检查你部署的主机操作系统的防火墙设置。以下是为CentOS7系统防火墙开放8848端口的命令,其他系统请自行解决。
firewall-cmd --zone=public --add-port=8848/tcp --permanent firewall-cmd --reload
三、查看主机网卡设备
使用ip addr命令查看linux主机的网络设备
图片:主机网络设备
第一个lo网络ip是回路ip,127.0.0.1,这个是标配
第二个enp0s3网络设备,ip是10.0.2.15,这个是因为我的服务器网络使用了双网卡:桥接+HostOnly模式。正常的服务器是没有的。
第三个enp0s8就是本服务器真正的使用到提供服务的网络ip,如:192.168.161.4。
第四个网络设备是因为我在这台虚拟机上安装过docker,所以有一个docker0的网络设备。
因为较多的网络设备,导致我在后续安装过程出现问题。这里先卖个关子。
四、配置nacos集群
我们准备了三台服务器(虚拟机),192.168.161.3、192.168.161.4、192.168.161.5。在三台服务器上分别下载、解压nacos,并开放8848端口。参考单点standalone部署的模式的操作。然后在conf/cluster.conf中加入三台服务器的ip配置
#ip:port 192.168.161.3:8848 192.168.161.4:8848 192.168.161.5:8848
初始化 MySQL 数据库,sql源文件是在nacos/conf解压目录下面的nacos-mysql.sql文件。sql语句源文件。并在nacos/conf/application.properties中增加mysql配置
spring.datasource.platform=mysql db.num=1 db.url.0=jdbc:mysql://192.168.161.3:3306/testdb?characterEncoding=utf8&connectTimeout=1000&socketTimeout=3000&autoReconnect=true db.user=test db.password=
spring.datasource.platform说明支持数据持久化的数据库类型,已知目前只支持mysql
db.num数据库的数量,我们实验环境只有一个mysql数据库,所以是1
db.url.0表示第一个mysql数据库的jdbc url连接。如果还有第二个、第三个,请增加db.url.n中的n。
问题: 解决网卡获取的不是我们希望绑定的网卡的问题:当我们配置完成之后,使用startup.sh命令启动。发现集群节点列表中并没有任何记录。而且后台服务日志报错,内容如下:
图片:网卡获取的不是我们希望绑定的网卡
分析: 通过日志我们看到nacos程序自动获取的是10.0.2.15这个ip,而我们配置的是192.168.161.x的ip。二者不一致,所以报错。我们看一下获取主机ip的程序源码,如下:
private static String getHostAddress() { String address = System.getProperty("nacos.server.ip"); if (StringUtils.isNotEmpty(address)) { return address; } else { address = "127.0.0.1"; } ... }
解决方案: 看完源码之后,ip是通过System.getProperty获取的,所以我们完全可以通过JVM传参指定ip。在startup.sh的启动脚本中增加nacos.server.ip参数。
#================================================================================= # JVM Configuration #================================================================================ # 单机模式对应的启动参数 if [[ "${MODE}" == "standalone" ]]; then JAVA_OPT="${JAVA_OPT} -Xms512m -Xmx512m -Xmn256m" JAVA_OPT="${JAVA_OPT} -Dnacos.standalone=true" else # 集群模式对应的启动参数 JAVA_OPT="${JAVA_OPT} -server -Xms2g -Xmx2g -Xmn1g -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m" JAVA_OPT="${JAVA_OPT} -XX:-OmitStackTraceInFastThrow -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=${BASE_DIR}/logs/java_heapdump.hprof" JAVA_OPT="${JAVA_OPT} -XX:-UseLargePages" # 新增以下参数设置本机ip地址 JAVA_OPT="${JAVA_OPT} -Dnacos.server.ip=你的服务器的ip" fi
当以上工作都完成之后,我们通过浏览器分别访问nacos服务,看到如下界面。集群管理的节点列表里面已经有三各节点,ip分别是192.168.161.3:8848、192.168.161.4:8848、192.168.161.5:8848。
图片:nacos集群
五、nacos集群架构
在完成nacos集群的配置之后,我们可以通过三个入口分别访问集群内的nacos服务,那下面的问题就是如何将三个入口转成一个入口。目前许多个人开发者写的博客或教程中的方法就是在三个nacos服务的前端加一个负载均衡器,如:nginx、haproxy。然后号称是生产级别的搭建方法,但这种方法是绝对不能用于生产的,因为你的nginx和haproxy是单点,一旦nginx挂了,整个服务就挂了。
图片:nacos集群+负载均衡
nacos官网推荐的方法是使用虚拟ip的方法,如下:
图片:nacos集群+虚拟ip
最开始虚拟ip192.168.161.6可能与192.168.161.3的主机绑定在一起,通过这两个ip都可以访问192.168.161.3主机的nacos服务。
一旦192.168.161.3主机宕机或者其他网络故障,192.168.161.6会自动切换到与192.168.161.4或者192.168.161.5主机绑定在一起。这个过程被叫做虚拟ip的漂移。
这种虚拟ip的方法就是没有使用到负载均衡,访问的仍然是某一个节点的nacos服务,只不过形成了主从备份,提供了高可用。那既可以提供高可用,又可以提供负载均衡的办法可能有的朋友已经想到了,如下图:
图片:nacos集群+负载均衡+虚拟ip
在nacos服务的前端加上nginx或者haproxy的负载均衡器
然后对负载均衡器使用虚拟ip,通过keepalived实现虚拟ip的漂移
用户访问负载均衡器实现对nacos服务的访问,主nginx挂掉,虚拟ip漂移到从nginx负载均衡提供服务
六、nacos集群(虚拟ip漂移)
我们就拿官网中推荐的方法,使用虚拟ip访问nacos集群的方式做个例子讲解一下。为什么不讲第三种?一般系统架构水平到了的人听懂这种方式就知道第三种方式怎么做,水平不到的人听了第三种仍然还是不懂。
6.1.安装配置keepalived
在三台服务器上分别安装keepalived
yum install -y keepalived
在三台服务器上分别修改/etc/keepalived/keepalived.conf
vrrp_instance VI_1 { state MASTER interface enp0s8 virtual_router_id 51 priority 100 advert_int 1 authentication { auth_type PASS auth_pass 123456 } virtual_ipaddress { 192.168.161.6 } }
一台服务器是MASTER,其他的服务器为BACKUP
interface 配置为我们刚刚查看的网卡的名称
virtual_router_id 必须一致,表示这三台服务器抢用一个虚拟ip。
修改priority 优先级,三台服务器要不一样,比如:100、101、102,优先级最高的优先使用虚拟ip。MASTER的优先级一定要高于BACKUP主机
advert_int 是几台服务器之间的同步检查时间,1秒
authentication 的设置必须一致,这样这几台服务器才能通信
修改virtual_ipaddress为三台服务器所在网段内未被占用的IP地址,比如:192.168.161.6
6.2.修改防火墙
CentOS7必须开放防火墙配置,否则三台主机无法就虚拟ip的使用优先级通信,将都是MASTER,都配置虚拟ip。
firewall-cmd --direct --permanent --add-rule ipv4 filter INPUT 0 --protocol vrrp -j ACCEPT; firewall-cmd --reload;
6.3.启动keepalived服务
sudo systemctl restart keepalived.service
推荐:SpringBoot系列精品文章(16章97节), http://springboot.zimug.com
本号只做持续的知识输出,希望您能关注、评论、转发!您的支持是我不竭的创作动力!让知识产生价值、让程序员改变世界!