1 准备工作
服务器
名称 | IP | 用途 |
---|---|---|
master01 | 192.168.0.40 | k8smaster节点 |
node01 | 192.168.0.41 | node工作节点 |
node02 | 192.168.0.42 | node工作节点 |
服务器建议关闭swap交换分区。为了让容器读取文件系统,需要关闭SELinux。master和各node之间要相互通讯,由于端口较多,为了简便起见,这里关闭了防火墙(生成环境下,根据事情情况开启对应的端口即可)。开启iptables对L2网桥的处理。
kubeadm与二进制安装的区别
在使用二进制安装k8s时,需要在master节点上安装:
- kube-apiserver,以rest风格向外提供服务(如,管理资源),是集群控制的入口。
- kube-scheduler,负责资源调度
- kube-controller-manager,负责所有资源的自动化控制
- etcd,集群的主数据库
在node节点上需要安装:
- kubelet,负责pod的管理,向master注册,汇报自身情况
- kube-proxy,通讯与负载均衡的组件
- docker,容器引擎
这是都是属于服务器进程,他的安装配置过程非常复杂。
kubeadm是k8s官方提供的安装部署工具,简化了k8s安装过程。它与二进制安装不同的地方是,
- kubeadm是基于容器的,也就是说,在master上的所有组件就是运行在容器中,所以master上也需要安装docker容器引擎。
- 因为master上的组件要基于容器运行,所以需要在master上也安装kubelet,即所有节点都需要安装kubelet。
k8s网络说明
在k8s中有3种不同的网络
- Node IP,节点(服务器)的物理ip,由供应商提供(如IPS运营商),这个的192.168.0.40就是node ip。
- Pod IP,docker分配给每个容器的ip,因为pod可能运行在不同的节点上,所以需要一种网络附件来统一处理pod网络,这里我们采用flannel。
- Cluster IP,service ip这个和k8s资源对象service相关,是由k8s分配的
步骤简要说明
- 在master和node上安装 docker、kubelet、kubeadm,其中,在master上安装还需要安装kubectl命令行工具。
- 在master上kubeadm init
- 在node上kubeadm join
2 配置服务器环境
关闭防火墙(生产环境不要关闭防火墙,开启对应的端口即可)
systemctl stop firewalld && systemctl disable firewalld
关闭swap分区
swapoff -a
#编辑fstab配置文件,注释swap分区一行
vim /etc/fstab
#/dev/mapper/centos-swap swap swap defaults 0 0
关闭SELinux
setenforce 0
# 编辑selinux配置文件,设为disable
vim /etc/selinux/config
SELINUX=disabled
开启iptables的L2网桥处理
cat > /etc/sysctl.d/k8s.conf << EOF
net.bridge.bridge-nf-call-iptables=1
net.bridge.bridge-nf-call-ip6tables=1
net.ipv4.ip_forward=1
EOF
#刷新参数
sysctl --system
设置yum源为阿里的镜像
cp /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.bak
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
yum clean all
yum makecache
设置服务器名称(根据需要设置),以master01为例,node01和node02同理
hostnamectl set-hostname master01
3 安装Dokcer
参考Docker官网安装文档:
安装必要的包,yum-utils
提供了yum-config-manager功能。docker使用的devicemapper存储引擎device-mapper-persistent-data
和lvm2
两个包。
yum install -y yum-utils device-mapper-persistent-data lvm2
设置docker的repo
yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
安装docker
yum install docker-ce docker-ce-cli containerd.io
配置docker的仓库镜像,这里设置的是网页的镜像
cat > /etc/docker/daemon.json << EOF
{
"registry-mirrors" : ["http://hub-mirror.c.163.com"]
}
EOF
启动docker,并设置为开机自动启动
systemctl start docker && systemctl enable docker
查看docker是否运行成功
docker version
4 安装Master节点
配置kubernetes的yum源,这里设置为阿里的yum源
cat > /etc/yum.repos.d/kubernetes.repo <<EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/
enabled=1
gpgcheck=1
repo_gpgcheck=1
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF
安装kubeadm、kubelet和kubectl
yum install kubeadm kubelet kubectl
设置kubelet开机自起
systemctl enable kubelet
这里我们先将k8s所需组件的镜像下载到本地,由于镜像的地址默认在k8s.gcr.io
上,国内无法下载,所以使用阿里的仓库镜像(registry.aliyuncs.com/google_containers)下载
kubeadm config images pull --image-repository=registry.aliyuncs.com/google_containers
完成后可以看到docker中的镜像
docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
registry.aliyuncs.com/google_containers/kube-proxy v1.17.3 ae853e93800d 3 weeks ago 116MB
registry.aliyuncs.com/google_containers/kube-apiserver v1.17.3 90d27391b780 3 weeks ago 171MB
registry.aliyuncs.com/google_containers/kube-controller-manager v1.17.3 b0f1517c1f4b 3 weeks ago 161MB
registry.aliyuncs.com/google_containers/kube-scheduler v1.17.3 d109c0821a2b 3 weeks ago 94.4MB
registry.aliyuncs.com/google_containers/coredns 1.6.5 70f311871ae1 4 months ago 41.6MB
registry.aliyuncs.com/google_containers/etcd 3.4.3-0 303ce5db0e90 4 months ago 288MB
registry.aliyuncs.com/google_containers/pause 3.1 da86e6ba6ca1 2 years ago 742kB
初始化node节点,在init参数中,--image-repository
是上面我们pull的仓库地址,--kubernetes-version
为k8s的版本,有了这两个参数,kubeadm会从本地的镜像去生成容器。
--service-cidr
指定集群的网络
--pod-network-cidr
指定pod的网络
kubeadm init \
--image-repository=registry.aliyuncs.com/google_containers \
--kubernetes-version=v1.17.3 \
--service-cidr=192.168.20.0/16 \
--pod-network-cidr=10.244.0.0/16
...
Your Kubernetes control-plane has initialized successfully!
To start using your cluster, you need to run the following as a regular user:
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config
You should now deploy a pod network to the cluster.
Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:
https://kubernetes.io/docs/concepts/cluster-administration/addons/
Then you can join any number of worker nodes by running the following on each as root:
kubeadm join 192.168.0.40:6443 --token s3bqaf.59ox0voe4c0zf4um \
--discovery-token-ca-cert-hash sha256:094be673ed29065b86751b2557f4e036c64427a56331e36e00490c02648d6e95
将kubeadm join 192.168.0.40:6443 --token s3bqaf.59ox0voe4c0zf4um \ --discovery-token-ca-cert-hash sha256:094be673ed29065b86751b2557f4e036c64427a56331e36e00490c02648d6e95
保存,这个用于node加入master。
配置kubectl环境
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config
查看kubectl 是否可以使用
kubectl get nodes
NAME STATUS ROLES AGE VERSION
master01 NotReady master 2m44s v1.17.3
配置网络
这里我们使用flannel作为k8s的网络插件
kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
运行后上面的命令后,使用docker images查看是否下载flannel镜像,当镜像下载完成后,执行
kubectl get nodes
NAME STATUS ROLES AGE VERSION
master01 Ready master 10m v1.17.3
可以看到STATUS一栏显示为Ready,表示master节点安装成功。
5 安装Node节点
在node节点(192.168.0.41和192.168.0.42)上,配置kubenetes的yum源与上一节相似,不再累述。这里注意,node节点上不需要安装kubectl工具。
yum install kubelet kubeadm
使用上面master安装后的命令,将该节点加入到k8s集群中
kubeadm join 192.168.0.40:6443 --token s3bqaf.59ox0voe4c0zf4um \
--discovery-token-ca-cert-hash sha256:094be673ed29065b86751b2557f4e036c64427a56331e36e00490c02648d6e95
token是有有效期的,如果token过期,可以在master节点使用kubeadm token create
,重新生成token,替换上面的token选项的内容
6 查看各节点
在master节点上
kubectl get nodes
NAME STATUS ROLES AGE VERSION
master01 Ready master 35m v1.17.3
node02 Ready <none> 13m v1.17.3
可以看到节点已准备就绪