1. 安装要求
在开始之前，部署Kubernetes集群机器需要满足以下几个条件：
- 一台或多台机器，操作系统 CentOS7.x-86_x64
- 硬件配置：2GB或更多RAM，2个CPU或更多CPU，硬盘30GB或更多
- 集群中所有机器之间网络互通
- 可以访问外网，需要拉取镜像
- 禁止swap分区
2. 学习目标
- 在所有节点上安装Docker和kubeadm
- 部署Kubernetes Master
- 部署容器网络插件
- 部署 Kubernetes Node，将节点加入Kubernetes集群中
- 部署Dashboard Web页面，可视化查看Kubernetes资源
3. 准备环境
关闭防火墙：
systemctl stop firewalld
systemctl disable firewalld
关闭selinux：
sed -i 's/enforcing/disabled/' /etc/selinux/config
setenforce 0
关闭swap：
$ swapoff -a $ 临时
$ vim /etc/fstab $ 永久
添加主机名与IP对应关系（记得设置主机名）：
$ cat >> /etc/hosts <<EOF
10.211.55.9 node1
10.211.55.10 node2
10.211.55.11 node3
EOF
将桥接的IPv4流量传递到iptables的链：
$ cat > /etc/sysctl.d/k8s.conf << EOF
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF
$ sysctl --system
4.1 安装Docker
wget https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo -O /etc/yum.repos.d/docker-ce.repo
yum -y install docker-ce-18.06.1.ce-3.el7
systemctl enable docker && systemctl start docker
docker --version
Docker version 18.06.1-ce, build e68fc7a
4.2 添加阿里云YUM软件源
$ cat > /etc/yum.repos.d/kubernetes.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF
4.3 安装kubeadm，kubelet和kubectl
由于版本更新频繁，这里指定版本号部署：
yum install -y kubelet-1.15.0 kubeadm-1.15.0 kubectl-1.15.0
systemctl enable kubelet
5. 部署Kubernetes Master
在192.168.31.63（Master）执行。
$ kubeadm init \
--apiserver-advertise-address=10.211.55.9 \
--image-repository registry.aliyuncs.com/google_containers \
--kubernetes-version v1.15.0 \
--service-cidr=10.1.0.0/16 \
--pod-network-cidr=10.244.0.0/16
//完成后会出现字样
kubeadm join 10.211.55.9:6443 --token 9pp93e.86ze9dqw3xtckt8e \
--discovery-token-ca-cert-hash sha256:35e591068a4e40da3169821864aaa7f739e148108fc25b472b9ff96fa0af53eb
由于默认拉取镜像地址k8s.gcr.io国内无法访问，这里指定阿里云镜像仓库地址。
master使用kubectl工具：
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config
$ kubectl get nodes //发现没准备好,发现是网络没加入
6. node加入Kubernetes Node
在Node）执行。
向集群添加新节点，执行在kubeadm init输出的kubeadm join命令：
$ kubeadm join 192.168.31.61:6443 --token esce21.q6hetwm8si29qxwn \
--discovery-token-ca-cert-hash sha256:00603a05805807501d7181c3d60b478788408cfe6cedefedb1f97569708be9c5
7. master 安装Pod网络插件flannel（CNI）
$ kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/a70459be0084506e4ec919aa1c114638878db11b/Documentation/kube-flannel.yml
如果连接不了
svn checkout https://github.com/coreos/flannel/trunk/Documentation
下载文件夹然后去里面去kube-flannel.yaml
确保能够访问到quay.io这个registery。
如果下载失败，可以改成这个镜像地址：lizhenliang/flannel:v0.11.0-amd64
7. master 安装Pod网络插件calico（CNI）
准备：（因为某些镜像拉不下来）
docker save quay.azk8s.cn/calico/cni:v3.8.6 \
quay.azk8s.cn/calico/pod2daemon-flexvol:v3.8.6 \
quay.azk8s.cn/calico/node:v3.8.6 \
quay.azk8s.cn/calico/kube-controllers:v3.8.6 \
> calico.tar
传过去之后 docker load < calico.tar
wget -c https://docs.projectcalico.org/v3.8/getting-started/kubernetes/installation/hosted/kubernetes-datastore/calico-networking/1.7/calico.yaml
将里面的/calico/node:v3.8.6 镜像改前缀quay.azk8s.cn
和 CALICO_IPV4POOL_CIDR参数改成10.244.0.0/16（可能是和前面kubeadm init的 pod-network-cidr有关）
然后在主节点
kubectl apply -f calico.yaml
备注： 感觉像是先 calico node 部署好=》calico controller 部署好=》coredns
8. 测试kubernetes集群
在Kubernetes集群中创建一个pod，验证是否正常运行：
$ kubectl create deployment nginx --image=nginx
$ kubectl expose deployment nginx --port=80 --type=NodePort
$ kubectl get pod,svc
访问地址：http://NodeIP:Port
9. 部署 Dashboard
$ kubectl apply -f https://raw.githubusercontent.com/kubernetes/dashboard/v1.10.1/src/deploy/recommended/kubernetes-dashboard.yaml
默认镜像国内无法访问，修改镜像地址为： lizhenliang/kubernetes-dashboard-amd64:v1.10.1
默认Dashboard只能集群内部访问，修改Service为NodePort类型，暴露到外部：
kind: Service
apiVersion: v1
metadata:
labels:
k8s-app: kubernetes-dashboard
name: kubernetes-dashboard
namespace: kube-system
spec:
type: NodePort
ports:
- port: 443
targetPort: 8443
nodePort: 30001
selector:
k8s-app: kubernetes-dashboard
$ kubectl apply -f kubernetes-dashboard.yaml
访问地址：http://NodeIP:30001
创建service account并绑定默认cluster-admin管理员集群角色：
$ kubectl create serviceaccount dashboard-admin -n kube-system
$ kubectl create clusterrolebinding dashboard-admin --clusterrole=cluster-admin --serviceaccount=kube-system:dashboard-admin
$ kubectl describe secrets -n kube-system $(kubectl -n kube-system get secret | awk '/dashboard-admin/{print $1}')
使用输出的token登录Dashboard。
安装helm
kubectl create serviceaccount --namespace kube-system helm-tiller
kubectl create clusterrolebinding helm-tiller-cluster-rule --clusterrole=cluster-admin --serviceaccount=kube-system:helm-tiller
curl -L -o helm-v2.14.3-linux-amd64.tar.gz https://file.choerodon.com.cn/kubernetes-helm/v2.14.3/helm-v2.14.3-linux-amd64.tar.gz
tar -zxvf helm-v2.14.3-linux-amd64.tar.gz
sudo mv linux-amd64/helm /usr/bin/helm
helm init \
--history-max=3 \
--tiller-image=gcr.azk8s.cn/kubernetes-helm/tiller:v2.14.3 \
--stable-repo-url=https://mirror.azure.cn/kubernetes/charts/ \
--service-account=helm-tiller
发个小广告~ 我们部门目前缺一半的研发~
字节跳动 后端部门直推~ 无需笔试。
简历发送到 wangzhenle@bytedance.com
