k8s1.10.0基于EFK(elasticsearch、fluentd、kibana)日志收集

1、环境介绍:

  • centos7.3
  • k8s 1.10.0
  • elastricsearch 5.6.4镜像
  • kibana 5.6.4镜像
  • fluentd 2.0.4镜像

基于EFK环境的日志收集架构也是官方默认推行的,这些配置的文件可以在官方的github仓库中找到。仓库地址:官方仓库EFK

注意:es和fluentd两个镜像比较特殊需要使用k8s仓库中的dockerfile来进行封装,这里奉上封装好的镜像:

  • docker pull hugow/public_docker:fluentd-elasticsearch-v2.0.4
  • docker pull hugow/public_docker:elasticsearch-v5.6.4

2、下载EFK的配置文件:

image.png

注意!注意!先不要急kubectl create -f ...

就算你倔执行了,反正也是不能成功的^ _ ^!!,皮下很开心?
因为:

  • 1:fluentd-es.ds.yaml配置中pod有对node的label进行选择调度,而我们集群中的node 是没有这个label,所以需要我们手工添加每个节点的label来保证调度的成功,执行如下命令:
    kubectl label nodes 节点名称 beta.kubernetes.io/fluentd-ds-ready=true
    节点名可以通过 kubectl get nodes 来获取
image.png
  • 2:kibana-deployment.yaml中的指定资源使用的api和的路劲和我这个版本的api的路径不一样,导致后面访问不了ui(kibana)的界面,不知道的可以执行如下命令来获取自己相应版本的大致路径,然后修改下就可以了(看了下官方现在默认的是和我k8s是对的上的):
[root@k8s-master2 ~]# kubectl cluster-info
Kubernetes master is running at https://ip:6443
KubeDNS is running at https://ip:6443/api/v1/namespaces/kube-system/services/kube-dns:dns/proxy
image.png

3、安装EFK

$ kubectl apply -f fluentd-es-configmap.yaml
$ kubectl apply -f fluentd-es-ds.yaml
$ kubectl apply -f es-statefulset.yaml
$ kubectl apply -f es-service.yaml
$ kubectl apply -f kibana-deployment.yaml
$ kubectl apply -f kibana-service.yaml

## 查看每个应用的pod是否正常启用,都是处于run的状态
$ kubectl get pods -n kube-system|grep -E 'elasticsearch|fluentd|kibana'

kibana应用在启动初始化的时候会花点时间十几分钟左右吧!喝杯茶(佛系养身)慢慢等会就好了。
可以查看kibana的日志看下初始化情况:


image.png
  • 再次执行下cluster-info可以看到kibana的访问地址如下:
[root@k8s-master1 yaml]# kubectl cluster-info
Kubernetes master is running at https://ip:6443
Elasticsearch is running at https://ip:6443/api/v1/namespaces/kube-system/services/elasticsearch-logging/proxy
Kibana is running at https://ip:6443/api/v1/namespaces/kube-system/services/kibana-logging/proxy
KubeDNS is running at https://ip:6443/api/v1/namespaces/kube-system/services/kube-dns:dns/proxy

如果我们直接访问kibana的https会提示是使用的匿名账户访问会出错
这里我们先临时开启一个非https的端口来测试下kibana

$ kubectl  proxy --address='ip' --port=5601 --accept-hosts='^*$' &

访问该url格式即可:
http://ip:5601/api/v1/proxy/namespaces/kube-system/services/kibana-logging/
这里我们先使用时间作为索引好了

image.png
image.png

总结:

  • kibana基于https的访问我们可以使用api-server的RBAC来进行授权,RBAC的具体权限体系怎么操作还处在探索中,若有大牛了解可以提点下^ _ ^,小弟在此谢过!
  • 测试下来基于docker化后的EFK的平台在做检索需要的日志信息会有点慢,尤其在积累了大量的日志后,个人觉得像EFK这样的有状态而且性能要求稍微较高的,因独立部署,可以将ES和kibana平台单独部署,而fluentd的组件容器化部署会较容易部署而且效率也高。
  • 官方提供的es的配置是使用的是emptyDir来提供存储,该存储会随pod生命周期的结束而结束,所以要是要在生产环境中使用容器化后的es来部署需要提供持久化的存储,使用NFS可能存在读写较慢的情况建议使用ceph作为后端分布式存储,既能保障数据的多副本和数据的读写效率。

在网上找了有关es的持久化存储的资料发现这位大神是比较全面的(膜拜):

https://github.com/gjmzj/kubeasz/blob/master/docs/guide/efk.md

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,142评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,298评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,068评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,081评论 1 291
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,099评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,071评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,990评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,832评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,274评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,488评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,649评论 1 347
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,378评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,979评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,625评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,796评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,643评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,545评论 2 352

推荐阅读更多精彩内容