ELK技术栈(ElasticSearch,Logstash,Kibana,垂直搜索引擎)

基础部分

工作原理

es增删改内部原理

ELK集群安装部署

文档管理

索引管理

搜索

聚合分析

分词

数据建模

Java api

零停机

index segment merge

乐观锁并发控制

索引别名

相关度评分算法与定制

近似聚合算法

doc values与fielddata机制原理

父子关系数据建模

高级部分

地理位置搜索与聚合分析

term vector

suggester search

搜索模板定制

query执行剖析

span query

shard分配定制

多种聚合分析

插件开发

通常,日志被分散的储存不同的设备上。如果你管理数十上百台服务器,你还在使用依次登录每台机器的传统方法查阅日志。这样是不是感觉很繁琐和效率低下。当务之急我们使用集中化的日志管理,例如:开源的syslog,将所有服务器上的日志收集汇总。

集中化管理日志后,日志的统计和检索又成为一件比较麻烦的事情,一般我们使用grep、awk和wc等Linux命令能实现检索和统计,但是对于要求更高的查询、排序和统计等要求和庞大的机器数量依然使用这样的方法难免有点力不从心。

源实时日志分析ELK平台能够完美的解决我们上述的问题,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。实践的目的是了解ELK技术栈的部署和应用。

Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。

Logstash是一个完全开源的工具,他可以对你的日志进行收集、过滤,并将其存储供以后使用(如,搜索)。

Kibana 也是一个开源和免费的工具,它Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。

1、目标

安装部署ELK,使之正常工作。集群工作留待以后再实践。

2、部署的机器

服务器1: 192.168.136.144 部署 ELK 三个程序

服务器2: 192.168.136.138 部署logstash agent

以上机器都为 centos 65 虚拟机

安装的ELK版本为:

elasticsearch-2.4.1.tar.gz

kibana-4.5.1-linux-x64.tar.gz

logstash-2.3.2.tar.gz

说明: 本来用ELK 5.0.0版本,但是碰到一个 logstash与ES 连接的问题(和鉴权相关)目前找不到处理办法,所以采用旧的版本来进行实践。用最新版有风险,入门需谨慎!

3、安装过程

3.1 安装前准备

1)下载上面三个软件并上传到144主机

2) 准备java 1.8 (只要jdk 1.8 就可以)

3.2 安装步骤

ELK技术栈的部署将会按下面几个步骤进行

首先安装ES(Elasticsearch)和ES的插件, 然后安装kibana,最后安装 logstash。 在下篇,还继续进行logstash的agent的安装。

1、安装 ES(Elasticsearch)和ES的插件

首先解压elasticsearch-2.4.1.tar.gz ,然后进入目录

然后,我们要修改 config 目录下的配置文件elasticsearch.yml

要修改的内容为

将上面的内容,修改正确,并且确保前面的#去掉,使得该项目生效。由于ES不支持在root 下运行, 所以需要对目录进行授权。 使用root用户登录,并且执行如下命令

chown +R nmc:nmc /home/nmc/dev/elk/elk2.3/elasticsearch-2.4.1/

说明:上面命令是将这个目录以及这个目录下的子目录都授权给nmc用户,隶属于nmc用户组。

然后,我们切换到nmc用户,使用nmc用户来启动ES。 进入 /home/nmc/dev/elk/elk2.3/elasticsearch-2.4.1/

在命令行,执行: ./bin/elasticsearch

启动后,没有报错就表示成功了,我们可以通过浏览器执行 http://192.168.136.144:9200/ 来查看,出现下面界面就表示成功

下面我们可以进行 es 插件 head的安装。 head 之前的安装比较简单,在es没有启动的时候,执行 ./bin/plugin install mobz/elasticsearch-head

在我的环境下,执行已经无法下来这个包了。(估计5.0出来后,这个包已经整合了) 从网上下载了head 包,解压有,上传到 /home/nmc/dev/elk/elk2.3/elasticsearch-2.4.1/plugins

重启启动es,我们可以通过url http://192.168.136.144:9200/_plugin/head/来查看插件

好了 ES部分的安装就到这里。下面我们来安装 kibana

2、 安装kibana

用root 用户,解压缩 kibana,然后进入到这个目录。修改 config 目录下的kibana.yml

确保上面的配置生效。然后,我们启动kibana。执行 ./bin/kibana启动后,我们通过url http://192.168.136.144:5601/来进入 kibana 界面。

可以按默认的直接创建。然后点击最上方的discover 来观察

3、 下面我们安装logstash。 同样解压后进入该目录,

原来没config目录,我自己建立了一个,并且在config目录,创建一个配置文件。

通过配置文件中 output 将 logstash 与 ES 连接起来。

下面我们启动logstash,启动后,我们从logstash 窗口输入任何的内容,都能通过ES 反馈到 kibana界面上。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,539评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,911评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,337评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,723评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,795评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,762评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,742评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,508评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,954评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,247评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,404评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,104评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,736评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,352评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,557评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,371评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,292评论 2 352

推荐阅读更多精彩内容