ELK(Elasticsearch + Logstash + Kibana + redis)快速搭建(一)

写在前面

首先,最好的学习方式是:看官网!版本更新后,有些接口会跟着改变,因此官网是最好的指导书!

其次,出现问题时,1.看log!  2. 看官网!


我的系统架构

先介绍一下我的系统架构,以便参考。

需求:收集线上服务器的各种log,然后分析并可视化,对某些级别的log进行告警。

痛点:1)线上服务器较多,较分散

   2)log比较庞大

根据我的需求,采用了以下架构。

1) files ---> logstash --> redis

2) redis--> logstash --> elasticsearch --> kibana

首先,要收集的logfile分布在不同的服务器上,通过logstash将不同服务器的logfile收集到redis.

然后,再使用logstash从redis中读取log,到es cluster,从而通过kibana可视化输出。

这样做,可以使得收集log和处理log解耦,以免一边出错带来的影响。

注:我的系统为ubuntu16.04


前提条件

 ELK基于jdk,因此需要先安装jdk.本文使用源码安装。 

 1. 下载jdk 

http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

 2. 解压 

  tar xzvf jdk-8u144-linux-x64.tar.gz 

 3. 配置环境变量 

  sudo vi /etc/profile 

  在最后加入: 

  export JAVA_HOME=/home/radmin/Software/jdk1.8.0_144 

 export PATH=$JAVA_HOME/bin:$PATH 

 4. 加载环境变量使之生效 

  source /etc/profile 

 5. 检查java安装是否OK 

  java --version


ELK安装及配置

本文仅介绍源码安装

1. 下载源码elasticsearch, logstash, kibana

https://www.elastic.co/downloads

elasticsearch-6.3.1.tar.gz

kibana-6.3.1-linux-x86_64.tar.gz 

logstash-6.3.2.tar.gz

2. 解压包

 tar xzvf elasticsearch-6.3.1.tar.gz

 tar xzvf kibana-6.3.1-linux-x86_64.tar.gz 

 tar xzvf logstash-6.3.2.tar.gz

3. 下载redis并安装配置

sudo apt-get install redis-server

安装完,通过以下命令查看安装是否成功

ps -ef | grep redis

        redis     18628    1  0 18:42 ?        00:00:00 /usr/bin/redis-server 127.0.0.1:6379

修改配置文件,设置密码,并修改IP

sudo vim /etc/redis/redis.conf

        bind <your_IP>

        requirepass <your_password>

重启redis

sudo service redis restart

查看进程:

ps -ef|grep redis

        redis    18628    1  0 18:42 ?        00:00:00 /usr/bin/redis-server <your_ip>:6379

4. 配置ELK

1) Elasticsearch

vi config/elasticsearch.yaml

       cluster.name: <your_cluster>

       node.name: <your_ip>

       path.data: /home/elastic/data

        path.logs: /home/elastic/logs

        network.host: 0.0.0.0

        http.port: 9200

        discovery.zen.ping.unicast.hosts: ["your_host"]

启动elasticsearch

nohup ./elasticsearch -d

2) Kibana

vi config/kibana.yml

server.port: 5601

server.host: "<your_host>"

elasticsearch.url: "http://<your_host>:9200"

启动kibana

nohup ./kibana &

3) Logstash

添加配置文件(关于logstash的配置文件,在后续章节中记录)

nohup bin/logstash -f xxx.conf --config.reload.automatic &


问题:

1) 起elasticsearch时报错:

ERROR: [1] bootstrap checks failed

[1]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]

sudo vi /etc/sysctl.conf

vm.max_map_count=655300

sudo sysctl -p

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,657评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,662评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,143评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,732评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,837评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,036评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,126评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,868评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,315评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,641评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,773评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,470评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,126评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,859评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,095评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,584评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,676评论 2 351

推荐阅读更多精彩内容