ELK简介

一、简介:

ELK是三个开源软件的缩写,分别表示:Elasticsearch , Logstash, Kibana

1、Elasticsearch是个开源分布式搜索引擎,提供搜集、分析、存储数据三大功能。

它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。

2、Logstash 主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。

一般工作方式为c/s架构,client端安装在需要收集日志的主机上,server端负责将收到的各节点日志进行过滤、修改等操作在一并发往elasticsearch上去。

3、Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助汇总、分析和搜索重要数据日志。

4、FileBeat,它是一个轻量级的日志收集处理工具(Agent),Filebeat占用资源少,适合于在各个服务器上搜集日志后传输给Logstash,官方也推荐此工具。

二、环境准备

1、本地DNS解析

vim /etc/hosts

192.168.100.100 aaa

192.168.100.10 bbb

2、文件描述符

/etc/systemd/system.conf

/etc/systemd/user.conf

DefaultLimitNOFILE=65536

DefaultLimitNPROC=65536

3、时间同步

查看时间同步systemctl status chronyd

netstat -antup

修改时间同步配置文件

vim /etc/chrony.conf

注释server4行

添加主机

IP server 192.168.100.100

设置所有100网段都可以来我这同步时间

allow 192.168.100.0/24

设置共享

local stratum 10

启动systemctl restart chronyd

在192.168.100.10上操作

安装依赖yum -y install ntpdate

同步时间ntpdate 192.168.100.100

查看全路径which ntpdate

/usr/sbin/ntpdate

编写计划任务crontab –e

* * * * * /usr/sbin/ntpdate 192.168.100.100

查看是否成功systemctl status crond

查看是否成功tail -f /var/log/cron

三、ELASTICSEARCH

1、安装:

yum install -y java-1.8.0-openjdk

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.4.0.rpm

rpm -ivh elasticsearch-6.4.0.rpm

2、配置

vim /etc/elasticsearch/elasticsearch.yml

cluster.name: ccc

node.name: aaa

network.host:192.168.100.100

http.port: 9200

discovery.zen.ping.unicast.hosts: ["aaa"]

启动:systemctl start elasticsearch

开机自启:systemctl enable elasticsearch

查看netstat -antup   看9200端口是否启动

查看内存free–m

http:// http://192.168.100.100:9200/

四、logstash

1、安装:

yum install java-1.8.0-openjdk.x86_64 -y

wget https://artifacts.elastic.co/downloads/logstash/logstash-6.4.0.rpm

rpm -ivh logstash-6.4.0.rpm

2、配置

搜集系统内核日志:chmod 644 /var/log/messages

vim /etc/logstash/conf.d/syslog.conf

input {

  file {

    path => "/var/log/messages"

    type => "systemlog"

    start_position => "beginning"

    stat_interval => "2"

  }

}

output {

  elasticsearch {

    hosts => ["192.168.100.100:9200"]

    index => "logstash-systemlog-%{+YYYY.MM.dd}"

  }

}

启动:systemctl start logstash

systemctl enable logstash

3、验证:curl -XGET 'localhost:9600/?pretty'

9600端口:API来检索有关Logstash的运行时指标

五、kibana

1、安装:

rpm -ivh kibana-6.4.0-x86_64.rpm

2、配置

vim /etc/kibana/kibana.yml

server.port: 5601

server.host: "192.168.100.100"

elasticsearch.url: "http://192.168.100.100:9200"

systemctl start kibana

systemctl enable kibana

3、验证

http://192.168.100.100:5601/status


4、nginx+kibana

yum安装nginx

启动nginx

拷贝一份监控logstash日志的文件用来修改成监控nginx文件

cp /etc/logstash/conf.d/syslog.conf /etc/logstash/conf.d/nginx.conf

Cd进去修改成监控nginx日志格式

cd /etc/logstash/conf.d/

vim nginx.conf

启动logstash

systemctl restart logstash


访问nginx给他添加访问日志

Yum -y install httpd

启动httpd

systemctl restart httpd

DOS攻击 100次

ab -n 100 -c 10 http://192.168.6.139/index.html

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,723评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,003评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,512评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,825评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,874评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,841评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,812评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,582评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,033评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,309评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,450评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,158评论 5 341
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,789评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,409评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,609评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,440评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,357评论 2 352

推荐阅读更多精彩内容

  • 搜索引擎介绍Elasticsearch的使用Logstash的使用Filebeat的使用Kibana的使用Elas...
    哈喽别样阅读 920评论 1 4
  • 本人陆陆续续接触了ELK的1.4,2.0,2.4,5.0,5.2版本,可以说前面使用当中一直没有太多感触,最近使用...
    三杯水Plus阅读 4,098评论 0 12
  • Linux-Server-Notes PMS /home/softwareluke/图片/2017-09-11 0...
    燕京博士阅读 569评论 0 1
  • ELK初探 需求背景: 业务发展越来越大,服务器越来越多,各种访问日志,应用日志,错误日志也越来越多,开发人员排查...
    漠林sky阅读 631评论 0 6
  • 无边的黑夜 人间,迤逦亭台楼阁 你 独自高悬 带我穿过这莽原 你 越是明亮 我 越是苦寒 你,越是皎洁 我,越是旷远
    李敏南京阅读 154评论 0 0