部署ES集群

一、下载Elasticsearch

官方文档:https://www.elastic.co/guide/en/welcome-to-elastic/current/getting-started-general-purpose.html
下载地址:https://www.elastic.co/cn/downloads/past-releases#elasticsearch

二、部署Elasticsearch(本次部署7.4.2)---所有节点

2.1 上传elasticsearch

# 新版本elk自带jdk,可以不需要单独配java环境。
mkdir /data
tar -xzf elasticsearch-7.4.2-linux-x86_64.tar.gz -C /data/

# 创建用户 elasticsearch 不允许使用root用户启动
useradd elsearch
echo "123456" | passwd --stdin "elsearch"

2.2 修改配置文件

cd /data/elasticsearch-7.4.2/config/
cp elasticsearch.yml elasticsearch.yml.bak
vim elasticsearch.yml

# 集群名称
cluster.name: cluster-elasticsearch
# 节点名称,每个节点的名称不能重复
node.name: es-01
# ip 地址,每个节点的地址不能重复
network.host: 192.168.6.187
# 是不是有资格主节点
node.master: true
node.data: true
path.data: /data/elasticsearch-7.4.2/data
path.logs: /data/elasticsearch-7.4.2/logs
http.port: 9200
# head 插件需要这打开这两个配置
http.cors.allow-origin: "*"
http.cors.enabled: true
http.max_content_length: 200mb
# 初始化一个新的集群时需要此配置来选举 master
cluster.initial_master_nodes: ["es-01"]
# 节点发现
discovery.seed_hosts: ["192.168.6.187:9300","192.168.6.190:9300","192.168.6.191:9300"]
gateway.recover_after_nodes: 2
network.tcp.keep_alive: true
network.tcp.no_delay: true
transport.tcp.compress: true
# 集群内同时启动的数据任务个数,默认是 2 个
cluster.routing.allocation.cluster_concurrent_rebalance: 16
# 添加或删除节点及负载均衡时并发恢复的线程个数,默认 4 个
cluster.routing.allocation.node_concurrent_recoveries: 16
# 初始化数据恢复时,并发恢复线程的个数,默认 4 个
cluster.routing.allocation.node_initial_primaries_recoveries: 16

2.3 创建ES数据及日志存储目录

mkdir -p /data/elasticsearch-7.4.2/data
mkdir -p /data/elasticsearch-7.4.2/logs
chown -R elsearch:elsearch /data/elasticsearch-7.4.2

2.4 参数优化

vim /etc/security/limits.conf
# 在文件末尾中增加下面内容 
# 每个进程可以打开的文件数的限制
* soft nofile 102400
* hard nofile 102400
* soft nproc 4096
* hard nproc 4096
注:* 带表 Linux 所有用户名称

vim /etc/sysctl.conf
# 在文件中增加下面内容 
# 一个进程可以拥有的 VMA(虚拟内存区域)的数量,默认值为 65536 
vm.max_map_count=655360

sysctl -p

2.4 修改ES最大堆内存

vim jvm.options
JAVA默认堆内存是物理内存的1/4 
配置文件存放路径:$ES_HOME/config/jvm.options

-Xms4g
-Xmx4g

确保堆内存最小值(Xms)与最大值(Xmx)的大小相同,防止程序在运行时改变堆内存大小。
堆内存大小不要超过系统内存的50%

2.6 启动并测试

su - elsearch
cd /data/elasticsearch-7.4.2;nohup bin/elasticsearch &
tail -f nohup.out

浏览器中输入地址:http://IP:9200

三、配置es开机自启

# 先查看当前的开机启动服务
chkconfig --list
# 创建es 的系统启动服务文件,进入到 cd /etc/init.d 目录
cd /etc/init.d
# 编写启动脚本
vim elasticsearch

#!/bin/bash
#chkconfig: 345 63 37
#description: elasticsearch
#processname: elasticsearch-7.4.2
export ES_HOME=/data/elasticsearch-7.4.2
case $1 in
        start)
                su elsearch<<!
                cd $ES_HOME
                ./bin/elasticsearch -d -p pid
                exit
!
                echo "elasticsearch is started"
                ;;
        stop)
                pid=`cat $ES_HOME/pid`
                kill -9 $pid
                echo "elasticsearch is stopped"
                ;;
        restart)
                pid=`cat $ES_HOME/pid`
                kill -9 $pid
                echo "elasticsearch is stopped"
                sleep 1
                su elsearch<<!
                cd $ES_HOME
                ./bin/elasticsearch -d -p pid
                exit
!
                echo "elasticsearch is started"
        ;;
    *)
        echo "start|stop|restart"
        ;;
esac
exit 0

# 修改文件权限
chmod 777 elasticsearch
# 添加和删除服务并设置启动方式;
chkconfig --add elasticsearch    【添加系统服务】
chkconfig --del elasticsearch    【删除系统服务】

# 关闭和启动服务;
service elasticsearch start     【启动】
service elasticsearch stop      【停止】
service elasticsearch restart      【重启】

# 设置服务是否开机启动;
chkconfig elasticsearch on        【开启】
chkconfig elasticsearch off   【关闭】
 -------------------------------

# 验证是否已启动命令
ps -ef | grep elasticsearch    【查看是否有es的进程】
结束进程命令用kill -9  进程ID

四、Elasticsearch定时清理

在部署es服务器执行这个命令就可以删除日志
curl -XDELETE 'http://192.168.5.51:9200/*2022.09.26'




# 定时清理索引脚本

#!/bin/bash
######################################################
# $Name:        clean_index.sh
# $Version:     v1.0
# $Function:    delete es index
# $Author:      Habits
# $Create Date: 2022-09-26
# $Description: shell
######################################################
#脚本的日志文件路径
CLEAN_LOG="/root/clean_index.log"
#es地址
SERVER_PORT=192.168.3.201:9200
#保留的时间,单位天
DELTIME=1
SECONDS=$(date -d  "$(date  +%F) -${DELTIME} days" +%s)
INDEXS=$(curl -s -u  elastic:changeme  "${SERVER_PORT}/_cat/indices?v"|awk '{print $3}')
echo "-------------------$(date +%F_%T)---------------"  >>${CLEAN_LOG}
for del_index in ${INDEXS}
do 
     timeString=$( echo ${del_index} |awk -F"-" '{print $NF}'|egrep "[2][0][0-9]*\.[0-9]*\.[0-9]*")
     if [ -n "$timeString" ]
     then
         indexDate=${timeString//./-}
         indexSecond=$( date -d ${indexDate} +%s )
         if [ $(( $SECONDS- $indexSecond )) -gt 0 ]
         then
             delResult=`curl -s -u elastic:changeme  -XDELETE "${SERVER_PORT}/"${del_index}"?pretty" |sed -n '2p'`
             echo "delete index:$del_index result:$delResult" >>${CLEAN_LOG}
         fi
     fi
     
done 
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,137评论 6 511
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,824评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,465评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,131评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,140评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,895评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,535评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,435评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,952评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,081评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,210评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,896评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,552评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,089评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,198评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,531评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,209评论 2 357

推荐阅读更多精彩内容