Elasticsearch 容器化

基于 Docker18.09.0


介绍

Elasticsearch也可用作Docker镜像。图像使用centos:7作为基本图像。

有关所有已发布的Docker镜像和标记的列表,请访问 www.docker.elastic.co。源代码在 GitHub中

获取镜像

官方文档

docker pull docker.elastic.co/elasticsearch/elasticsearch:6.5.2

启动

开发模式

可以使用以下命令快速启动Elasticsearch以进行开发或测试:

docker run -p 9200:9200 -p 9300:9300 -e "discovery.type=single-node" docker.elastic.co/elasticsearch/elasticsearch:6.5.1

生产模式

生产环境下, 内核参数 vm.max_map_count 最少设置为 262144

设置方法根据自己的平台设置:

  • Linux

  1. 编辑文件 /etc/sysctl.conf
$ grep vm.max_map_count /etc/sysctl.conf
vm.max_map_count=262144
  1. 并执行如下 命令使之生效
sysctl -w 
  • Mac

$ screen ~/Library/Containers/com.docker.docker/Data/vms/0/tty
sysctl -w vm.max_map_count=262144

Elasticsearch集群

下面的实例,将启动两个节点的集群

1. docker-compose.yml:

version: '2.2'
services:
  elasticsearch:
    image: docker.elastic.co/elasticsearch/elasticsearch:6.5.1
    container_name: elasticsearch
    environment:
      - cluster.name=docker-cluster
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - esdata1:/usr/share/elasticsearch/data
    ports:
      - 9200:9200
    networks:
      - esnet
  elasticsearch2:
    image: docker.elastic.co/elasticsearch/elasticsearch:6.5.1
    container_name: elasticsearch2
    environment:
      - cluster.name=docker-cluster
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
      - "discovery.zen.ping.unicast.hosts=elasticsearch"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - esdata2:/usr/share/elasticsearch/data
    networks:
      - esnet

volumes:
  esdata1:
    driver: local
  esdata2:
    driver: local

networks:
  esnet:

2. 执行如下命令启动集群

  • 前台启动
docker-compose up  
  • 后台启动
docker-compose up -d

3. 停止集群

要停止群集,请键入:

docker-compose down

这样的话,数据量将持续存在,因此可以使用docker-compose up使用相同的数据再次启动集群。

要销毁群集和数据卷,只需键入:

docker-compose down -v

4. 检查机器状态

在宿主机上执行如下命令,进行健康检查。

curl http://127.0.0.1:9200/_cat/health

输出:
1544110980 15:43:00 docker-cluster green 2 2 0 0 0 0 0 0 - 100.0%


配置 Elasticsearch

使用容器实现的 Elasticsearch 可以用一下三种方式的任意一种来对其进行配置。

1. 在启动容器的时候,使用 -e 指定 docker 容器的环境变量的方式

例如,要定义群集名称:

-e  "cluster.name=my_ela_clustername"

双引号是必需的。

2. docker run 的时候,使用挂载本地文件到容器中的方式。

Elasticsearch 从下面的目录中加载其配置
/usr/share/elasticsearch/config/

一般,我们会在宿主机中编辑一个自定义的配置文件 elasticsearch.yml, 之后绑定到容器中

--mount type=bind,src=/full_path_to/custom_elasticsearch.yml,dst=/usr/share/elasticsearch/config/elasticsearch.yml

3. Dockerfile 实现

在某些环境中,准备包含配置的自定义映像可能更有意义。利用 Dockerfile 很容易就能实现。

Dockerfile

FROM docker.elastic.co/elasticsearch/elasticsearch:6.5.2 
COPY --chown=elasticsearch:elasticsearch elasticsearch.yml /usr/share/elasticsearch/config/

默认情况下,Elasticsearch 在容器中,将使用名为 elasticsearch的用户,且 uid:gid1000:1000 去运行。
所以注意目录和文件的权限问题。同时还有关注日志目录和数据目录的权限。

这样构建镜像

docker build -t elasticsearch-custom .
docker run -ti --monut type=bind,src=/ela/data,dst=/usr/share/elasticsearch/data elasticsearch-custom

默认值和生产环境下的建议

1. 程序启动的默认用户

在一个Elasticsearch 的容器中,运行程序的默认用户是 elasticsearch,并且其 uid:gid1000:1000

如果要绑定安装本地目录或文件,请确保此用户可以读取它,而数据和日志目录还需要写访问权限。
一个好的策略是授予gid1000 的组访问本地目录的权限。

例如,要准备一个本地目录来通过bind-mount存储数据。

mkdir esdatadir
chmod g+rwx esdatadir
chgrp 1000 esdatadir

2. 设置 ulimitsnofilenproc

ulimitsnofilenproc 对于Elasticsearch容器是至关重要的参数。

可以在 docker run 的时候假如如下代码:

--ulimit nofile=65536:65536

检查以上参数的的默认值

docker run --rm centos:7 /bin/bash -c 'ulimit -Hn && ulimit -Sn && ulimit -Hu && ulimit -Su'

3. 设置 JAVA 虚拟机的堆大小

使用ES_JAVA_OPTS环境变量设置堆大小。
例如,使用16GB,在 docker run 时使用-e ES_JAVA_OPTS="-Xms16g -Xmx16g"

4. 建议始终使用绑定的卷 /usr/share/elasticsearch/data

好处:
a. 如果容器被杀死,弹性搜索节点的数据不会丢失
b. Elasticsearch对I/O敏感,Docker存储驱动程序不适合快速I/O.
c. 它允许使用高级 Docker卷插件

5. 关于存储驱动程序

如果您使用的是devicemapper存储驱动程序,请确保未使用默认loop-lvm模式。配置docker-engine 代替使用 direct-lvm

6. 关于日志记录驱动程序

请考虑使用其他日志记录驱动程序集中日志。
另请注意,默认的 json-file日志记录驱动程序不适合生产使用。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,992评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,212评论 3 388
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,535评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,197评论 1 287
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,310评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,383评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,409评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,191评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,621评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,910评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,084评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,763评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,403评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,083评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,318评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,946评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,967评论 2 351

推荐阅读更多精彩内容

  • 为什么要容器化,部署快速是关键,基于云的AMI,直接 AMI 「packer可以直接构建ami 要学习下,还不会」...
    Secret_Sun阅读 1,826评论 6 3
  • 一 、什么是 Docker Docker 最初是 dotCloud 公司创始人 Solomon Hykes 在法国...
    Blazzer阅读 3,132评论 0 13
  • Docker 日志分为两类: Docker 引擎日志(也就是 dockerd 运行时的日志), 容器的日志,容器...
    ___n阅读 833评论 0 2
  • 得之我幸 某班上自习课,学生纪律不好。有不少学生总在窃窃私语,于是我在黑板上写下:本节课认真学习的同学有: ...
    淡看云舒阅读 108评论 0 0
  • 写作是一种以书面语言表达思想感情的并与人进行交流的行为,写作也是一种技能,具有很强的实践性,也是当今社会发展所...
    读书写作与传统文化阅读 3,096评论 1 8