Elasticsearch学习笔记(7)

目录

Bootstrap Checks

总的来说,我们有很多用户遇到意外问题的经验,因为他们没有配置重要的设置。在以前的Elasticsearch版本中,其中一些设置的错误配置被记录为警告。可以理解,用户有时会错过这些日志消息。为了确保这些设置得到应有的关注,Elasticsearch在启动时进行了引导检查。

这些引导检查检查各种Elasticsearch和系统的设置,并将它们与适合Elasticsearch操作的值进行比较。如果弹性搜索处于发展模式,任何失败的引导检查都会作为警告出现在Elasticsearch日志中。如果Elasticsearch处于生产模式,任何引导检查失败都会导致Elasticsearch拒绝启动。

有一些引导检查总是强制执行,以防止Elasticsearch在不兼容的设置下运行。这些检查是单独记录的。

开发模式 vs 生产模式

默认情况下,Elasticsearch绑定回路地址,用于HTTP和传输(内部)通信。对于下载,把玩,以及日常开发来说这是很好的,但是对于生产系统来说是没有用的。要加入一个集群,一个Elasticsearch节点必须能够通过传输通信到达。要通过非环回地址加入集群,节点必须将传输绑定到非环回地址,并且不能使用单节点发现。因此,如果一个Elasticsearch节点不能通过非环回地址与另一台机器形成集群,则认为该节点处于开发模式,如果它可以通过非环回地址加入集群,那么它就处于生产模式。

注意,HTTP和传输可以独立配置通过http.hosttransport.host;对于将单个节点通过HTTP配置为可访问的,来达到测试目的而无需触发生产模式,这非常有用。

单节点发现

我们意识到一些用户需要将传输绑定到外部接口,以测试传输客户机的使用情况。对于这种情况,我们提供发现类型single-node (通过设置discovery.type为single-node来配置它);在这种情况下,节点将选择自己为主节点,而不会与任何其他节点连接集群。

强制引导检查

如果您在生产环境中运行单个节点,有可能逃避引导检查(要么不将传输绑定到外部接口,要么将传输绑定到外部接口并将发现类型设置为单节点)。对于这种情况,可以通过设置系统属性强制执行引导检查 es.enforce.bootstrap.checkstrue(在Setting JVM options中设置这个, 或者用过增加-Des.enforce.bootstrap.checks=true到环境变量ES_JAVA_OPTS)。如果您处于这种特殊情况,我们强烈鼓励您这样做。此系统属性可用于强制执行独立于节点配置的引导检查。

Heap size check

如果JVM以不相等的初始和最大堆大小启动,那么在系统使用期间,当JVM堆被调整大小时,它很容易暂停。为了避免这些调整大小暂停,最好启动JVM时初始堆大小等于最大堆大小。另外,如果bootstrap.memory_lock启用,JVM将在启动时锁定堆的初始大小。如果初始堆大小不等于最大堆大小,则在调整大小之后,不会将所有JVM堆锁定在内存中。要通过堆大小检查,必须配置heap size

File descriptor check

文件描述符是用于跟踪打开的“文件”的Unix构造。在Unix中,everything is file。例如,“文件”可以是物理文件、虚拟文件(例如/proc/loadavg)或网络套接字。Elasticsearch需要大量的文件描述符(例如,每个碎片由多个段和其他文件组成,加上到其他节点的连接,等等)。这个引导检查是在OS X和Linux上强制执行的。要通过文件描述符检查,可能需要配置文件描述符

Memory lock check

当JVM执行一次主要的垃圾收集时,它会触及堆的每个页面。如果这些页面中的任何一个被交换到磁盘,它们将不得不被交换回内存。这会导致大量磁盘抖动,而Elasticsearch更愿意使用这些磁盘抖动来服务请求。有几种方法可以配置系统来禁止交换。一种方法是请求JVM通过mlockall (Unix)或virtual lock (Windows)锁定内存中的堆。这是通过Elasticsearch设置bootstrap.memory_lock完成的。但是,在某些情况下,这个设置可以传递给Elasticsearch,但是Elasticsearch不能锁定堆(例如,如果elasticsearch用户没有memlock unlimited)。内存锁检查验证是否bootstrap.memory_lock设置被启用,JVM能够成功锁定堆。要通过内存锁检查,您可能需要配置bootstrap.memory_lock。

线程最大数检查

Elasticsearch通过将请求分解为多个阶段并将这些阶段传递给不同的线程池执行器来执行请求。对于Elasticsearch中的各种任务,有不同的线程池执行器。因此,Elasticsearch需要创建大量线程的能力。最大线程数检查确保Elasticsearch进程有权在正常使用下创建足够的线程。此检查仅在Linux上强制执行。如果您在Linux上,要通过最大线程数检查,您必须配置您的系统,使Elasticsearch进程能够创建至少4096个线程。这可以通过/etc/security/limited.conf使用nproc设置来实现(请注意,您可能还必须增加root用户的限制)。

最大文件大小检查

作为单个碎片组件的段文件和作为translog组件的translog生成可以变得很大(超过多个gb)。在系统上弹性搜索进程可以创建的文件的最大大小是有限定的,这会导致写操作失败。因此,这里最安全的选项是最大文件大小是无限的,这就是最大文件大小引导检查的作用。要通过最大文件检查,您必须配置您的系统,使Elasticsearch进程能够写入无限大小的文件。这可以通过修改/etc/security/limited.conf文件中fsize设置为unlimited(注意,您可能还需要增加root用户的限制)。

最大虚拟内存检查

Elasticsearch和Lucene使用mmap非常有效地将索引的部分映射到Elasticsearch地址空间。这使某些索引数据远离JVM堆,但保存在内存中,以便快速访问。为了有效,弹性搜索应该有无限的地址空间。最大大小的虚拟内存检查强制Elasticsearch进程具有无限的地址空间,并且仅在Linux上执行。要通过最大大小的虚拟内存检查,您必须配置您的系统,使Elasticsearch进程能够拥有无限的地址空间。这可以通过修改/etc/security/kimits.conf文件,将as设置为unlimited来实现(注意,您可能还需要增加root用户的限制)。

最大map数检查

从上一节继续,为了有效使用mmap,Elasticsearch还要求具有创建多个内存映射区域的能力。最大映射计数检查内核是否允许进程拥有至少262,144个内存映射区域,并且仅在Linux上强制执行。要通过最大映射计数检查,必须通过sysctlvm.max_map_count设置为至少262144。

或者,只有在使用mmapfs作为索引的存储类型时,才需要检查最大映射计数。如果不允许使用mmapfs,则不会强制执行此引导检查。

客户端JVM检查

openjdk派生的JVM提供了两种不同的JVM:客户机JVM和服务器JVM。这些jvm使用不同的编译器从Java字节码生成可执行的机器码。客户机JVM根据启动时间和内存占用进行优化,而服务器JVM则根据性能最大化进行优化。这两个vm之间的性能差异可能很大。客户机JVM检查确保Elasticsearch不在客户机JVM中运行。要通过客户端JVM检查,必须使用服务器VM启动Elasticsearch。在现代系统和操作系统上,服务器VM是默认的。

使用串行搜集器检查

针对不同工作负载的openjdk派生jvm有各种垃圾收集器。串行收集器尤其适合于单个逻辑CPU机器或非常小的堆,它们都不适合运行Elasticsearch。使用带有弹性搜索的串行收集器会对性能造成很大的破坏。串行收集器检查确保Elasticsearch没有配置为与串行收集器一起运行。要通过串行收集器检查,您不能使用串行收集器启动Elasticsearch(无论是来自您正在使用的JVM的默认值,还是您已经用-XX:+UseSerialGC显式地指定了它)。请注意,随Elasticsearch附带的默认JVM配置将Elasticsearch配置为使用CMS收集器。

系统调用过滤器检查

Elasticsearch根据操作系统(例如Linux上的seccomp)安装各种风格的系统调用过滤器。安装这些系统调用过滤器是为了防止执行与分叉相关的系统调用的能力,分叉是一种防御机制,用于抵御对Elasticsearch上任意代码执行攻击。要通过系统调用筛选器检查,您必须修复系统上阻止系统调用筛选器安装的任何配置错误(检查日志),或者通过设置bootstrap.system_call_filterfalse禁用系统调用过滤器。

OnError和OnOutOfMemoryError检查

如果JVM遇到致命错误(OnError)或OutOfMemoryError (OnOutOfMemoryError),则JVM选项OnError和OnOutOfMemoryError允许执行任意命令。但是,在默认情况下,Elasticsearch系统调用过滤器(seccomp)是启用的,这些过滤器可以防止分叉。因此,使用OnError或OnOutOfMemoryError与系统调用筛选器是不兼容的。OnError和OnOutOfMemoryError检查防止在使用这两个JVM选项之一并启用系统调用筛选器时启动Elasticsearch。这种检查总是强制执行的。要通过此检查,请不要启用OnError或OnOutOfMemoryError;或者,升级到Java 8u92并使用JVM标志ExitOnOutOfMemoryError。虽然它不具备OnError或OnOutOfMemoryError的全部功能,但在启用seccomp的情况下,不支持任意分支。

抢险体验检查

OpenJDK项目提供了即将发布的版本的早期访问快照。这些版本不适合生产。早期访问检查检测这些早期访问快照。要通过这个检查,必须在JVM的发布版本上启动Elasticsearch。

G1GC检查

JDK 8附带的HotSpot JVM的早期版本已知在启用G1GC收集器时存在可能导致索引损坏的问题。受影响的版本是JDK 8u40附带的HotSpot版本之前的版本。G1GC检查检测HotSpot JVM的这些早期版本。

所有权限检查

所有权限检查确保在引导过程中使用的安全策略不会授予java.security.AllPermission给Elasticsearch。在授予所有权限的情况下运行等同于禁用安全管理器。

下一章 —— Elasticsearch学习笔记(8)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,033评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,725评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,473评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,846评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,848评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,691评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,053评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,700评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,856评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,676评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,787评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,430评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,034评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,990评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,218评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,174评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,526评论 2 343

推荐阅读更多精彩内容