分布式特性

• Elasticsearch的分布式架构带来的好处
  • 存储的水平扩展，支持PB级数据
  • 提高系统的可用性，部分节点停止服务，整个集群的服务不受影响
• Elasticsearch的分布式架构
  • 不同的集群通过不同的名字来区分，默认名字“elasticsearch”
  • 通过配置文件修改，或者在命令行中 -E cluster.name=cluster0进行设定

节点

• 节点是一个Elasticsearch的实例
  • 其本质上就是一个JAVA进程
  • 一台机器上可以运行多个Elasticsearch进程，但是生产环境一般建议一台机器上就运行一个Elasticsearch实例
• 每一个节点都有名字，通过配置文件配置，或者启动时候 -E node.name=node0指定
• 每一个节点在启动之后，会分配一个UID，保存在data目录下

Coordinating Node

• 处理请求的节点，叫Coordinating Node
  • 路由请求到正确的节点，例如创建索引的请求，需要路由到Master节点
• 所有节点默认都是Coordinating Node
• 通过将其他类型设置成false，使其成为Dedicated Coordinating Node

启动节点，Cerebro介绍

• 启动一个节点
  • bin/elasticsearch -E node.name=node1 -E cluster.name=cluster1 -E path.data=node1_data -E http.port=9200
• https://github.com/lmenezes/cerebro/releases
  • Overview / Filter by node / index
  • Nodes
  • REST / More
  • Health Status
• 启动cerebro
  • bin/cerebro
  • 访问http://localhost:9000

cerebro示意图

Data Node

• 可以保存数据的节点，叫做Data Node
  • 节点启动后，默认就是数据节点。可以设置node.data:fase禁止
• Data Node的职责
  • 保存分片数据，在数据扩展上起到了至关重要的作用（由Master Node决定如何把分片分发到数据节点上）
• 通过增加数据节点
  • 可以解决数据水平扩展和解决数据单点问题

Master Node

• Master Node的职责
  • 处理创建，删除索引等请求 / 决定分片被分配到哪个节点 / 负责索引的创建与删除
  • 维护并更新Cluster State
• Master Node的最佳实践
  • Master节点非常重要，在部署上需要考虑解决单点的问题
  • 为一个集群设置多个Master节点 / 每个节点只承担Master的单一职责

Master Eligible Nodes & 选主流程

• 一个集群，支持配置多个Master Eligible节点。这些节点可以在必要时（如Master节点出现故障，网络故障时）参与选主流程，成为Master节点
• 每个节点启动后，默认就是一个Master eligible节点
  • 可以设置node.master: false禁止
• 当集群内第一个Master eligible节点启动时候，它会将自己选举成Master节点

集群状态

• 集群状态信息（Cluster State），维护了一个集群中，必要的信息
  • 所有的节点信息
  • 所有的索引和其相关的Mapping与Setting信息
  • 分片的路由信息
• 在每个节点上都保存了集群的状态信息
• 但是，只有Master节点才能修改集群的装填信息，并负责同步给其他节点
  • 因为，任意节点都能修改信息会导致Cluster State信息不一致

Master Eligible Nodes & 选主过程

• 互相ping对方，Node Id低的会成为被选举的节点
• 其他节点会加入集群，但是不承担Master节点的角色。一旦发现被选中的主节点丢失，就会选举出新的Master节点

选主示例

脑裂问题

• Split-Brain，分布式系统的经典网络问题，当出现网络问题，一个节点和其他节点无法连接
  • Node2和Node3会重新选举Master
  • Node1自己还是作为Master，组成一个集群，同时更新Cluster State
  • 导致2个Master，维护不同的Cluster state，当网络恢复时，无法选择正确的恢复

脑裂示意图

如何避免脑裂问题

• 限定一个选举条件，设置quorum（仲裁），只有在Master eligible节点数大于quorum时，才能进行选举
  • Quorum = (master节点数 / 2) + 1
  • 当3个master eligible时，设置discovery.zen.minimum_master_nodes为2，即可避免脑裂
• 从7.0开始，无需这个配置
  • 移除minimum_master_nodes参数，让Elasticsearch自己选择可以形成仲裁的节点
  • 典型的主节点选举现在只需要很短的时间就可以完成，集群的伸缩变得更安全，更容易，并且可能造成丢失数据的系统配置选项更少了
  • 节点更清楚地记录它们的状态，有助于诊断为什么他们不能加入集群为什么无法选举出主节点

配置节点类型

一个节点默认情况下是一个Master eligible，data and ingest node