ElasticSearch - 基本概念

文档(document)

  • ElasticSearch是面向文档的,文档是所有可搜索数据的最小单位。
    类似关系型数据库中的某张表的一条记录
  • 文档会被序列化成json来保存。
  • 每个文档都有一个Unique ID

文档的元数据

用来标注文档的相关信息:

  • _index: 文档所属的索引名
  • _type: 文档所属的类型名
  • _id: 文档的唯一id
  • _source: 文档的原始json数据
  • _version: 文档的版本信息
  • _score: 相关性打分

索引(Index)

索引是文档的容器,是一类文档的结合
类似关系型数据库中的表

  • Index体现了逻辑空间的概念: 每个索引都有自己的Mapping定义,用于定义包含的文档的字段名和字段类型
  • Shard体现了物理空间的概念:索引中的数据分散在Shard上
    Mapping用于定义文档字段类型,Setting用来定义不同的数据分布

对比关系型数据库和ES

image.png

区别:

  • ES用来做高性能检索/全文搜索
  • 关系型数据库事务/Join

分布式系统的可用性和扩展性

  • 高可用性
    • 服务可用性 - 允许有节点停止服务
    • 数据可用性 - 部分节点丢失,不会丢失数据
  • 可扩展性
    • 请求量提升/数据的不断增长(将数据分布到所有节点上)
  • ES的分布式架构的好处
    • 存储的水平扩容
    • 提高系统的可用性,部分节点停止服务,整个集群的服务不受影响
  • ES的分布式架构
    • 不同的集群通过不同的名字来区分,默认名字"elasticsearch"
    • 通过配置文件修改,或者命令行中 -E cluster.name = xxxx 进行设定
    • 一个集群可以有一个或者多个节点

节点

  • 节点是一个ES的实例
    1. 本质上就是一个java进程
    2. 一台机器上可以运行多个es进程,但是生产环境一般建议一台机器上只运行一个es实例
  • 每一个节点都有名字,通过配置文件配置,或者启动时候 -E node.name=node1 指定
  • 每一个节点在启动之后,会分配一个UID,保存在data目录下面

Master-eligible nodes 和 Master Node

  • 每个节点启动后,默认就是一个Master eligible节点

    可以设置node.master:false禁止  
    
  • Master-eligible节点可以参加选主流程,成为Master节点

  • 当第一个节点启动时候,它会将自己选举成Master节点

  • 每个节点都保存了集群的状态,只有Master节点才能修改集群的状态信息

    集群状态维护了一个集群中必要的信息:  
    1. 所有的节点信息
    2. 所有的索引和其相关的Mapping和Setting信息  
    3. 分片的路由信息  
    任意节点都能修改信息会导致数据的不一致性。 
    

Data Node & Coordinating Node

  • Data Node

    可以保存数据的节点。 负责保存分片数据。在数据扩展上起到了至关重要的作用。
    
  • Coordinating Node

    负责接受client的请求,将请求分发到合适的节点,最终把结果汇集到一起。
    每个节点默认都起到了Coordinating Node的职责  
    

其他的节点类型

  • Hot & Warm Node

    不同硬件配置的Data Node,用来实现Hot & Warm架构,降低集群部署的成本  
    
  • Machine Learning Node

    负责跑机器学习的job,用来做异常检测
    

分片

  • 主分片,用以解决数据水平扩展的问题。通过主分片,可以将数据分布到集群内的所有节点上

    一个分片是一个运行的Lucene的实例  
    主分片数在索引创建时指定,后续不允许修改,除非Reindex  
    
  • 副本,用以解决数据的高可用的问题。分片是主分片的拷贝

    副本分片数,可以动态题调整  
    增加副本数,还可以在一定成都上提高服务的可用性(读取的吞吐)
    
image.png

number_of_shards:3 代表主分片数为3
number_of_replicas: 1 代表副本数为 1

分片的设定

  • 对于生产环境中分片的设定,需要提前做好容量规划
    1. 分片数设置过小
      • 导致后续无法增加节点实现水平扩展
      • 单个分片的数据量过大,导致数据重新分配耗时
    2. 分片数设置过大
      • 影响搜索结果的相关性打分,影响统计结果的准确性
      • 单个节点上过多的分片,会导致资源浪费,同时也会影响性能
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,490评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,581评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,830评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,957评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,974评论 6 393
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,754评论 1 307
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,464评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,357评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,847评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,995评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,137评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,819评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,482评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,023评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,149评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,409评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,086评论 2 355

推荐阅读更多精彩内容