ElasticSearch第14节script脚本、数据路由

//
#给数字自加值
GET /myindex/_update/article2
{
  "script":"ctx._source.age+=1"
}

#给字符串追加
GET /myindex/_update/article2
{
  "script":"ctx._source.content+='hehe'"
}

#给数组添加元素
GET /myindex/_update/article2
{
  "script":{
    "source":"ctx._source.test.add(params.tag)",
    "params":{
      "tag": "football"
    }
  }
}

#删除数组元素
GET /myindex/_update/article2
{
  "script":{
    "source":"ctx._source.test.remove(ctx._source.test.indexOf(params.tag))",
    "params":{
      "tag": "football"
    }
  }
}

#按条件删除文档
GET /myindex/_update/article2
{
  "script":{
    "source":"ctx.op=ctx._source.age==params.count?'delete':'none'",
    "params":{
      "count": 21
    }
  }
}

#upsert操作,有记录update,没记录insert
GET /myindex/_update/article2   #
{
  "script":"ctx._source.age+=1",
  "upsert":{
          "post_date" : "2019-06-15",
          "tile" : "es",
          "content" : "100 years old",
          "id" : 122,
          "age" : 100,
          "test" : [
            "fishing",
            "very good"
          ],
          "intrest" : "xi huan driving"
  }
}

#post请求采用的是乐观锁 即version值+1
POST /myindex/_update/article2
{
  "script":"ctx._source.age+=1",
  "upsert":{
          "post_date" : "2019-06-15",
          "tile" : "es",
          "content" : "100 years old",
          "id" : 122,
          "age" : 100,
          "test" : [
            "fishing",
            "very good"
          ],
          "intrest" : "xi huan driving"
  }
}

#如果执行失败了,请求会重新获取文档数据和版本信息进行更新
#能够重试的次数是retry_on_conflict指定
POST /myindex/_update/article2?retry_on_conflict=3&version=5

数据路由

es判断决定文档数据存储在哪个分片上的过程叫数据路由。

路由算法:
sard=hash(routing) % primary_shard_num

  1. 每次增删改查时,都有一个routing值,默认是文档的id
  2. 对这个routing值进行hash取余运算
  3. routing值默认是文档的id,也可以手动指定一个值。
  4. 手动指定routing值对于负载均衡以及提高批量读取的性能都有帮助
  5. primary_shard个数一旦确定就不能修改了

3.1.5 写一致性原理和quorum机制

1.任何一个增删改槽作都可以跟上一个参数consistency,可以给该参数指定的值:
one : (primary shard)只要有一个primary shard是活跃的就可以执行
all : {all shard)所有的primary shard和replica shard都是活跃的才会执行
quorum: (default)默认值,大部分shard是活跃的才能执行(例如共有6个shard,至少有3个shard是活跃的才会执行写操作)

2.quorum机制:多数shard都是可用的

int ( (primary+number_of_replica) / 2 ) + 1

例如:3个primary shard, 1 个replica
int ( ( 3 + 1 ) / 2 ) + 1 = 3
至少3个shard是活跃的

注意:可能出现shard不能分配齐全的情況
比如:1个primary shard,1个replica int ( (1 + 1) / 2) + 1 = 2,但是如果只有一个节点,因为primary shard和replica shard不能在同一个节点上,所以仍然不能执行写操作

再举例:1 个primary shard,3个replica,2个节点
int((1+3)/2)+1 =3

最后: 当活跃的shard的个数没有达到要求时,es默认会等待一分钟,如果在等待的期间活跃的shard的个数没有增加,则显示timeout

PUT /index/type/id?timeout=60m
3.16文档查询内部原理

笫一步:查词请求发给任息一个节点,该节点就成了coordinating node,该节点使用路由算法算出文档所在的primary shard
第二步:协调节点把请求转发给primary shard也可以转发给replica shard(使用轮询调度算法(Round-Robin Scheduling,把请求平均分配至primary shard
和replica shard)
笫三步:处理请求的节点把结果返回给协调节点,协调节点再返回给应用程序
特殊情况:请求的文档还在建立索引的过程中,primary shard上存在,但replica shard上不存在,但是请求被转发到了replica shard上,这时就提示找不到

3.17 bulk批量操作的json格式解析

bulk的格式:
{action:{metadata}}\n
{requstbody}\n

为什么不使用如下格式?
[{"action": { },"data":{ }}]
这种方式可读性好,但是内部处理就麻烦了:

  1. 将json数组解析为JSONArray対象,在内存中就需要有Dson文本的拷贝,另外还有一个JSONArray对象.
  2. 解忻json数组里的每个json,对毎个谲求中的document进行路甶
  3. 为路由到同一个shard上的多个请求,创建一个谲求数组
  4. 将这个请求数组序列化
  5. 将序列化后的谮求数组发送到对应的节点上去
    耗费更多内存,增加java虚拟机开销

1.不用持其转換为json对象,直接按照换行符切割json,内存中不需要json文本的拷贝
2.对每两一组的json,读取meta,进行document路由
3.直接将对应的json发送到node上去

3.18查询结果分析

默认有分页,只查出10条数据
took : 查询耗费的时间,单位是毫秒
shards : 共请求了多少个shard

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,463评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,868评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,213评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,666评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,759评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,725评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,716评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,484评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,928评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,233评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,393评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,073评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,718评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,308评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,538评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,338评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,260评论 2 352

推荐阅读更多精彩内容