Elasticsearch-批量

Elasticsearch批量

  1. 批量查询

    • 批量查询三种方式

      # 可以多个index
      GET /_mget
      {
        "docs":[
          {
            "_index":"product"
            ,"_id":1
          }
          ,{
            "_index":"product"
            ,"_id":2
          }
        ]
      }
      
      # 同一个index
      GET /product/_mget
      {
        "docs":[
          {
            "_id":1
          }
          ,{
            "_id":2
          }
        ]
      }
      
      GET /product/_mget
      {
        "ids":[1,2]
      }
      # _source 不输出元数据或部分字段。
      GET /product/_mget
      {
        "docs":[
          {
            "_id":1
            ,"_source":false
          }
          ,{
            "_id":2
            ,"_source":["name"]
          }
        ]
      }
      # _source 下的include 和 exclude include包含哪些字段  exclude排除哪些字段
      GET /product/_mget
      {
        "docs":[
          {
            "_id":1
            ,"_source":{
              "include":["price"]
            }
          }
          ,{
            "_id":2
            ,"_source":{
              "exclude":["price"]
            }
          }
        ]
      }
      
    • 注意关键词 docsids

      • docs:主要用于index或者type不一样时包裹条件时用的。
  • ids:主要用于简单id查询。
  1. bulk批量增删改

    • 语法格式:

      POST /<index>/_bulk
      {"action": {"metadata"}}  
      {"request body"}
      
    • action:

      create:PUT /index/_create/id/,强制创建(是否制定id)
      delete:删除(lazy delete原理)。删除时不可以加request body。
      index:可以是创建,也可以是全量替换
      update:执行partial update(全量替换,部分替换)
      
    • metadata:index、type和_id

    • bulk一次最大处理多少数据量? bulk会把将要处理的数据载入内存中,过意数据量是有限制的,最佳的数据量不是一个确定的数,取决于你的硬件、索引及搜索负载。一般建议是1000~5000个文档,大小建议5-15M。默认不能超过100M,可在es配置文件修改。

    • bulk代码样例

      # 加?filter_path=items.*.error  只显示失败的
      POST /_bulk
      # 删除,不带request body
      { "delete": { "_index": "product2",  "_id": "1" }}
      #强制插入,存在抛出异常
      { "create": { "_index": "product2",  "_id": "2" }}
      { "name":    "_bulk create 2" }
      { "create": { "_index": "product2",  "_id": "12" }}
      { "name":    "_bulk create 12" }
      #插入,存在更新,不存在插入
      { "index":  { "_index": "product2",  "_id": "3" }}
      { "name":    "index product2 " }
      { "index":  { "_index": "product2",  "_id": "13" }}
      { "name":    "index product2" }
      #仅更新 retry_on_conflict 乐观锁失败时重试次数,超过次数抛出异常
      { "update": { "_index": "product2",  "_id": "4","retry_on_conflict" : "3"} }
      { "doc" : {"test_field2" : "bulk test1"} }
      
  2. ES并发冲突问题(悲观锁和乐观锁)

    • 悲观锁:各种情况,都加锁,读写锁、行级锁、表级锁。使用简单,但是并发能力很低
    • 乐观锁:并发能力高,操作麻烦,每次no-query操作都需要比对version
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,445评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,889评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,047评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,760评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,745评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,638评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,011评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,669评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,923评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,655评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,740评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,406评论 4 320
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,995评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,961评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,023评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,483评论 2 342