Elasticsearch实战 第七章 使用聚集来探索数据

聚集加载了和搜索相匹配的文档,并且完成了各种计算。主要有两个类别,度量,一组文档的统计分析;桶,将匹配的文档切分为一个或多个容器,然后告知每个桶里的文档数量。

默认情况下,在查询结果上运行聚集。

1、理解聚集的具体结构

聚集请求的结构

curl 'localhost:9200/get-together/group/_search?pretty' -d'{
  "aggregations":{
    "top_tags":{ // 聚集的名字
      "terms":{ // 在数据字段上聚集
        "field":"tags.verbatim"
      }
    }
  }
}'

查询结果上的聚集

curl 'localhost:9200/get-together/group/_search?pretty' -d'{
  "query":{
    "match":{
      "location":"Denver"
    }
  }
  "aggregations":{
    "top_tags":{ // 聚集的名字
      "terms":{ // 在数据字段上聚集
        "field":"tags.verbatim"
      }
    }
  }
}'

过滤器和聚集

  • 也有后过滤器,即使和后过滤器不匹配,仍然会被聚集操作操作计算在内


    过滤器和聚集组合使用

2、度量聚集

统计数据

  • 在script放入一小段代码,为每篇文档返回一个数组
curl 'localhost:9200/get-together/group/_search?pretty&search_type=count' -d'{
  "aggregations":{
    "attendees_avg":{ 
      "avg":{ 
        "script":"doc['"'attendees'"'].values.length"
      }
    }
  }
}'

高级统计

  • 使用extended_stats聚集来获取数值字段的平方值、方差和标准差
curl 'localhost:9200/get-together/group/_search?pretty&search_type=count' -d'{
  "aggregations":{
    "attendees_extended_stats":{ 
      "extended_stats":{ 
        "script":"doc['"'attendees'"'].values.length"
      }
    }
  }
}'

近似统计

  • 计算百分位
  • 基数(cardinality) 如果求唯一值,内存很可能缓存不了这么多数据,使用HLL算法做近似计算

3、多桶型聚集

多桶型聚集是将文档放入不同桶中,就像根据标签对文档进行分组

词条聚集

curl 'localhost:9200/get-together/group/_search?pretty&search_type=count' -d'{
  "aggregations":{
    "tags":{ 
      "terms":{ 
        "field":"tags.verbatim",
        "order":{
          "_term":"asc"
        }
      }
    }
  }
}'
  • 如果按照度量聚集统计值来排序,由于是按照节点统计,取每个节点的前几个,最后汇总再取,可能会丢东西
取前两位,每个节店取前3个
  • 默认情况下,ES使用一次处理来进行聚集,但如果有很多桶和子聚集,将会消耗大量的时间和内存。二次处理可以首先创建顶层聚集的桶,然后缓存排名靠前的X个结果,只对前X个进行子聚集计算。

range聚集

curl 'localhost:9200/get-together/group/_search?pretty&search_type=count' -d'{
  "aggregations":{
    "attendees_breakdown":{
      "range":{
        "script":"doc['"'attendees'"'].values.length",
        "ranges":[
          {"to":4},
          {"from":4, "to":6},
          {"from":6}
        ]
      }
    }
  }
}'
  • 日期也有单独的range聚集写法
curl 'localhost:9200/get-together/group/_search?pretty&search_type=count' -d'{
  "aggregations":{
    "attendees_breakdown":{
      "date_range":{
        "field":"date",
        "format":"YYYY.MM"
        "ranges":[
          {"to":2013.07},
          {"from":2013.07}
        ]
      }
    }
  }
}'

直方图聚集

4、嵌套聚集

多桶聚集通常是开始聚集的起点。

terms聚集中嵌套data_histgram

嵌套多桶聚集

curl 'localhost:9200/get-together/group/_search?pretty&search_type=count' -d'{
  "aggregations":{
    "top_tags":{
      "terms":{
        "field":"tag.verbatim"
      },
      "aggregations":{
        "groups_per_month":{
          "date_histogram":{
            "field":"created_on",
            "interval":"1M"
          }
        }
      }
    }
  }
}'

通过嵌套聚集获得结果分组

按照特定的分类将排名靠前的结果进行分组

结果分组

单桶聚集

  • 如果不希望在查询结果上聚集,可以使用单桶聚集
  • global聚集,把所有文档都进行聚集
curl 'localhost:9200/get-together/group/_search?pretty&search_type=count' -d'{
  "query":{
    "match":{
      "name":"elasticsearch"
    }
  },
  "aggregations":{
    "all_documents":{
      "global":{
      },
      "aggregations":{
        "top_tags":{
          "terms":{
            "field":"tags.verbatim"
          }
        }
      }
    }
  }
}'
  • filter聚集,限制聚集统计的文档,不影响查询结果
curl 'localhost:9200/get-together/group/_search?pretty&search_type=count' -d'{
  "query":{
    "match":{
      "name":"elasticsearch"
    }
  },
  "aggregations":{
    "since_july":{
      "filter":{
        "range":{
          "date":{"gt":"2013-07-01T00:00"}
        }
      },
      "aggregations":{
        "description_cloud":{
          "terms":{
            "field":"description"
          }
        }
      }
    }
  }
}'
  • missing聚集,如果有字段有缺失,可以使用missing聚集进行统计
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 224,242评论 6 522
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 95,953评论 3 402
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 171,299评论 0 366
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 60,709评论 1 300
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 69,723评论 6 399
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 53,236评论 1 314
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 41,629评论 3 428
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 40,594评论 0 279
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 47,135评论 1 324
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 39,156评论 3 345
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 41,285评论 1 354
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,914评论 5 350
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 42,600评论 3 336
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 33,073评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 34,203评论 1 275
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 49,798评论 3 381
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 46,339评论 2 365

推荐阅读更多精彩内容