es(3)—数据类型与映射关系

  1. 常用的数据类型
    1.1 keyword类型
    1.2 text类型
    1.3 数字类型
    1.4 时间类型
  2. 复杂的数据类型
    2.1 数组类型
    2.2 对象类型
    2.3 嵌套类型
    推荐阅读

es创建索引后,需要指定字段的映射关系。而es提供了哪些数据类型呢?

推荐阅读:Elasticsearch的数据类型 (text、keyword、date、object、geo等)

此文着重实践,去创建索引的映射关系。

1. 常用的数据类型

1.1 keyword类型

在 ES2.x 版本字符串数据是没有 keyword 和 text 类型的,只有string类型,ES更新到5版本后,取消了 string 数据类型,代替它的是 keyword 和 text 数据类型。

  • 不进行分词,直接索引,支持模糊、支持精确匹配,支持聚合、排序操作。
  • 最大支持的长度为32766个UTF-8类型的字符,可以通过设置ignore_above指定自持字符长度,超过给定长度后的数据将不被索引,无法通过term精确匹配检索返回结果。

使用场景:

  1. 存储邮箱号码、url、name、title,手机号码、主机名、状态码、邮政编码、标签、年龄、性别等数据。
  2. 用于筛选数据(例如: select * from x where status='open')、排序、聚合(统计)。
    直接将完整的文本保存到倒排索引中。
# 创建索引
PUT test_keyword
#创建映射关系
PUT test_keyword/_mapping
{
  "properties":{
    "name":{
      "type":"keyword",
      "index":true
    }
  }
}
#填充数据
POST _bulk
{"create":{"_index":"test_keyword","_type":"_doc"}}
{"name":"JAVA ES"}
{"create":{"_index":"test_keyword","_type":"_doc"}}
{"name":"JAVA hadoop"}
{"create":{"_index":"test_keyword","_type":"_doc"}}
{"name":"PHP"}
#查看数据
GET test_keyword/_search


# 查看是否分词
GET test_keyword/_analyze
{
  "field": "name",
  "text":"JAVA BOOK"
}

1.2 text类型

  1. 支持分词,全文检索,支持模糊、精确查询,
  2. 不支持聚合,排序操作;
  3. 最大支持的字符长度无限制,适合大字段存储;

使用场景:

  1. 存储全文搜索数据, 例如: 邮箱内容、地址、代码块、博客文章内容等。
  2. 默认结合standard analyzer(标准解析器)对文本进行分词、倒排索引。
  3. 默认结合标准分析器进行词命中、词频相关度打分。

1.3 数字类型

image.png

1.4 时间类型

JSON中没有字符串,所以在ES中,日期可以是:

  • 包含格式化日期的字符串,例如"2018-10-01"。
  • 代表时间毫秒数的长整型数字。
  • 代表时间秒数的整数。

如果时区未指定, 日期将被转换为UTC格式, 但存储的却是长整型的毫秒值.
可以自定义日期格式, 若未指定, 则使用默认格式: strict_date_optional_time||epoch_millis

image.png

自定义日期格式:

多个格式使用双竖线||分隔, 每个格式都会被依次尝试, 直到找到匹配的.
第一个格式用于将时间毫秒值转换为对应格式的字符串.

# 创建索引
PUT test_date
#创建映射关系
PUT test_date/_mapping
{
  "properties":{
    "name":{
      "type":"date",
      "format": "yyyy-MM-dd HH:mm:ss||yyyy-MM-dd||epoch_millis"
    }
  }
}

# 插入数据
POST test_date/_doc
{
  "name":"2001-10-12"
}
# 插入数据
POST test_date/_doc
{
  "name":"2001-10-12 12:12:11"
}
#插入成功
POST test_date/_doc
{
  "name":"1589584930103"
}

GET test_date/_search
image.png

2. 复杂的数据类型

2.1 数组类型

ES中没有专门的数组类型,可以直接使用[]定义。

对于文档数组,每个元素都是结构相同的文档,文档之间都不是独立的,在文档数组中,不能独立于其他文档而去查询单个文档,这是因为,一个文档的内部字段之间的关联被移除,各个文档共同构成对象数组。

注意点:数组中所有的值必须是同一种数据类型, 不支持混合数据类型的数组。

填充文档.png

创建成功后,存储的类型为long类型。

image.png

字符串数组类型:

# 创建索引
PUT test_array

#填充文档
POST test_array/_doc
{
  "name":["JAVA","es"]
}

# 查看映射
GET test_array/_mapping

# 这种方式,并不会查询到数据,因为name为text类型
GET test_array/_search
{
  "query": {
    "terms": {
      "name": [
        "JAVA"
      ]
    }
  }
}

# term操作(精确匹配),可以查询到数据
GET test_array/_search
{
  "query": {
    "term": {
      "name": {
        "value": "java"
      }
    }
  }
}

2.2 对象类型

由于JSON文档是分层的,文档可以包含内部对象,内部对象也可以包含内部对象。

# 创建索引
PUT test_object
# 创建嵌套对象
POST test_object/_doc
{
  "name":"li si",
  "address":{
    "region":"China",
    "location":{"province":"hunan","city":"changsha"}
  }
}
# 查看映射
GET test_object/_mapping
# 或者创建嵌套对象
POST test_object/_doc
{
  "name":"zhang san",
  "address.region":"china",
  "address.location.province":"hubei",
  "address.location.city":"wuhan"
}
# 查询
GET test_object/_search
{
  "query": {
    "match": {
      "address.region": "china"
    }
  }
}
image.png

2.3 嵌套对象

场景:

#创建索引
PUT test_nonest
# 插入3条数据
POST test_nonest/_doc
{
  "group":"stark",
  "performer":[
    {"frist":"li","last":"bai"},  
    {"frist":"no","last":"tom"}
  ]
} 
POST test_nonest/_doc
{
  "group":"stark",
  "performer":[
    {"frist":"tom","last":"chen"},  
    {"frist":"manwang","last":"snow"}
  ]
} 
POST test_nonest/_doc
{
  "group":"stark",
  "performer":[
    {"frist":"tom","last":"snow"},  
    {"frist":"jone","last":"jone"}
  ]
} 
# 想查询3个文档中,performer数组对象参数为tom-snow所在的文档
POST test_nonest/_search
{
  "query": {
    "bool": {
      "must": [
        {"match": {
          "performer.frist": "tom"
        }},
        {"match": {
          "performer.last": "snow"
        }}
      ]
    }
  }
}

查询结果:

image.png

但是得到的文档是2个,我们仔细看第一个,实际上是不满足我们的需求。因为我们想要的匹配条件在数组的两个对象中。

原因:实际上,在ES中存储的

{
  "group":"stark",
  "performer":[
    {"frist":"tom","last":"chen"},  
    {"frist":"manwang","last":"snow"}
  ]
} 

会被转换为:

{
    "group":             "stark",
    "performer.first": [ "tom", "john" ],
    "performer.last":  [ "manwang", "snow" ]
}

所以也会被查询出来。

解决方案:如果需要以对象进行索引, 且保留数组中每个对象的独立性, 就应该使用嵌套数据类型。

—— 嵌套对象实质是将每个对象分离出来, 作为隐藏文档进行索引。

#创建索引
PUT test_nest
 
# 增加映射(核心)
PUT test_nest/_mapping
{
  "properties":{
    "performer":{"type":"nested"}
  }
}

# 插入3条数据
POST test_nest/_doc
{
  "group":"stark",
  "performer":[
    {"frist":"li","last":"bai"},  
    {"frist":"no","last":"tom"}
  ]
} 
POST test_nest/_doc
{
  "group":"stark",
  "performer":[
    {"frist":"tom","last":"chen"},  
    {"frist":"manwang","last":"snow"}
  ]
} 
POST test_nest/_doc
{
  "group":"stark",
  "performer":[
    {"frist":"tom","last":"snow"},  
    {"frist":"jone","last":"jone"}
  ]
} 

#查不到数据
GET test_nest/_search
{
  "query": {
    "nested": {
      "path": "performer",
      "query": {
        "bool": {
          "must": [
            {"match": {
             "performer.frist": "tom"
            }},
            {"match": {
              "performer.last": "snow"
            }}
          ]
        }
      }
    }
  }
}

嵌套查询用于查询嵌套对象,执行嵌套查询执行的条件是:嵌套对象被索引为单个文档,查询作用在根文档(Root Parent)上。嵌套查询由关键字“nested”指定:

"nested" : {
        "path" : "obj1",
        "query" : {...}
}

必须赋值的参数:

  • path参数:指定嵌套字段的文档路径,根路径是顶层的文档,通过点号“.”来指定嵌套文档的路径;
  • query参数:在匹配路径(参数path)的嵌套文档上执行查询,query参数指定对嵌套文档执行的查询条件。

推荐阅读

Elasticsearch的数据类型 (text、keyword、date、object、geo等)
ElasticSearch入门 第六篇:复合数据类型——数组,对象和嵌套

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,686评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,668评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,160评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,736评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,847评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,043评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,129评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,872评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,318评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,645评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,777评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,470评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,126评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,861评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,095评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,589评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,687评论 2 351

推荐阅读更多精彩内容