Elasticsearch数据类型及其属性

Elasticsearch数据类型及其属性

一、数据类型

字段类型概述
一级分类 二级分类 具体类型
核心类型 字符串类型 string,text,keyword
h 整数类型 integer,long,short,byte
h 浮点类型 double,float,half_float,scaled_float
h 逻辑类型 boolean
h 日期类型 date
h 范围类型 range
h 二进制类型 binary
复合类型 数组类型 array
f 对象类型 object
f 嵌套类型 nested
地理类型 地理坐标类型 geo_point
d 地理地图 geo_shape
特殊类型 IP类型 ip
t 范围类型 completion
t 令牌计数类型 token_count
t 附件类型 attachment
t 抽取类型 percolator
核心类型
  • 1、字符串类型
      string类型: 在ElasticSearch 旧版本中使用较多,从ElasticSearch 5.x开始不再支持string,由text和keyword类型替代。
      text 类型:当一个字段是要被全文搜索的,比如Email内容、产品描述,应该使用text类型。设置text类型以后,字段内容会被分析,在生成倒排索引以前,字符串会被分析器分成一个一个词项。text类型的字段不用于排序,很少用于聚合。
      keyword
    keyword类型适用于索引结构化的字段,比如email地址、主机名、状态码和标签。如果字段需要进行过滤(比如查找已发布博客中status属性为published的文章)、排序、聚合。keyword类型的字段只能通过精确值搜索到。

  • 2、整数类型

    类型 取值范围
    byte -128~127
    short -32768~32767
    integer -231~231-1
    short -263~263-1

    在满足需求的情况下,尽可能选择范围小的数据类型。比如,某个字段的取值最大值不会超过100,那么选择byte类型即可。迄今为止吉尼斯记录的人类的年龄的最大值为134岁,对于年龄字段,short足矣。字段的长度越短,索引和搜索的效率越高。

  • 3、浮点类型

    类型 取值范围
    doule 64位双精度IEEE 754浮点类型
    float 32位单精度IEEE 754浮点类型
    half_float 16位半精度IEEE 754浮点类型
    scaled_float 缩放类型的的浮点数

    对于float、half_float和scaled_float,-0.0和+0.0是不同的值,使用term查询查找-0.0不会匹配+0.0,同样range查询中上边界是-0.0不会匹配+0.0,下边界是+0.0不会匹配-0.0。

    其中scaled_float,比如价格只需要精确到分,price为57.34的字段缩放因子为100,存起来就是5734
    优先考虑使用带缩放因子的scaled_float浮点类型。

  • 4、date类型
    日期类型表示格式可以是以下几种:
    (1)日期格式的字符串,比如 “2018-01-13” 或 “2018-01-13 12:10:30”
    (2)long类型的毫秒数( milliseconds-since-the-epoch,epoch就是指UNIX诞生的UTC时间1970年1月1日0时0分0秒)
    (3)integer的秒数(seconds-since-the-epoch)

  • 5、boolean类型 true和false

  • 6、 binary类型
      进制字段是指用base64来表示索引中存储的二进制数据,可用来存储二进制形式的数据,例如图像。默认情况下,该类型的字段只存储不索引。二进制类型只支持index_name属性。

  • 7、array类型
    (1)字符数组: [ “one”, “two” ]
    (2)整数数组: productid:[ 1, 2 ]
    (3)对象(文档)数组: “user”:[ { “name”: “Mary”, “age”: 12 }, { “name”: “John”, “age”: 10 }],
    注意:lasticSearch不支持元素为多个数据类型:[ 10, “some string” ]

  • 8、 object类型
    JSON对象,文档会包含嵌套的对象

  • 9、ip类型
    p类型的字段用于存储IPv4或者IPv6的地址

二、Mapping 支持属性

  • 1、enabled:仅存储、不做搜索和聚合分析

      "enabled":true (缺省)| false
    
  • 2、index:是否构建倒排索引(即是否分词,设置false,字段将不会被索引)

          "index": true(缺省)| false
    
  • 3、index_option:存储倒排索引的哪些信息

      4个可选参数:
          docs:索引文档号
          freqs:文档号+词频
          positions:文档号+词频+位置,通常用来距离查询
          offsets:文档号+词频+位置+偏移量,通常被使用在高亮字段
      分词字段默认是positions,其他默认时docs
      
      "index_options": "docs"
    
  • 4、norms:是否归一化相关参数、如果字段仅用于过滤和聚合分析、可关闭
    分词字段默认配置,不分词字段:默认{“enable”: false},存储长度因子和索引时boost,建议对需要参加评分字段使用,会额外增加内存消耗

      "norms": {"enable": true, "loading": "lazy"}
    
  • 5、doc_value:是否开启doc_value,用户聚合和排序分析
    对not_analyzed字段,默认都是开启,分词字段不能使用,对排序和聚合能提升较大性能,节约内存

      "doc_value": true(缺省)| false
    
  • 6、fielddata:是否为text类型启动fielddata,实现排序和聚合分析
    针对分词字段,参与排序或聚合时能提高性能,不分词字段统一建议使用doc_value

      "fielddata": {"format": "disabled"}
    
  • 7、store:是否单独设置此字段的是否存储而从_source字段中分离,只能搜索,不能获取值

      "store": false(默认)| true
    
  • 8、coerce:是否开启自动数据类型转换功能,比如:字符串转数字,浮点转整型

      "coerce: true(缺省)| false"
    
  • 9、multifields:灵活使用多字段解决多样的业务需求

  • 11、dynamic:控制mapping的自动更新

      "dynamic": true(缺省)| false | strict
    

1

  • 12、data_detection:是否自动识别日期类型

      "data_detection":true(缺省)| false
    

dynamic和data_detection的详解:Elasticsearch dynamic mapping(动态映射) 策略.

  • 13、analyzer:指定分词器,默认分词器为standard analyzer

      "analyzer": "ik"
    
  • 14、boost:字段级别的分数加权,默认值是1.0

      "boost": 1.23
    
  • 15、fields:可以对一个字段提供多种索引模式,同一个字段的值,一个分词,一个不分词

      "fields": {"raw": {"type": "string", "index": "not_analyzed"}}
    
  • 16、ignore_above:超过100个字符的文本,将会被忽略,不被索引

      "ignore_above": 100
    
  • 17、include_in_all:设置是否此字段包含在_all字段中,默认时true,除非index设置成no

      "include_in_all": true
    
  • 18、null_value:设置一些缺失字段的初始化,只有string可以使用,分词字段的null值也会被分词

      "null_value": "NULL"
    
  • 19、position_increament_gap:影响距离查询或近似查询,可以设置在多值字段的数据上或分词字段上,查询时可以指定slop间隔,默认值时100

      "position_increament_gap": 0
    
  • 20、search_analyzer:设置搜索时的分词器,默认跟analyzer是一致的,比如index时用standard+ngram,搜索时用standard用来完成自动提示功能

      "search_analyzer": "ik"
    
  • 21、similarity:默认时TF/IDF算法,指定一个字段评分策略,仅仅对字符串型和分词类型有效

      "similarity": "BM25"
    
  • 22、trem_vector:默认不存储向量信息,支持参数yes(term存储),with_positions(term+位置),with_offsets(term+偏移量),with_positions_offsets(term+位置+偏移量)对快速高亮fast vector highlighter能提升性能,但开启又会加大索引体积,不适合大数据量用

      "trem_vector": "no"
    

三、Mapping 字段设置流程

avatar
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,277评论 6 503
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,689评论 3 393
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,624评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,356评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,402评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,292评论 1 301
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,135评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,992评论 0 275
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,429评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,636评论 3 334
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,785评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,492评论 5 345
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,092评论 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,723评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,858评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,891评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,713评论 2 354

推荐阅读更多精彩内容