学习笔记 | ElasticSearch学习笔记(基础)

前言

本文是之前做ElasticSearch技术测试时的笔记,时间比较久远了,如有错误请指正~

安装

  1. 官网: https://www.elastic.co/downloads/elasticsearch

     curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.5.1.tar.gz
    
  2. 5.5.1版本必须是jdk1.8及以上版本,不能用root用户启动

     export JAVA_HOME="/usr/java/jdk1.8.0_111"
     export JRE_HOME=$JAVA_HOME/jre
     export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin:/opt/node/bin
     
     #如果设置了系统代理需要将本地地址添加例外
     export no_proxy="localhost,127.0.0.1"
    
  3. 配置文件

     //ES新增机器很简单,只需要改成相同的cluster.name就可以自己识别
     cluster.name: smile-dev
     node.name: smile-1
     path.data: /home/cdh/es/data
     path.logs: /home/cdh/es/logs
     bootstrap.memory_lock: false
     bootstrap.system_call_filter: false
     network.host: 0.0.0.0
    

原理

  1. 倒排索引

    倒排索引两部分组成:单词词典和倒排文件
    倒排列表:记载了出现过某个单词的所有文档的文档列表及单词在该文档中出现的位置信息
    单词词典:单词本身的信息及指向“倒排列表”的指针
    分词:对每个单词赋予唯一的单词编号,同时记录下哪些文档包含这个单词
    新文档解析完毕时,相应的词典结构也就建立起来了

  2. match、term、match_phrase

  3. 重新索引:创建新的索引,把文档从旧的索引复制到新的索引

  4. 索引主分片数:number_of_shards
    主分片的副本数:number_of_replicas

使用REST API

  1. 查看健康情况

     curl -XGET http://localhost:9200/_cat/health?v
    
  2. 查看节点

     curl -XGET http://localhost:9200/_cat/nodes?v
    
  3. 查看索引列表

     curl -XGET http://localhost:9200/_cat/indices?v
    
  4. 创建索引

     curl -XPUT http://localhost:9200/customer?pretty
    
  5. 添加数据

     curl -XPUT 'localhost:9200/customer/external/1?pretty&pretty' -H 'Content-Type:application/json' -d' {"name": "John Doe"}'
    
  6. 查看数据

     curl -XGET 'localhost:9200/customer/external/1?pretty&pretty'
    
  7. 删除索引

     curl -XDELETE 'localhost:9200/index1?pretty&pretty'
    
  8. 不指定id,随机生成一个ID

     curl -XPOST 'localhost:9200/customer/external?pretty&pretty' -H 'Content-Type: application/json' -d' {"name": "Jane Doe"}'
    
  9. 更新文档

     //更新文档并添加age字段
     curl -XPOST 'localhost:9200/customer/external/1/_update?pretty&pretty' -H 'Content-Type: application/json' -d' {"doc": { "name": "Jane Doe", "age": 20 }}'
    
     //通过简单的脚本更新
     curl -XPOST 'localhost:9200/customer/external/1/_update?pretty&pretty' -H 'Content-Type: application/json' -d' {"script" : "ctx._source.age += 5"}'
    
  10. 删除文档

    curl -XDELETE 'localhost:9200/customer/external/2?pretty&pretty'
    
  11. 批量添加

    curl -XPOST 'localhost:9200/customer/external/_bulk?pretty&pretty' -H 'Content-Type: application/json' -d'
    {"index":{"_id":"1"}}
    {"name": "John Doe" }
    {"index":{"_id":"2"}}
    {"name": "Jane Doe" }
    '
    
  12. 批量更新

    curl -XPOST 'localhost:9200/customer/external/_bulk?pretty&pretty' -H 'Content-Type: application/json' -d'
    {"update":{"_id":"1"}}
    {"doc": { "name": "John Doe becomes Jane Doe" } }
    {"delete":{"_id":"2"}}
    '
    
  13. 从文件读取

    curl -H "Content-Type: application/json" -XPOST 'localhost:9200/bank/account/_bulk?pretty&refresh' --data-binary "@accounts.json"
    
  14. 检索

    curl -XGET 'localhost:9200/bank/_search?q=*&sort=account_number:asc&pretty&pretty'
    
    curl -XGET 'localhost:9200/bank/_search?pretty' -H 'Content-Type: application/json' -d'
    {
        "query": { "match_all": {} },
        "sort": [
          { "account_number": "asc" }
        ]
    }
    '
    

异常处理

  1. elasticsearch 启动之后只能在本地访问

    • 防火墙问题,关闭防火墙或开启端口访问权限
    • 修改配置文件,network.host: 0.0.0.0
  2. network.host: 0.0.0.0 之后报错
    错误信息

     [1]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536]
     [2]: max number of threads [1024] for user [cdh] is too low, increase to at least [2048]
     [3]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]
     [4]: system call filters failed to install; check the logs and fix your configuration or disable system call filters at your own risk
    

    解决方法:
    error[1]:

     vim /etc/security/limits.conf 
     #添加或修改以下两行代码
     * soft nofile 65536
     * hard nofile 131072
    

    limits.conf 修改下后不能生效,貌似是centos6.8之前的版本问题
    su - cdh 可以使其生效,或者重启机器

    error[2]

     vim /etc/security/limits.d/90-nproc.conf
     #修改下边的1024为2048 ,如第二行所示
     *          soft    nproc     1024      
     *          soft    nproc     2048
    

    error[3]

     vim /etc/sysctl.conf
     #修改或添加         
     vm.max_map_count = 262144
    

    error[4]

     #修改elasticsearch的配置文件
     bootstrap.memory_lock: flase
     bootstrap.system_call_filter: false
    
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,490评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,581评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,830评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,957评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,974评论 6 393
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,754评论 1 307
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,464评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,357评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,847评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,995评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,137评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,819评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,482评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,023评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,149评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,409评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,086评论 2 355

推荐阅读更多精彩内容

  • 基础概念 Elasticsearch有几个核心概念,从一开始理解这些概念会对整个学习过程有莫大的帮助。 接近实时(...
    山天大畜阅读 2,106评论 0 4
  • 一些概念 索引-index: 一个索引就是一个拥有几分相似特征的文档的集合。比如说,你可以有一个客户数据的索引,另...
    perfect_jimmy阅读 3,549评论 0 0
  • elasticsearch使用 查看集群健康情况curl 'localhost:9200/_cat/health?...
    小李_a98e阅读 421评论 0 1
  • 文/Jolin灵 已经很久没有写过什么文章了,如果不是今天看qq空间一个好友的文章,大概我都快忘记,以前的自己和...
    Jolin灵阅读 277评论 1 2
  • 榛木月月阅读 248评论 1 2