Esrally性能测试步骤与调优

esrally一个对ElasticSearch做基准性能测试的工具,是 elastic 官方开源的一款基于 python3 实现的针对ES 的压测工具,ES官方也是基于 esrally 进行 es 的性能测试。

安装部署

python3.8安装

使用root用户操作:

yum install libffi-devel
tar zxvf Python-3.8.0.tgz
cd Python-3.8.0
./configure --prefix=/usr/local/python3
make -j120
make install
rm -rf /usr/bin/python3
ln -s /usr/local/python3/bin/python3 /usr/bin/python3
ln -s /usr/local/python3/bin/pip3 /usr/bin/pip3

可以自行查阅python官网:https://www.python.org/
或者直接执行下载命令:
wget https://www.python.org/ftp/python/3.8.0/Python-3.8.0.tgz

git安装

本环境已安装git version 2.23.0,如果git不满足要求,参考以下内容:

git 源码可以通过下面的链接获取,有各种版本:

https://mirrors.edge.kernel.org/pub/software/scm/git/

卸载旧版本

yum remove git

编译安装

tar -xzvf git-2.23.0.tar.gz 
cd git-2.23.0
./configure --prefix=/usr/local/git --with-openssl=/usr/local/openssl
sudo make && make install

配置GIT的环境变量去修改 /etc/profile

export GIT_HOME=/usr/local/git-2.23.0
export PATH=\$PATH:\$GIT_HOME

保存后执行source /etc/pfofile

使用 git version 查看GIT版本。

在线安装esrally

pip3 install esrally==2.0.2 -i https://pypi.tuna.tsinghua.edu.cn/simple --trusted-host pypi.tuna.tsinghua.edu.cn

错误1

ERROR: botocore 1.13.50 has requirement urllib3<1.26,>=1.20; python_version >= "3.4", but you'll have urllib3 1.26.9 which is incompatible.

解决办法:

pip3 install urllib3==1.25
重新执行安装命令,显示所有依赖均满足条件。

错误2

[root@worker1 opt]# esrally configure
-bash: esrally:未找到命令

不是安装失败,是因为esrally命令不会自动加入了环境变量!

cd /usr/local/python3/bin

./esrally configure

错误3

最后一行报错ImportError: cannot import name ‘soft_unicode‘ from ‘markupsafe‘……
查到弃用警告:“soft_unicode”已重命名为“soft_str”.旧名称将在 MarkupSafe 2.1 中删除,刚好这里已经是2.1.1版本了,看来需要回退低版本。
解决办法:
pip3 install markupsafe==2.0.1
再次执行./esrally configure成功安装了!

测试命令

数据集下载

这部分测试所需要的数据集可以在测试中下载,但数据集大且网络不稳定,因此预下载。

如下操作:

# downloads the script from Github
curl -O https://raw.githubusercontent.com/elastic/rally-tracks/master/download.sh
chmod u+x download.sh
chown elasticsearch  download.sh
# download all data for the geonames track
su elasticsearch
cd /usr/local/python3/bin/
./esrally configure
cd ~
./download.sh geonames

测试命令

geonames测试实例:

./esrally --pipeline=benchmark-only --target-hosts=192.168.1.104:9200,192.168.1.106:9200,192.168.1.108:9200  --track=geonames --offline --track-params="number_of_shards:32,bulk_indexing_clients:128"  --report-file=/opt/report_geonames_32_128-numa.csv --report-format=csv

性能调优

ES参数

  1. ES的内存(heap size)
    堆内存配置文件 jvm.options设置(相同大小,不超过32g情况下尽可能大):
-Xms16g
-Xmx16g
  1. ES的thread_pool
    主要是不超过物理机的cpu核心数,一般越大越好。
    注意!这类参数现在不能动态设置了,必须直接修改es的配置文件保存然后重启ES集群。
  2. 关闭ES的监控(xpack),设置xpack.monitoring.collection.enabled 为false,提高稳定性。
  3. 调整ES的数据盘为多目录
    对ES读性能影响不大,可能略微对写ES性能有影响。

esrally参数

主要是分片数(shards)和客户端并发数需要调整!
客户端并发数非常重要!客户端并发数非常重要!客户端并发数非常重要!
如果不调大这个clients数其他参数基本白搭。

踩坑2天……

参考文档

01:Elasticsearch压测之Esrally压测标准 - 腾讯云开发者社区-腾讯云
02:esrally:Elasticsearch 官方压测工具及运用详解-阿里云开发者社区
03:es7.3的性能参数调优_thread_pool.write.size

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,524评论 5 460
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,869评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,813评论 0 320
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,210评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,085评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,117评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,533评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,219评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,487评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,582评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,362评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,218评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,589评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,899评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,176评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,503评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,707评论 2 335

推荐阅读更多精彩内容