海贝集群安装部署

1. 安装JDK

把jdk安装到/home/trs/目录下,这里是/home/trs/jdk1.7.0_79

# vim /etc/profile  

在文件开头增加:

JAVA_HOME=/storage/trs/jdk1.7.0_79
PATH=$JAVA_HOME/bin:$PATH
CLASSPATH=.;
export JAVA_HOME
export CLASSPATH

而后执行

# source /etc/profile

使之生效即可。

2. 部署海贝集群

海贝需要安装在已安装了zookeeper的服务器上,参见zookeeper集群部署,首先部署服务器(10.11.2.3):
a. 解压安装包
b. 把安装包拷贝到解压出来的海贝目录的media目录中作为自动部署的介质:

# cd /home/trs/  
# tar -xzf TRSHybase-server-linux64-7.0.8030-20170504-r25184.tar.gz 
# cp  TRSHybase-server-linux64-7.0.8030-20170504-r25184.tar.gz trshybase/media/

c. 启动海贝单节点

# /home/trs/trshybase/bin/startup.sh

d. 自动部署其他节点
使用浏览器登录海贝,海贝地址为:http://ip:5555 默认账号:admin/trsadmin,首次登录后会提示修改密码
【菜单】-【节点管理】-【自动部署】

自动部署

部署完成后关闭当前节点/home/trs/trshybase/bin/shutdown.sh,来修改配置
e. 修改配置
将服务器(10.11.2.3)下hybase目录/home/trs/trshybase/conf/hybase-site.xml中的false改为true,并配置zookeeper的正确地址:
image.png

value值的三个IP改成自己所要部署的服务器的IP。
现在可以将该配置好的文件远程拷贝到集群中的各个结点对应的目录下:

cd /home/trs/trshybase/conf/
scp hybase-site.xml root@10.11.2.4:/home/trs/trshybase/conf/
scp hybase-site.xml root@10.11.2.5:/home/trs/trshybase/conf/

f. 启动海贝集群
理论上讲是可以通过启动每个节点来启动海贝集群的,但是亲测这样启动有时候会有各种乱七八糟的同步问题,所以建议使用统一启动的方式,即执行:

# /home/trs/trshybase/sbin/update-all.sh

关于此脚本的具体信息参见后面的【批量自动更新】内容。
启动成功后,可以在海贝的节点管理中看到状态:


g. 查重库设置
g1. 查重库的安装和其他三台的安装都一样,不同点在于重重库的启动命令是:/home/trs/trshybase/bin/start-kv.sh,关闭命令:/home/trs/trshybase/bin/stop-kv.sh
g2. 查重库的登录密码和hybase登录密码不一样,缺省账号是:trs/trs123。

具体为:

3. 批量自动更新

a. 配置无密码登录
安装expect:# yum -y install expect
bin/nodes 存放IP地址列表,一行一个IP

nodes

sbin/ssh_auth.sh root rootpassword bin/nodes

b. 批量更新
更新文件(lib webpages trshybase-*.jar)的存放位置update目录(将更新包TRSHybase-server-update-****.tar.gz解压缩到update目录即可)
确保bin/nodes(或者在conf/nodes)里面有所有服务器的列表(一行一个)
执行sbin/update_all.sh,会自动执行批量关闭/更新/批量启动。

通过以上信息可知,其实这个update_all.sh的脚本,是可以实现全库批量关闭和启动的,因此只要update目录中不放文件,执行该脚本,就可以实现批量关闭/启动海贝集群
当然,修改该脚本,把update相关的内容删除,改造一个专门的启停脚本也可以。

4. 其他配置和建议

a. Hybase节点对内存有较大的需求,因此建议用户使用多核、大内存的服务器(标配32G,推荐128G)
b. 集群在部署以后,应当修改conf/hybase-env.sh,增加Hybase可用的内存
c. 分配规则可以参考:留50%给操作系统,其余都给Hybase进程
例如32G内存,留16G给操作系统,16G给hybase。那么需要修改conf/hybase-env.sh,找到HYBASE_OPTS配置项,修改成:

export HYBASE_OPTS="-server -Xmx16g -Xms16g"

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 135,312评论 19 139
  • 本文所有描述均为作者亲自操作后总结出来的,如有疑问可直接留言,将及时回复,如本文理解或描述有误的地...
    君哥聊编程阅读 8,814评论 6 11
  • 最近在学习大数据技术,朋友叫我直接学习Spark,英雄不问出处,菜鸟不问对错,于是我就开始了Spark学习。 为什...
    Plokmijn阅读 26,726评论 6 26
  • 目录 Elasticsearch 5集群部署与测试...................................
    Lewis001阅读 10,959评论 0 4
  • 第一章 OpenStack基础 OpenStack管理的资源及提供的服务OpenStack做为一个操作系统,...
    sgt_tiger阅读 14,450评论 4 72