Storm集群搭建

一、环境准备

  1.在VMware上开启三台CentOS7虚拟机
  2.通过Xshell连接这三台虚拟机,便于文件的上传

二、集群部署

主机名 IP Zookeeper Nimbus Supervisor
master 10.6.6.1
slave1 10.6.6.2
slave2 10.6.6.3

三、搭建Java环境

  1.将下载好的jdk-8u161-linux-x64.tar.gz通过rz命令上传到master
  2.创建java目录,将JDK解压到该目录
mkdir /home/java
tar -zxvf jdk-8u161-linux-x64.tar.gz -C /home/java
  3.配置环境变量

  输入vi /etc/profile打开profile文件,在文件末尾添加如下代码:

export JAVA_HOME=/home/java/jdk1.8.0_161
export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin

  输入source /etc/profile使环境变量生效

  4.查看Java环境

  输入java -version,若出现下面的语句则配置成功:

Java(TM) SE Runtime Environment (build 1.8.0_161-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.161-b12, mixed mode)
  5.使用scp命令将环境拷贝到另外两台主机
scp -r /home/java root@slave1:/home/
scp -r /home/java root@slave2:/home/
scp /etc/profile root@slave1:/etc/
scp /etc/profile root@slave2:/etc/

  相同地,分别在另外两台主机上执行命令source /etc/profile使环境变量生效
  JDK环境搭建完成


四、搭建Zookeeper集群

  1.将下载好的zookeeper-3.4.8.tar.gz通过rz命令上传到master
  2.创建software目录,将Zookeeper解压到该目录
mkdir /root/software
tar -zxvf zookeeper-3.4.8.tar.gz -C /root/software
  3.修改配置文件

  切换到Zookeeper的conf目录下:

cp zoo_sample.cfg zoo.cfg
vi zoo.cfg
# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
dataDir=/root/software/zookeeper-3.4.8/data
dataLogDir=/root/software/zookeeper-3.4.8/datalog
# the port at which the clients will connect
clientPort=2181
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
server.1=10.6.6.1:2888:3888
server.2=10.6.6.2:2888:3888
server.3=10.6.6.3:2888:3888

  同时在Zookeeper目录下新建datadataLog两个目录用来存放Zookeeper的myid文件和日志文件

mkdir data
mkdir dataLog

  切换到Zookeeper的data目录下:

vi myid

  输入当前主机的id:1,并保存退出

1
  4.使用scp命令将环境拷贝到另外两台主机
scp -r zookeeper-3.4.8 root@slave1:/root/software/
scp -r zookeeper-3.4.8 root@slave2:/root/software/

  相同地,将slave1的Zookeeper中myid文件内容修改为2,将slave2的Zookeeper中myid文件内容修改为3

  5.启动Zookeeper集群
# 首先关闭防火墙
systemctl stop firewalld
# 进入Zookeeper的bin目录下
cd /root/software/zookeeper-3.4.8/bin/
# 启动Zookeeper
./zkServer.sh start

  会出现以下语句:

ZooKeeper JMX enabled by default
Using config: /root/software/zookeeper-3.4.8/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED

  在三台主机上都进行相同的操作后,在任意一台主机上输入以下语句:

./zkServer.sh status

  如果集群启动成功会出现以下语句:

ZooKeeper JMX enabled by default
Using config: /root/software/zookeeper-3.4.8/bin/../conf/zoo.cfg
Mode: leader  # 或者为Mode: follower

  Zookeeper集群环境搭建完毕


五、搭建Storm集群

  1.将下载好的apache-storm-2.1.0.tar.gz通过rz命令上传到master
  2.将storm解压到software目录
tar -zxvf apache-storm-2.1.0.tar.gz -C /root/software
  3.修改配置文件

  切换到storm的conf目录下,输入vi storm.yaml打开storm.yaml文件,在文件末尾添加如下代码:

# 指定storm使用的zookeeper集群
storm.zookeeper.servers:
     - "master"
     - "slave1"
     - "slave2"
# 指定storm集群中的nimbus节点所在的服务器
nimbus.seeds: ["master"]
# 指定storm文件存放目录
storm.local.dir: "/root/software/apache-storm-2.1.0/data"
# 指定supervisor节点上,启动worker时对应的端口号,每个端口对应槽,每个槽位对应一个worker
supervisor.slots.ports:
    - 6700
    - 6701
    - 6702
    - 6703
# 指定web ui 的端口为9085
ui.port: 9085
  4.使用scp命令将环境拷贝到另外两台主机
scp -r apache-storm-2.1.0 root@slave1:/root/software
scp -r apache-storm-2.1.0 root@slave2:/root/software
  5.启动storm集群

  切换到storm的bin目录下
  在master结点上启动Nimbus,webUI

./storm nimbus &
./storm ui &

  在两个slave结点上启动Supervisor

./storm supervisor &

  在Storm UI上查看集群情况


  storm集群环境搭建完毕!

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,588评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,456评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,146评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,387评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,481评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,510评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,522评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,296评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,745评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,039评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,202评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,901评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,538评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,165评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,415评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,081评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,085评论 2 352

推荐阅读更多精彩内容