Storm安装及使用

一、虚拟机准备

其中包括

创建虚拟机

创建虚拟机集群

编辑NAT网卡

编辑网卡

配置各机网络

vim /etc/sysconfig/network-scripts/ifcfg-ens33
配置网络

最终形成一个互通的虚拟机局域网

我配置的三台机子为:

Hostname IP
Master 10.6.6.11
Slave1 10.6.6.12
Slave2 10.6.6.13

修改三台机子的 /etc/hosts

修改hosts

二、SSH配置

(一)关闭防火墙

systemctl stop firewalld.service  
systemctl disable firewalld.service

(二)配置SSH

在主节点上输入如下命令

ssh-keygen -t rsa -P ''
cat id_rsa.pub >> authorized_keys
ssh-copy-id root@s1
ssh-copy-id root@s2

三、JDK安装

在主节点上执行

(一)下载JDK

JDK1.8

(二)解压

tar -zxvf jdk-8u202-linux-x64.tar.gz

(三)移动至指定文件夹

mv jdk1.8.0_202 /usr/java

(四)修改环境变量并生效

vim ~/.bashrc

加入以下语句

export JAVA_HOME=/usr/java
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib/*.jar:${JRE_HOME}/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH

生效

source ~/.bashrc

(五)文件分发

将java文件夹以及环境变量文件分发给从结点

scp -r /usr/java root@s1:/usr
scp -r /usr/java root@s2:/usr
scp /root/.bashrc root@s1:/root
scp /root/.bashrc root@s2:/root

并在从结点上输入

source ~/.bashrc

四、安装Zookeeper

主结点下配置

(一)下载Zookeeper

zookeeper

一定要下载末尾为 -bin 的已编译版本

(二)解压

tar -zxvf apache-zookeeper-3.5.6-bin.tar.gz
mv apache-zookeeper-3.5.6-bin /usr/zookeeper

(三)创建目录

cd /usr/zookeeper/
mkdir data
mkdir logs

(四)配置文件

cd /usr/zookeeper/conf
cp zoo_sample.cfg zoo.cfg 
vim zoo.cfg 

添加以及修改语句

dataDir=/usr/zookeeper/data
dataLogDir=/usr/zookeeper/logs
server.1=ma:2888:3888
server.2=s1:2888:3888
server.3=s2:2888:3888
修改配置

server.* 其中*为各个机子的ID,每个机子的ID唯一且必须为数字

用于添加服务器,id保存在dataDir目录下的myid文件中

等号右边的ma,s1,s2是集群服务器名,2888是follower和集群中的leader交换消息所使用的端口,3888是选举leader时所使用的端口。

进入data目录并修改文件

cd /usr/zookeeper/data
vim myid

输入 1

配置环境变量

vim ~/.bashrc

加入以下语句

export ZOOKEEPER_HOME=/usr/zookeeper
export PATH=$ZOOKEEPER_HOME/bin:$PATH

生效

source ~/.bashrc

(五)分发文件

scp -r /usr/zookeeper root@s1:/usr
scp -r /usr/zookeeper root@s2:/usr
scp /root/.bashrc root@s1:/root
scp /root/.bashrc root@s2:/root

并在两个从结点上分别修改各自的 myid文件 改为 23

以及使环境变量生效

(六)运行Zookeeper

三台机子都输入命令

zkServer.sh start

查看状态

zkServer.sh status
查看状态

五、安装Storm

(一)下载Storm

Storm

(二)解压

tar -zxvf apache-storm-2.1.0.tar.gz
mv apache-storm-2.1.0 /usr/storm

(三)修改配置文件

修改环境变量

vim ~/.bashrc

加入以下语句

export STORM_HOME=/usr/storm
export PATH=$STORM_HOME/bin:$PATH

生效

source ~/.bashrc

Nimbus节点 配置 storm.yaml

vim /usr/storm/conf/storm.yaml 
修改配置

(四)文件分发

scp -r /usr/storm root@s1:/usr/
scp -r /usr/storm root@s2:/usr/
scp /root/.bashrc root@s1:/root
scp /root/.bashrc root@s2:/root

在两台从结点上运行 source ~/.bashrc 使环境变量生效

并将两台从结点上的storm.yaml 里的 storm.local.hostname 修改为各自的IP

(五)启动Storm

主节点上运行

storm nimbus &
storm ui &

从结点上运行

storm supervisor &

(六)打开StormUI查看

StormUI

运行成功!

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容