Apache Storm是一个免费的开源分布式实时计算系统。Apache Storm使可靠地处理无界数据流变得容易,为实时处理做了Hadoop为批处理做的事情。Apache Storm很简单,可以和任何编程语言一起使用,使用起来很有趣!Apache Storm有很多用例:实时分析、在线机器学习、连续计算、分布式RPC、ETL等等。ApacheStorm速度很快:一个基准测试显示每个节点每秒处理超过一百万个元组。它是可扩展的,容错的,保证您的数据将被处理,并且易于设置和操作。
Apache Storm集成了您已经使用的排队和数据库技术。Apache Storm拓扑消耗数据流,并以任意复杂的方式处理这些流,根据需要在计算的每个阶段之间重新划分这些流。阅读教程中的更多内容。
1. 安装相关包
/home/jerry#sudo apt-get install libtool
/home/jerry#sudo apt-get install autoconf
/home/jerry#sudo apt-get install automake
/home/jerry#sudo apt-get install g++
/home/jerry#sudo apt-get install uuid
/home/jerry#sudo apt-get install python
(一般ubuntu会自带Python,不需要下载)
2. 安装Zeromq
下载zeromq-4.0.10.zip,下载地址https://github.com/zeromq/zeromq4-x/releases/download/v4.0.10/zeromq-4.0.10.zip
进入解压后的文件夹在/usr/local/zeromq/,依次执行:
/usr/local/zeromq#./configure
/usr/local/zeromq#apt install make
/usr/local/zeromq#make
3. 安装jzmq
jzmq是JNI封装的ZMQ的Java库,storm需要通过它来使用ZMQ,我下载的是3.1.0版本的。下载地址:https://github.com/zeromq/jzmq/archive/v3.1.0.zip
进入解压后的文件夹在/usr/local/jzmq/,依次执行
/usr/local/jzmq#apt-get install libzmq3-dev
/usr/local/jzmq#./autogen.sh
/usr/local/jzmq#./configure
/usr/local/jzmq#make
4、启动zookeeper
5、安装storm
下载apache-storm-2.0.0-src.tar.gz,注意不要下载apache-storm-src-2.0.0-src.tar.gz
/home/jerry#tar -xzf apache-storm-2.0.0-src.tar.gz -C /usr/local
/home/jerry#cd /usr/local
/usr/local#mv apache-storm-2.0.0 storm
/usr/local#gedit ~/.bashrc
exportSTORM_HOME=/usr/local/stormexportPATH=$PATH:$STORM_HOME/bin
/usr/local#source ~/.bashrc
/usr/local#cd storm
/usr/local/storm#mkdir stormlocaldir
/usr/local/storm#gedit conf/storm.yaml
storm.zookeeper.servers:-"127.0.0.1"nimbus.host:"127.0.0.1"storm.local.dir: /usr/local/storm/stormlocaldirsupervisor.slots.ports: -6700 -6701 -6702 -6703
6、启动storm
1)启动zookeeper
/usr/local/storm#zkServer.sh start
2)启动storm numbus
/usr/local/storm#bin/storm nimbus &
3)启动Storm supervisor
/usr/local/storm#./storm supervisor &
7、检查
/usr/local/storm# jps
61648 nimbus
2864 JobHistoryServer
2705 SecondaryNameNode
2470 DataNode
61846 Supervisor
62135 Jps
2327 NameNode
3197 HQuorumPeer