Jstorm 初探

http://www.jstorm.io/
https://github.com/alibaba/

应用场景

==》日志分析,从日志中分析出特定的数据,并将分析的结果存入外部存储器如数据库。目前,主流日志分析技术就使用JStorm或Storm
管道系统, 将一个数据从一个系统传输到另外一个系统, 比如将数据库同步到Hadoop
==》消息转化器, 将接受到的消息按照某种格式进行转化,存储到另外一个系统如消息中间件
==》统计分析器, 从日志或消息中,提炼出某个字段,然后做count或sum计算,最后将统计值存入外部存储器。中间处理过程可能更复杂。
==》实时推荐系统, 将推荐算法运行在jstorm中,达到秒级的推荐效果


Paste_Image.png

Jstorm 结构图

各种组件代表的含义

Nimbus: 资源调度角色
Supervisor: 接受nimubs 任务安排,启动任务
Worker: 进程
Executor: 执行线程
Task: 执行逻辑单元(Spout,Bolt)

Paste_Image.png
安装Jstorm

还是官网全

http://120.25.204.125/QuickStart_cn/Deploy/Standalone.html
(1)解压安装包
(2)配置文件 storm.yaml

 storm.zookeeper.servers:
     - "master"
     - "slave1"
     - "slave2"
 storm.zookeeper.root: "/jstorm"

 cluster.name: "chh_test"

 nimbus.host: "master"
 storm.local.dir: "%JSTORM_HOME%/data"
 supervisor.slots.ports:
    - 6800
    - 6801
    - 6802
    - 6803

在当前机器,一般是nimbus,也就是提交jar包的机器上执行如下命
令:

mkdir ~/.jstorm
cp storm.yaml ~/.jstorm/

(3)启动zookeeper ./bin/zkServer.sh start
(4)确保安装了python以上 和java7.0以上
(5)配置storm ui管理界面
拷贝war包到webapp目录
创建软链文件,作为默认项目

mv ROOT ROOT.old
ln -s jstorm-ui-2.1.1 ROOT

(5)启动Jstorm

#主节点
nohup bin/jstorm nimbus & 
#从节点
nohup bin/jstorm supervisor &

查看是否启动

Paste_Image.png
Paste_Image.png

查看结果
http://192.168.0.200:8080/

Paste_Image.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 135,010评论 19 139
  • Date: Nov 17-24, 2017 1. 目的 积累Storm为主的流式大数据处理平台对实时数据处理的相关...
    一只很努力爬树的猫阅读 2,208评论 0 4
  • 目录 场景假设 调优步骤和方法 Storm 的部分特性 Storm 并行度 Storm 消息机制 Storm UI...
    mtide阅读 17,201评论 30 60
  • 【一】 在终点前,我用倒退着冲过终点线的方式完成了第三日的赛程。我用这种前无古人后无来者的独特方式庆祝自己从炼狱回...
    林春生阅读 1,489评论 7 13
  • 钱影也没想到自己还能死里逃生,感概之余,她问李泉生:"我们接下来怎么办?"李泉生抹了一把脸上的不知道是汗水还是雨水...
    笑君杀手阅读 265评论 0 0