数仓--open-falcon配置flume监控

open-falcon配置flume监控

配置步骤:

flume配置项

  • 修改 ${flume_home}/conf/flume-env.sh.template
cd  ${flume_home}/conf
cp lume-env.sh.template  lume-env.sh
# 添加语句,http的端口指定为3000
export JAVA_OPTS="$JAVA_OPTS -Dflume.monitoring.type=http -Dflume.monitoring.port=3000"
  • flume启动脚本如下
#!/bin/bash
nohup bin/flume-ng agent -c conf -f conf/flume_s3_taildir.conf  -n a1 -Dflume.monitoring.type=http -Dflume.monitoring.port=3000 > logs/flume_a1.log 2>&1 &

open-falcon配置

    1. 启动flume,确认http://localhost:3000/metric 可访问到监控参数 (此处url及端口3000需与后续open-falcon的监控脚本中保持一致);
    1. 进入open-falcon工作目录,修改agent/config/cfg.json中的相应内容如下:
    "plugin": {
        "enabled": true,
        "dir": "./plugin",
        "git": "https://github.com/mdh67899/openfalcon-monitor-scripts.git",
        "logs": "./logs"
    },
  • 此处./plugin指的是open-falcon工作目录下的plugin目录,而不是agent目录下同样存在的plugin目录;若遵循以下步骤则git项不用修改
  • cfg.json中enable需要修改为 true
  • 3.(由于参考补充文档中直接访问1988端口更新配置与下载插件不成功,)手动下载open-falcon的官方flume监控脚本,并放置到上一步的dir路径下
git clone https://github.com/mdh67899/openfalcon-monitor-scripts.git
cd openfalcon-monitor-scripts 
mv flume ${open-falcon-home}/plugin/
# 为脚本添加执行权限
cd  ${open-falcon-home}/plugin/flume
chmod +x 60_flume-monitor.py
  • IMPORTANT: 由于falcon-agent调度运行脚本时使用的是系统默认的python环境而不是安装open-falcon后端时安装的虚拟环境,一定要确定当前python环境package齐全(例如requests包);

    1. 登录到open-falcon面板,创建HostGroup,并绑定host与plugin
      创建HostGroup,自定义group名(如flume)


      falcon-01
  • 绑定host,hostname为主机名


    falcon-02
  • 绑定plugin,plugin dir为第二步中dir路径下的相对路径,dir路径为./plugin时,plugin dir为flume (绝对路径为${open-falcon-home}/plugin/flume)


    falcon-03
    1. 重启falcon-agent
./open-falcon restart agent
    1. 查看日志
  • 工作中一定要学会查看日志;一定要学会查看日志;一定要学会查看日志;
#查看agent启动日志
tail -f ${open-falcon-home}/agent/logs/agent.log
#查看监控脚本执行日志
tail -f  ${open-falcon-home}ogs/flume/60_flume-monitor.py\(\).stderr.log
    1. 成功启动且监控脚本无报错后,查看dashboard是否存在flume相关counters


      falocn-04
    • !!初始化需要时间,约1-3分钟!!
  • 8.可以根据实际业务需要配置阈值报警;

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,185评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,445评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,684评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,564评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,681评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,874评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,025评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,761评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,217评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,545评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,694评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,351评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,988评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,778评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,007评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,427评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,580评论 2 349

推荐阅读更多精彩内容

  • Open-falcon是小米运维团队从互联网公司的需求出发,根据多年的运维经验,结合SRE、SA、DEVS的使用经...
    猴子精h阅读 5,135评论 1 5
  • 介绍 概述 Apache Flume是为有效收集聚合和移动大量来自不同源到中心数据存储而设计的可分布,可靠的,可用...
    ximengchj阅读 3,518评论 0 13
  • 选型背景 这次采用开源监控系统主要是为了监控一些自定义业务并进行告警,所以重点关注了上传自定义数据、监控、显示、存...
    Sunrise95阅读 12,371评论 0 16
  • 1Flume概述 1.1 定义 Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚...
    djm猿阅读 608评论 0 4
  • 细雨微风,独自停留在甬道一旁,看着那于风中频频点头摇曳的红玫瑰,心中浮现出一幅美美的画面,那天,你你挽着她的手,走...
    艾可AIKE阅读 151评论 0 0