ganglia安装配置(监控hadoop)

环境:

系统

CentOS 6.0

hadoop集群中有3台服务器

server01 -> master 192.168.255.128

server02 -> slave    192.168.255.130

server03 -> slave    192.168.255.131

软件仓库 epel

    直接使用epel源中的ganglia(自己编译安装有点小麻烦)。

1. 安装epel源

wget http://download.fedora.redhat.com/pub/epel/6/x86_64/epel-release-6-5.noarch.rpm -P /usr/local/src  

rpm -ivh /usr/local/src/epel-release-6-5.noarch.rpm  

rpm --import /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-6 

2. ganglia服务端安装gemtad和gmond

yum install ganglia ganglia-devel ganglia-gmetad ganglia-gmond ganglia-web ganglia-gmond-python 

会自动安装相应的依赖包。

3. 其他服务器(作为客户端)只需安装gmond

yum install ganglia ganglia-gmond 

4. 配置ganglia的gemtad

cd /etc/ganglia  

vi gmetad.conf  

data_source "ganglia_hadoop" 192.168.255.128 192.168.255.130 192.168.255.131 

修改数据源data_source这一行即可。

data_source "name" ip01:port01 ip02:port02 ...

说明:后面这些IP地址就是进行监控的主机,冒号后面跟的是要监听的端口号(默认为8649)。

启动服务

service gmetad start  

chkconfig gmetad on 

5. 所有服务器配置客户端gmond(使用多播)

vi /etc/ganglia/gmond.conf  

cluster {  

  name = "ganglia_hadoop" 

  ... 

只需将集群的name设置为gmetad中data_source设置的名字即可。

启动服务

service gmond start 

6. 配置nginx

vi /usr/local/nginx/conf/vhosts/ganglia.conf  

server  

{  

  listen  80;  

  server_name  域名;  

  index index.html index.htm index.php;  

  root  /usr/share/ganglia;  


  location ~ ^(.*)\/\.svn\/  

  {  

    deny all;  

  }  


  location ~ .*\.(php|php5)?$  

  {  

    # fastcgi_pass  unix:/tmp/php-cgi.sock;  

    fastcgi_pass  php_server01;  

    fastcgi_index index.php;  

    include fcgi.conf;  

  }  


  location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$  

  {  

    expires      30d;  

    access_log   off;  

  }  


  location ~ .*\.(js|css)?$  

  {  

    expires      1h;  

    access_log   off;  

  }  


  log_format  ganglia  '$remote_addr - $remote_user [$time_local] [$request_time] "$request"'  

              '$status $body_bytes_sent "$http_referer"'  

              '"$http_user_agent" $http_x_forwarded_for';  

  access_log  off;  

 主目录为:/usr/share/ganglia

可以添加通过nginx设置用户名密码访问和限制IP访问。

访问http://域名

会报错:

Notice: Undefined variable: private in /usr/share/ganglia/auth.php on line 27

因为我的php-fpm的运行用户为nobody,程序auth.php中fopen打开的文件为private_clusters,链接到/etc/ganglia/private_clusters,查看文件的拥有者

ls -l /etc/ganglia/private_clusters  

-rw-r----- 1 root apache 1222 Feb 17  2010 /etc/ganglia/private_clusters 

组拥有者为apache,修改组为php-fpm运行的用户即可。

chown root:nobody /etc/ganglia/private_clusters 

7. 监控hadoop

我使用的hadoop的版本为hadoop-0.20.205.0.tar.gz,ganglia的配置文件已经修改为hadoop-metrics2.properties

修改配置文件

vi $HADOOP_HOME/conf/hadoop-metrics2.properties

# for Ganglia 3.1 support  

*.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31  


*.sink.ganglia.period=10 


# default for supportsparse is false  

*.sink.ganglia.supportsparse=true 


*.sink.ganglia.slope=jvm.metrics.gcCount=zero,jvm.metrics.memHeapUsedM=both 

*.sink.ganglia.dmax=jvm.metrics.threadsBlocked=70,jvm.metrics.memHeapUsedM=40 


namenode.sink.ganglia.servers=239.2.11.71:8649  


datanode.sink.ganglia.servers=239.2.11.71:8649  


jobtracker.sink.ganglia.servers=239.2.11.71:8649  


tasktracker.sink.ganglia.servers=239.2.11.71:8649  


maptask.sink.ganglia.servers=239.2.11.71:8649  


reducetask.sink.ganglia.servers=239.2.11.71:8649 

只需要将ganglia段落中的相关注释取消即可。

注意:需要根据你的ganglia的版本来选择注释以下哪一行

# for Ganglia 3.0 support

# *.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink30

#

# for Ganglia 3.1 support

*.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31

需要修改hadoop集群中所有的服务器的hadoop-metrics2.properties文件

重启hadoop

stop-all.sh  

start-all.sh 

8. 查看ganglia的监控页面将会看到相关的监控信息

如:dfs.dataname metrics


©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,651评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,468评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,931评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,218评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,234评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,198评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,084评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,926评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,341评论 1 311
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,563评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,731评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,430评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,036评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,676评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,829评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,743评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,629评论 2 354

推荐阅读更多精彩内容