centos下安装ganglia监控hadoop集群
来源:互联网 发布:中国全文期刊数据库 编辑:程序博客网 时间:2024/04/29 01:58
- 1.1 添加EPEL软件仓库
- 1.2 Ganglia服务器端安装
- 1.3 Ganglia客户端安装
- 2.1 监控端配置
- 2.2 服务器端
- 2.3服务器端Apache配置
0 环境
操作系统:CentOS 6.4
hadoop版本:hadoop-1.2.1
集群中三台机器:
192.168.137.101 namenode
192.168.137.103 datanode1
192.168.137.104 datanode2
1 安装Ganglia
1.1 添加EPEL软件仓库
CentOS官方软件仓库中没有Ganglia,而Ganglia依赖又太多,所以添加epel仓库。
rpm -q epel-release查看是否安装epel软件仓库。
若没有,执行:rpm -Uvh http://mirrors.sohu.com/fedora-epel/6/x86_64/epel-release-6-8.noarch.rpm
确认你的centos系统版本、位数。
1.2 Ganglia服务器端安装
Ganglia服务器端收集监控端信息,并提供访问接口,使用以下命令安装:
yum install ganglia ganglia-devel ganglia-gmetad ganglia-gmond ganglia-web ganglia-gmond-python
1.3 Ganglia客户端安装
$ yum install ganglia ganglia-gmond
2 配置Ganglia
2.1 监控端配置
$ vim /etc/ganglia/gmond.conf
将cluster选项中 name设置为gmetad中data_source指定的名称(hadoop)即可。
将globals模块下的setuid=yes修改为setuid=no
$ service gmond start
2.2 服务器端
$ sudo vim /etc/ganglia/gmetad.conf
data_source "hadoop" datanode1 datanode2
只需要更改 data_source一行,"hdfs"代表集群的名字,datanode1,datanode2,就是要监控的机器列表。默认端口8649。
启动服务
service gmetad start
chkconfig gmetad on
2.3服务器端Apache配置
mkdir /var/www/html/ganglia
cp /etc/ganglia/conf.php /var/www/html/ganglia/
vim /etc/httpd/conf.d/ganglia.conf
Alias /ganglia /usr/share/ganglia
<Location /ganglia>
Order deny,allow
# Deny from all
# Allow from 127.0.0.1
# Allow from ::1
Allow from all
# Allow from .example.com
</Location>
然后在/etc/httpd/conf/httpd.conf里最后添加
<Directory /var/www/html/B>
Options All
AllowOverride None
Order allow,deny
Allow from all
</Directory>
可以使用命令setenforce 0来关闭selinux而不需要重启,刷新页面,即可访问!但此方法只是一权宜之计。要想永久修改selinux设置,还是要使用第一种方法。
3 配置Hadoop metrics
hadoop-1.0.1的配置文件为: hadoop-1.0.1/conf/hadoop-metrics2.properties。我安装的Ganglia为版本为3.1,找到配置文件中for Ganglia 3.1 support。将需要监控的项目前面注释去掉,*.servers的配置为 239.2.11.71:8649,这个地址是Ganglia的广播地址,是固定的。
# for Ganglia 3.1 support
*.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31
*.sink.ganglia.period=10
# default for supportsparse is false
*.sink.ganglia.supportsparse=true
*.sink.ganglia.slope=jvm.metrics.gcCount=zero,jvm.metrics.memHeapUsedM=both
*.sink.ganglia.dmax=jvm.metrics.threadsBlocked=70,jvm.metrics.memHeapUsedM=40
namenode.sink.ganglia.servers=239.2.11.71:8649
datanode.sink.ganglia.servers=239.2.11.71:8649
jobtracker.sink.ganglia.servers=239.2.11.71:8649
tasktracker.sink.ganglia.servers=239.2.11.71:8649
maptask.sink.ganglia.servers=239.2.11.71:8649
reducetask.sink.ganglia.servers=239.2.11.71:8649
重启集群即可。
- centos下安装ganglia监控hadoop集群
- 安装ganglia监控hadoop集群
- CentOS下安装与配置Ganglia监控Hadoop集群及HBase
- Ganglia监控Hadoop集群的安装部署
- Ganglia监控Hadoop集群的安装部署
- Ubuntu安装Ganglia并监控Hadoop集群
- Ganglia监控Hadoop集群的安装部署
- Ganglia监控Hadoop集群的安装部署
- Ganglia监控Hadoop集群的安装部署
- Ganglia监控Hadoop集群的安装部署
- ganglia监控hadoop集群
- centos集群上安装ganglia-3.6.0监控hadoop-2.2.0和hbase-0.96.0
- centos集群上安装ganglia-3.6.0监控hadoop-2.2.0和hbase-0.96.0
- Centos6.4下安装Ganglia监控hadoop
- 安装Ganglia监控hadoop
- 用 Ganglia 监控hadoop集群
- 用 Ganglia 监控hadoop集群
- 用 Ganglia 监控hadoop集群
- python中的web server 和 request …
- python之entry points
- 【玩转Mac OS】04. Mac上修改hosts最简单的方法
- python父类子类变量访问不一致
- linux命令
- centos下安装ganglia监控hadoop集群
- 一个日期Js文件。 2013年10月12日 星期六 癸巳年九月初八
- android读取大图片并缓存
- 关于回车后关联哪个按钮的问题
- SQL case...when.. then...else用法之字段按条件替换~~
- IMP导入数据 报错 IMP-00058 ORA-01691 IMP-00028
- 介绍几篇压缩感知相关的文章
- java 实现天气预报 用的是新浪的接口
- android 获取外置sd卡根目录