Ganglia分布式集群监控系统安装手册

一、Ganglia分布式监控系统简介

Ganglia是UC Berkeley发起的一个开源集群监视项目。它主要是用来监控系统性能，如：CPU 、Memory、硬盘利用率， I/O负载、网络流量情况等。Ganglia通过图形化的方式展示每个节点的状态信息，这对合理调整、分配系统资源，提高系统整体性能起到重要作用。Ganglia包含三个核心组件：Ganglia Monitoring Daemon（gmond）、Ganglia Meta Daemon（gmetad）以及Ganglia PHP Web Frontend。

Gmond组件

Gmond组件部署于集群中各个被监控的节点。其主要功能是从操作系统或指定的主机收集状态信息。其收集主机状态信息的方式灵活，状态信息均以XML格式进行传输。Gmond组件可以级联形成层次结构，这种层次结构使得Ganglia拥有良好的可扩展性。另外，Gmond组件带来的系统负载非常少，对用户的影响非常小。Gmond组件的工作模式有两种：单播和多播。单播模式下，Gmond组件发送其收集的主机状态信息到指定的一个或多个节点，可以跨网段；多播模式下，Gmond组件发送其监控的主机状态信息到同一网段内的所有节点，同时还接收同一网段内其他节点发送的状态信息。

Gmetad组件

Gmetad组件可以部署于集群中的某一节点，也可以部署于集群外的某一专门服务器，其主要功能是周期性地从指定的Gmond组件或其他Gmetad组件拉取数据，并将拉取的数据存储在本地数据库。这些存储的状态信息供Ganglia-Web组件使用。

Ganglia-Web组件

Ganlgia-Web组件和Gmetad组件须部署于同一节点，它通过数据库轮询的方式从Gmetad组件中获取状态信息，并以web形式图形化地展示各个节点的状态信息。

Overview of Ganglia Node

Details of Ganglia Node

Ganglia Cluster Data Flow

 

二、CentOS下搭建Ganglia分布式监控系统

 

1、安装依赖

 

1) Ganglia依赖于以下系统软件包，请先检查这些软件包是否正确安装。所缺软件包建议通过YUM源方式安装。安装这些包，需要CentOS-Base.repo。后续安装步骤中可能用到源epel.repo。

 

Java代码  

1. yum install apr-develapr-util check-devel cairo-devel pango-devel libxml2-devel rpmbuild glib2-develdbus-devel freetype-devel fontconfig-devel gcc-c++ expat-devel python-devellibXrender-devel  

 

2) 安装confuse

 

• 通过RPM包方式安装（libconfuselibconfuse-devel）

 

 

Java代码  

1. rpm –ivhlibconfuse-2.6-2.el5.rf.x86_64.rpm  
2. rpm –ivhlibconfuse-devel-2.6-2.el5.rf.x86_64.rpm  

 

 

• 通过源码编译方式安装 （confuse）

 

 

Java代码  

1. tar zxvf confuse-2.7.tar.gz  
2. ./confuse-2.7/configure CFLAGS=-fPIC --disable-nls  
3. ./confuse-2.7/make&& make install  

 

在以源码编译方式安装confuse时，如果环境是64位操作系统，则configure参数不可以省略，否则源码编译安装Ganglia时会出错。

3) 安装RRDTool（Ganglia依赖于RRDTool数据库轮询工具来更新Ganglia-Web页面）

 

• 通过YUM源方式安装

 

 

Java代码  

1. yum install rrdtool  

 

 

• 通过源码编译方式安装 （rrdtool）

 

 

Java代码  

1. tar zxvfrrdtool-1.4.6.tar.gz  
2. ./rrdtool-1.4.6/configure--prefix=/usr  
3. ./rrdtool-1.4.6/make&& make install  

 

在以源码编译方式安装时，configure的参数--prefix用来指定安装目录，便于后续安装指定路径。

4) 安装Apache+PHP（仅gmetad组件和ganglia-web组件所在节点须配置此项）

 

• 通过YUM源方式安装

 

 

Java代码  

1. yum install httpd php apr  

 

2、安装Ganglia

安装前请先检查/usr/include/rrd.h和/usr/lib/librrd.a文件是否存在。如不存在，可分别创建指向这两个文件的软链接。

 

• 通过YUM源方式安装

 

 

Java代码  

1. yum install gangliaganglia-gmond ganglia-gmetad ganglia-web  

 

 

• 通过源码编译方式安装（ganglia ganlia-web）

 

 

Java代码  

1. tar zxvfganglia-3.4.0.tar.gz  
2. ./ganglia-3.4.0/configure--with-gmetad  
3. ./ganglia-3.4.0/make&& make install  

 

在以源码编译方式安装时，configure如果不指定参数--with-gmetad则只安装gmond组件。

3、配置Ganglia

1) 获取Ganglia配置文件

 

• 如果通过YUM源方式安装，则配置文件已自动生成，配置文件存放于/etc目录。
• 如果通过源码编译方式安装，Ganglia的配置信息需要手动生成。

 

首先需要创建配置文件存储目录

 

Java代码  

1. mkdir /etc/ganglia  

 

Gmond组件的默认配置文件可自动生成

 

Java代码  

1. gmond –t | tee/etc/ganglia/gmond.conf  

 

Gmetad组件的配置文件为源码包中的package/gmetad/gmetad.conf

 

Java代码  

1. cp<package>/gmetad/gmetad.conf /etc/ganglia/gmetad.conf  

 

2） 配置文件。不管采用哪种安装方法，其配置方法如下：

 

• gmond.conf配置项目

 

 

Java代码  

1. /*配置集群信息，主要配置集群名称*/  
2. cluster {  
3.      name = "Flume"  
4.      owner = "Cooper"  
5.      latlong = "unspecified"  
6.      url = "unspecified"  
7. }  
8. /*配置UPD发送管道，用于发送UPD单播或多播状态信息*/  
9. udp_send_channel {  
10.      host = 111.111.111.***  
11.      port = 8649  
12.      ttl = 1  
13. }  
14. /*配置UPD接收端口，用于接收其他节点发送到UPD单播或多播状态信息*/  
15. udp_recv_channel {  
16. port = 8649  
17. }  
18. /*配置Gmond组件收集的信息，可配置状态信息采集时间，最大采集时间间隔和监控值阈等*/  
19. /*Gmond组件的状态信息收集项已经默认配置完成，可根据实际需要更改收集时间阈和值阈*/  
20. collection_group {  
21.      collect_once = yes  
22.      time_threshold = 20  
23.      metric {  
24.           name = "heartbeat"  
25.      }  
26. }  

 

 

• gmetad.conf配置项目

 

 

Java代码  

1. /*配置周期性拉取信息的数据源*/  
2. data_source"Flume" 111.111.111.***:8649  
3. /*可配置拉取周期、拉取节点等，如果gmetad需要拉取多个节点的信息，以空格分隔配置*/  
4. # data_source"cluster" 10 localhost my.machine.edu:8649 1.2.3.5:8655  
5. # data_source"grid" 50 1.3.4.7:8655 grid.org:8651 grid-backup.org:8651  
6. # data_source"source" 1.3.4.7:8655 1.3.4.8  

 

 

• 配置文件完成后，将gmond和gmetad注册为系统服务

 

 

Java代码  

1. chkconfig –-add gmond  
2. chkconfig –-add gmetad  

 

 

• 启动服务

 

 

Java代码  

1. service gmond start  
2. service gmetad start  
3. service httpd srart  

 

附1、使用Gmetric定制监控信息

Gmetric组件是可选组件，所以配置之前，请确认Gmetric组件已经正确安装。Gmetric组件通过执行定制的脚本，将返回结果返回给Gmond组件。

 

Java代码  

1. ll /usr/bin/gmetric  
2. vi/root/gmetric_scripts.sh  
3. chmod 755/root/gmetric_scripts.sh  
4. /root/gmetric_scripts.sh  
5. /*将脚本服务添加到crontab，设置周期性运行*/  
6. crontab –e  
7. /1 * * * * /root/mcd_gmetric.sh  

 

在此提供一个共享的脚本库【猛击这里】

附2、监控Hadoop集群

/*配置Hadoop文件*/

 

Java代码  

1. /*这里所配置的IP地址，是指Gmond组件指定的多播地址，不是Gmetad组件所在地节点地址*/  
2. # Configuration of the"dfs" context for ganglia  
3. dfs.class=org.apache.hadoop.metrics.ganglia.GangliaContext  
4. dfs.period=10  
5. dfs.servers=10.224.192.***:8649  
6.    
7. # Configuration of the"mapred" context for ganglia  
8. mapred.class=org.apache.hadoop.metrics.ganglia.GangliaContext  
9. mapred.period=10  
10. mapred.servers=10.224.192.***:8649  
11.    
12. # Configuration of the"jvm" context for ganglia  
13. jvm.class=org.apache.hadoop.metrics.ganglia.GangliaContext  
14. jvm.period=10  
15. jvm.servers=10.224.192.***:8649