利用Splunk收集HBase集群日志
来源:互联网 发布:淘宝网如何退货 编辑:程序博客网 时间:2024/04/29 01:04
什么是splunk
Splunk是日志界的google。支持任何服务器产生的日志,其对日志进行处理的方式是进行高效索引之后让管理员可以对日志中出现的各种情况进行搜索,并且通过非常好的图形化的方式展现出来。让管理员彻底从繁琐的ssh,grep中解放出来。
我们可以通过配置splunk,收集cluster内的HBase/Hadoop以及一切由log4j生成的日志。
1. 安装splunk
可以在其中一台机器上安装splunk,安装方法可以参考:http://www.splunk.com/base/Documentation/latest/Installation/InstallonLinux
2. 为splunk添加数据源
Splunk的webconsole是: http://{install_machine_ip}:8000
以admin和默认的changeme密码登录后,可以看到这样的界面
现在,我们为splunk加入一个udp的数据源
“Add Data” à “UDP” à 新增资料
这里,我们添加了一个UDP数据源,类别为log4j,端口为1688
3. 修改log4j配置,将日志导入到splunk中。
修改HBase中conf的log4j配置,增加一个指向splunk server服务器的appender。
- # syslog
- #
- log4j.rootLogger=INFO,logfile,SYSLOG
- ……
- # Define the root logger to the system property "hbase.root.logger".
- log4j.rootLogger=${hbase.root.logger},SYSLOG
- .......
- log4j.appender.SYSLOG=org.apache.log4j.net.SyslogAppender
- log4j.appender.SYSLOG.facility=local1
- log4j.appender.SYSLOG.layout=org.apache.log4j.PatternLayout
- log4j.appender.SYSLOG.layout.ConversionPattern=%p %c{2}: %m%n
- log4j.appender.SYSLOG.SyslogHost=10.64.66.211:1688
- log4j.appender.SYSLOG.threshold=DEBUG
- log4j.appender.SYSLOG.Header=true
- log4j.appender.SYSLOG.FacilityPrinting=true
这个例子中,我们的syslog Host是10.64.66.211,将其改为实际的splunk server IP地址就可以了。
这样子,日志将导入到splunk,之后,我们就可以方便的对其查询了。
转载
- 利用Splunk收集HBase集群日志
- 利用Splunk收集集群日志
- Docker日志收集-splunk
- 超级日志服务器-Splunk
- 日志分析软件 Splunk
- 超级日志服务器-Splunk
- flume-ng 日志收集到hbase
- 实时收集Storm日志到ELK集群
- 利用ambari搭建hadoop、hbase集群
- 日志分析工具Splunk破解
- 【收集】hadoop,hbase,zookeeper错误日志及部分解决办法
- Flume-ng+Hbase实现日志的收集和存储
- Hadoop学习笔记之flume Nginx日志收集到HBase
- Splunk
- Splunk
- splunk
- HBase log中这些日志 说明整个集群正常吗?
- hbase收集
- 发现了个不错的批处理命令
- Nginx配置文件nginx.conf中文详解
- ARM及LPC2000学习笔记
- C语言嵌入式系统性能优化
- object, System.Web.UI.WebControls.GridViewRowEventArgs)”不可访问,因为它受保
- 利用Splunk收集HBase集群日志
- LINUX SD card driver分析
- 3G时代的到来对运营商是个巨大的挑战
- 提高SQL语句查询效率的若干建议
- how to access file in kernel space
- 递归算法总结
- Delphi 文件处理实例(6)
- UIWebView体系结构(四)UIWebBrowserView
- android122--Adapter