logstash日志收集展示与邮件报警
来源:互联网 发布:淘宝众筹怎么找不到了 编辑:程序博客网 时间:2024/05/16 19:09
有时候我们需要对一些服务器日志进行分析,并对其中错误的日志进行报警,在这里我们采用logstash来收集这些日志,和采用自己开发的邮件发送系统来发送错误日志数据。
例如我们有几个文件需要监控(BI日志)
我们可以通过配置logstash来收集这些文件日志
input{
file{
path=> "/diskb/bidir/smartbi_prd_*/apache-tomcat-5.5.25_prd_*/logs/catalina.out"
start_position=> "beginning"
sincedb_path=> "/diskb/logstashlog/log"
codec => plain {
charset => "GBK"
}
}
}
filter {
multiline {
pattern => "^\d{2}-\d{2}\s\d{2}:\d{2}:\d{2}"
negate => true
what => "previous"
}
mutate{
add_field => {
"logmessage" => "%{[message]}"
}
split => ["message"," "]
add_field => {
"logdate" => "%{[message][0]}"
"logtime" => "%{[message][1]}"
"logstate" => "%{[message][2]}"
}
remove_field => ["message"]
}
if [logdate] !~ /\d{2}-\d{2}/ {
drop{}
}
urldecode {
all_fields => true
}
}
output{
#对错误的日志写入到文件中,供邮件发送使用的附件
#其实在这里可以直接使用logstash自带的邮件发送系统,只不过部门要求邮件发送的频率不能
#高于一分钟,故只能采用外部定时发送
if [logstate] =~ /ERROR/ {
file {
path => "/diskb/bi_error_log/bi_error.log"
}
}
elasticsearch{
hosts => [ "10.130.2.53:9200","10.130.2.46:9200","10.130.2.54:9200" ]
flush_size=>50000
workers => 5
index=> "logstash-bi-tomcat-log"
}
}
通过启动这个conf文件,就可以把全部数据导入ES中,可由kibana展示,具体展示不再赘述;而同时把状态为error的日志导入到一个文本中,供邮件发送系统使用。至此完毕。
下附上:发送邮件脚本
#!/bin/sh
#sendmail error log to someone
#发送的附件路径
attachement="/diskb/bi_error_log/*.log"
if [ ! -f $attachement ];then
echo "file is not exist"
exit 1
fi
#收件人
maillist="zhanglibing@staff.hexun.com"
cat > /etc/nail.rc<<EOF
set from=bigdata@staff.hexun.com
set smtp=60.28.250.158
set smtp-auth-user=bigdata@staff.hexun.com
set smtp-auth-password=******
set smtp-auth=login
EOF
#echo "邮件内容" | /usr/local/mailx-12.4/mailx -v -s "邮件标题" [-a "附件路径"] [-c "密送人mail"] 收件人
echo "Hello, please receive the error log for BI from hexun.bdc." | /usr/local/mailx-12.4/mailx -v -s "[The system sends]" -a $attachement $maillist
#发送成功,删除文件
rm -fr $attachement
- logstash日志收集展示与邮件报警
- logstash与filebeat收集日志
- Logstash收集Syslog日志
- Logstash日志收集实践
- Kibana和logstash实时日志查询、收集与分析系统
- LogStash实践日志分析二:收集数据、入库、数据分析和kibana展示
- LogStash实践日志分析二:收集数据、入库、数据分析和kibana展示
- logstash实现分布式日志收集
- Logstash -- Nginx 日志收集处理!
- logstash+kafka 文件日志收集
- logstash结合rsyslog,收集系统日志
- 日志收集分析工具logstash + elasticsearch
- ELK实战-Logstash:收集rsyslog日志
- 使用logstash收集nginx访问日志
- logstash收集PHP性能分析(xhprof)日志
- logback,logstash,elasticsearch配置,日志收集
- 用Kibana+Logstash+Elasticsearch快速搭建实时日志查询、收集与分析系统
- 用Kibana和logstash快速搭建实时日志查询、收集与分析系统
- Android 高仿微信实时聊天 基于百度云推送
- 常见的服务器端返回码
- 破解TLS加密数据的一种实现(移动端+PC端)
- Android Video学习笔记
- Linux下检查是否安装过某软件包
- logstash日志收集展示与邮件报警
- 对Python的深度学习库Theano的介绍
- 在SVN客户端操作在SVN的服务端重新建立一个项目,并且把原来的项目导入到这个新建的项目中
- FFT的详细解释,相信你看了就明白了。。。
- POJ 3352 Road Construction&& POJ 3177 Redundant Paths 双联通分量
- Acrobat将pdf转换成图片之坑爹货
- 的确,Java存在缺陷。但是……
- Android AsyncTask 源码解析
- Java Socket 编程之Socket与ServerSocket的区别