hadoop mapreduce 程序调试日志合并查看shell
来源:互联网 发布:南京乐金熊猫电器知乎 编辑:程序博客网 时间:2024/05/16 06:57
hadoop mapreduce 程序调试日志合并查看shell
上一篇文章介绍了如何在web中查看日志并且进行调试。现在介绍一种通过shell方式进行处理调试信息。
本文阅读前提:
1、已经读完上一篇文章(http://blog.csdn.net/wild46cat/article/details/53641765),在本文中对重复的设置和运行不做说明。
好,下面上货。
首先是shell
#!/bin/bash#the application dir application_1481720192563_0001param=$1#local dir store stderr stdout and sysloglocallogdir='/home/user/xyshell/log/'stderrfile=$locallogdir'stderr'stdoutfile=$locallogdir'stdout'syslogfile=$locallogdir'syslog'syslogshuffle=$locallogdir'syslogshuffle'#yarnlog dir which is set in yarn-site.xmlyarnlogpath='/home/hadoop/yarn/log/'applicationname=$yarnlogpath$paramiparray=(host1 host2 host3) user='user'cmd="scp -r $applicationname $user@host1:$locallogdir"echo $applicationnameecho $cmdecho `date` > $stderrfileecho `date` > $stdoutfileecho `date` > $syslogfileecho `date` > $syslogshufflefor ip in ${iparray[*]} do echo "=========$ip==========="# copy from host1 host2 host3#echo "$cmd" ssh -t $user@$ip '\'$cmd'\' echo "=========$ip===========" echo done if [ -d $locallogdir$param ]thencd $locallogdir$paramsubdirarray=`ls | sort`for x in $subdirarraydocd $xcat stderr >> $stderrfile cat stdout >> $stdoutfile cat syslog >> $syslogfileif [ -f syslog.shuffle ]thencat syslog.shuffle >> $syslogshuffleficd ..donefi
下面是运行结果:
这样,在查看stdout就可以了。
0 0
- hadoop mapreduce 程序调试日志合并查看shell
- Eclipse调试Hadoop-MapReduce程序
- hadoop的日志主要是MapReduce程序
- hadoop入门-Mapreduce程序相关日志
- MapReduce 编程 系列七 MapReduce程序日志查看
- 如何查看mapreduce日志
- Hadoop-03-第二个MapReduce程序--模拟分析购物日志
- Hadoop Mapreduce本地调试
- MapReduce 程序本地调试 / Hadoop 操作本地文件系统
- windows MyEclipse下连接hadoop并且编写调试mapReduce程序
- windows下连接hadoop并且编写调试mapReduce程序
- Eclipse下使用Hadoop单机模式调试MapReduce程序
- Hadoop 调试第一个mapreduce程序过程详细记录总结
- Hadoop 调试第一个MapReduce程序过程详细记录总结
- Eclipse下使用Hadoop单机模式调试MapReduce程序
- Cloudera Hadoop mapreduce--合并数据
- hadoop-mapreduce map端多表合并
- Hadoop-mapreduce reducer端多表合并
- android基础
- ALEX net 解读
- C++stl队列
- Java程序员从笨鸟到菜鸟之(四)java开发常用类(包装,数字处理集合等)(上)
- MFC之二图标的替换和界面限制大小
- hadoop mapreduce 程序调试日志合并查看shell
- Java程序员从笨鸟到菜鸟之(五)java开发常用类(包装,数字处理集合等)(下)
- OJ,Hamming Distance
- 2 分钟读懂大数据框架 Hadoop 和 Spark 的异同
- 机器学习系列-K-NearestNeighbo
- Java程序员从笨鸟到菜鸟之(一百零七)一步一步学习webservice(一)开篇
- 多对多关联关系
- Java程序员从笨鸟到菜鸟之(一百零八)一步一步学习webservice(二)webservice基本原理
- mp4格式文件转码后处理(qt-faststart工具介绍)