Hadoop跑map-reduce任务时停滞不前的问题
来源:互联网 发布:淘宝的官换机可信吗 编辑:程序博客网 时间:2024/05/18 20:08
今天跑job的时候,发现map任务很正常地结束,但跑reduce任务时到20%几就停滞不前,而且一直卡住没法正常结束。看userlog,好 像是FETCH map任务的结果时超时,无法取到结果。中间还出现了一个诡异的地址web30.bbn.com.cn/202.106.195.30。也就是 说,reduce任务到这个诡异的地址上去取结果。上网搜了一下,这个域名/IP是网通的一台找不到域名或地址后自动定向的上网导航服务器。再看了下 jobtracker的日志,看到在启动的时候它将这个地址加进了节点中。这就说明,它认为这个节点是一个合法的节点,然后分配任务的时候也往这个节点分配任务(当然会失败),取结果的时候也试图到这个节点上取。
反复检查了SSH和hosts文件,一切都很正常。conf/slaves文件看起来也没有问题。就是不知道哪里出的错。后来看到log中有一个heartbeat的词,突然想起来,节点是通过心跳来告诉master自己还存活的。而在这之前,我做了一个测试,加了一个新节点到集群中,后来又把节点给删了,hosts的文件也被改了,会不会是这个节点还在往master发送心跳?SSH到那个新节点上,jps看一下任务,tasktracker果然还活着!把这个进程kill掉,问题就OK了。。。好2啊。。。
- Hadoop跑map-reduce任务时停滞不前的问题
- Hadoop跑map-reduce任务时停滞不前的问题(二)
- hadoop 异常 reduce长时间卡住停滞不前的问题
- Hadoop的map任务和reduce任务的数量
- hadoop map与reduce的问题
- hadoop的map和reduce任务的执行步骤
- 如何控制hadoop中map和reduce任务的数量
- hadoop节点运行的reduce和map任务数
- 如何在Hadoop中控制Map&Reduce任务的数量
- Hadoop Map Reduce Task默认任务数调优
- Hadoop :Map/Reduce的理解
- Hadoop Map/Reduce的工作流
- Hadoop平台的map-reduce
- Hadoop的Map-Shuffle-Reduce
- 【Hadoop】中map与reduce的个数问题
- hadoop中map和reduce的数量设置问题
- hadoop中map和reduce的数量设置问题
- hadoop中map和reduce的数量设置问题
- 一个制作多分区SD卡的脚本
- Postfix上的反垃圾邮件的四个方法
- 有一种美叫做思考——《编程之美》书评
- SQL导出为Excel表
- 浅谈如何将NoSQL引入现有架构系统
- Hadoop跑map-reduce任务时停滞不前的问题
- 三角形面积算法
- GDB多线程调试
- 动态创建表并添加数据最后用reporting显示
- UNICODE项目整理贴
- Facebook如何管理150亿张照片
- Postfix过滤垃圾邮件
- MEEGO不攻自破!Windows Phone才是救世主!
- 打开某一个选择目录