MapReduce设置参数防止超时
来源:互联网 发布:unity3d官网教程pdf 编辑:程序博客网 时间:2024/06/07 06:47
1. 如果碰到异常“Task attempt failed to report status for xxx seconds. Killing!”,最可能是碰到死循环了。
2. 如果没有死循环:控制超时的属性是:mapred.task.timeout,默认600000ms,即600s。可以设置成更大的值。可以直接在Jobconf或Configuration中修改(只对本Job起作用),也可以修改mapred-site.xml(对所有Job起作用)。
3. 如果没有死循环,但task执行时间长又不好确定,可以在Reducer或Mapper中主动发送心跳,但需控制发送心跳的频率:
- long heartBeatInterval = 100000L; //主动发心跳的间隔,100s,默认600s超时
- long lastProgressTS = 0; //上一次发心跳的时间点
- //主动发心跳
- if (System.currentTimeMillis() - lastProgressTS > heartBeatInterval) {
- context.progress();
- lastProgressTS = System.currentTimeMillis();
- }
4. 再次,如果对自己的程序有信心不会出现死循环,可以采用更简单的办法:
- conf.set("mapred.task.timeout", "0"); //不检查超时
0 0
- MapReduce设置参数防止超时
- 防止网页打开超时设置
- 串行通讯如何设置超时参数
- 串行通讯如何设置超时参数
- 如何设置超时参数(串行通讯)
- MapReduce优化----参数的解释以及设置
- 如何防止session超时
- php 调试防止超时
- 如何防止session超时
- ServerXMLHTTP的超时设置(setTimeouts)参数含义 转帖
- winsock编程如何设置发送与接收超时参数?
- android httpget httppost 请求,超时参数的设置
- 你应该知道的那些超时设置或默认参数
- 你应该知道的那些超时设置或默认参数
- 你应该知道的那些超时设置或默认参数
- 设置Mysql的连接超时参数wait_timeout、interactive_timeout
- 超时设置
- 设置超时
- ios判断app是否第一次使用
- 外部的 JavaScript
- 解决SurfaceView画图时图片失真的问题
- context观后感
- 谷歌浏览器报错:跨域问题处理( Access-Control-Allow-Origin)_ 用于本地测试的快捷解决方法
- MapReduce设置参数防止超时
- Java编程思想(一) —— 一切都是对象及内存分配
- [JAVA]定时任务之-Quartz使用篇
- aspx 弹框
- 利用深度摄像头生成仿激光数据并构建地图
- 第六周项目3括号的匹配
- 虞美人盛开的山坡片尾曲_さよならの夏_离别的夏天_歌词_带假名及翻译
- 第四周--项目3单链表的应用(2)
- JS使用base64编码实现小文件上传PHP接收后转换