Facebook : Corona的Reduce延时启动
来源:互联网 发布:mac air连接电视 编辑:程序博客网 时间:2024/05/16 09:20
在MR的计算模型中,过早启动Reduce,reduce会空等map的完成,这是资源浪费,这个资源完全可以用来执行真正需要执行的任务。
Corona的实现中,同样考虑了Reduce的延时启动。主要是下面三个单数来进行判断:
# 当前job的最小map门限,如果一个job的未执行完毕的map数达到这个门限,则开始reduce的启动
public static final String RUSH_REDUCER_MAP_THRESHOLD = mapred.job.rushreduce.map.threshold(最小map数)
#同上,job的reduce门限
public static final String RUSH_REDUCER_REDUCE_THRESHOLD = mapred.job.rushreduce.reduce.threshold(最小Reduce数)
# map执行完成的百分比,达到这个比例在开始启动reduce
mapred.reduce.slowstart.completed.maps(默认0.05F)
代码判断逻辑如下:
- Facebook : Corona的Reduce延时启动
- Facebook : Corona中的推测执行
- Corona的工程配置
- ios启动图片的延时
- Corona的屏幕适配
- 批处理延时启动的几个方法
- cmd批处理延时启动的几个方法
- Android延时启动任务的方法
- 批处理延时启动的几个方法
- 批处理bat 延时启动的方法
- 不要启动Facebook的“嘘”功能
- Corona SDK的优与劣
- Corona SDK的优与劣
- corona new button(按钮的使用)
- Facebook open sources Corona — a better way to do webscale Hadoop
- 关于hadoopV1中reduce提前启动的问题
- MapReduce启动的Map/Reduce子任务简要分析
- 延时启动脚本
- android 中实时显示
- VC6.0转vs2005
- JAVA String.format 方法使用介绍
- libjpeg的交叉编译
- MySQL常用函数
- Facebook : Corona的Reduce延时启动
- String,StringBuffer,StringBuilder的区别?
- C++个人笔记二
- 正则表达式30分钟入门教程
- 装饰者模式(Decorator Pattern)
- [架构] ZeroMQ 深度探索(二)
- Delphi Locate 详解1
- mysql常用技巧汇总
- keepalived 添加pop3_check模块(一)