reduce个数的决定因素
来源:互联网 发布:湖南网络工程学院快递 编辑:程序博客网 时间:2024/04/28 19:49
reduce数量由以下三个参数决定,
mapred.reduce.tasks(强制指定reduce的任务数量)
hive.exec.reducers.bytes.per.reducer(每个reduce任务处理的数据量,默认为1000^3=1G)
hive.exec.reducers.max(每个任务最大的reduce数,默认为999)
计算reducer数的公式很简单N=min( hive.exec.reducers.max ,总输入数据量/ hive.exec.reducers.bytes.per.reducer )
只有一个reduce的场景:
a、没有group by 的汇总
b、order by
c、笛卡尔积
- reduce个数的决定因素
- 决定成败的因素
- 决定英语水平的因素
- 决定maper数量的因素
- 服务器合租速度的决定因素
- 李嘉诚:性格才是命运的决定因素
- 李嘉诚:性格才是命运的决定因素
- 李嘉诚:性格才是命运的决定因素
- 李嘉诚:性格才是命运的决定因素
- 决定智商,情商的父母因素
- 决定搜索引擎质量的四条因素
- 影响硬盘的N个决定因素
- 六大因素决定你的薪水
- tweets生存或者凋零的决定因素
- 处理情感影响因素的金钱决定
- 决定你SEO命运的首要因素
- oracle-决定回表性能的因素
- Hadoop中maptask数量的决定因素
- POJ 2653 线段与线段相交 Pick-up sticks
- 通过Linux理解操作系统(一):概述
- 360官网上下载不同版本的浏览器
- 如何进行软件测试管理
- 支持异步事件的 EventHelper
- reduce个数的决定因素
- ACE学习前准备工作
- 有效利用时间12妙招
- cocos2d-x 设置全局可变变量
- 继承与派生-撞错
- hadoop基准测试
- hadoop稳定性与性能
- 黑马程序员---多线程:线程间通信
- sql server 2005或2008实现oracle行转列函数wm_concat