partitoner笔记
来源:互联网 发布:类似p2p的软件 编辑:程序博客网 时间:2024/05/01 15:29
//1.3 指定分区类job.setPartitionerClass(KpiPartitioner.class);job.setNumReduceTasks(3);
static class KpiPartitioner extends HashPartitioner<Text, KpiWritable>{@Overridepublic int getPartition(Text key, KpiWritable value, int numReduceTasks) {if(key.toString().length()==11){return 0;}else if(key.toString().length()==10){return 1;}else{return 2;}}}
分区的例子必须打成jar运行
job.setJarByClass(KpiApp.class);
2.多个reduce任务在运行,提高整体job的运行效率
1.Partitioner是partitioner的基类,如果需要定制partitioner也需要继承该类。
2. HashPartitioner是mapreduce的默认partitioner。计算方法是
which reducer=(key.hashCode() &Integer.MAX_VALUE) % numReduceTasks,得到当前的目的reducer。
0 0
- partitoner笔记
- 自定义的partitoner,需要放在liunx环境下运行,Windows下是无法识别分区下标的
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 笔记
- 如何安装ArchLinux
- QT产生随机数和定时器
- 计算两个数的最大公约数 gcd(a,b)
- mysql的utf8设置
- mb_strwidth与mb_strlen的区别
- partitoner笔记
- java 采用MD5加密解密
- ios7打开相册和相机时状态栏不隐藏的问题
- LOCAL APIC
- NSNULL判空Category
- C# Serializable 序列化学习
- asm volatile内嵌汇编用法
- 描述在浏览器中输入一个网址后的发生的事情
- 布丰投针问题