Hadoop MapReduce 减小数据倾斜的性能损失
来源:互联网 发布:c语言不等于 编辑:程序博客网 时间:2024/05/16 07:29
常见的数据倾斜有以下几类:
数据频率倾斜——某一个区域的数据量要远远大于其他区域。
数据大小倾斜——部分记录的大小远远大于平均值。
在map端和reduce端都有可能发生数据倾斜。在map端的数据倾斜会让多样化的数据集的处理效率更低。在reduce端的数据倾斜常常来源于MapReduce的默认分区器。
数据倾斜会导致map和reduce的任务执行时间大为延长,也会让需要缓存数据集的操作消耗更多的内存资源。
解决方案:
在这个方案中将讨论多个减轻reduce数据倾斜的性能损失的方法。
方法1:抽样和范围分区
Hadoop默认的分区器是基于map输出键的哈希值分区。这仅在数据分布比较均匀时比较好。在有数据倾斜时就很有问题。
使用分区器需要首先了解数据的特性。在第4章的TotalOrderPartitioner中,可以通过对原始数据进行抽样得到的结果集来预设分区边界值。TotalOrderPartitioner中的范围分区器可以通过预设的分区边界值进行分区。因此它也可以很好地用在矫正数据中的部分键的数据倾斜问题。
方法2:自定义分区
另一个抽样和范围分区的替代方案是基于输出键的背景知识进行自定义分区。例如,如果map输出键的单词来源于一本书。其中大部分必然是省略词(stopword)。那么就可以将自定义分区将这部分省略词发送给固定的一部分reduce实例。而将其他的都发送给剩余的reduce实例。
方法3:Combine
使用Combine可以大量地减小数据频率倾斜和数据大小倾斜。在可能的情况下,combine的目的就是聚合并精简数据。在技术48种介绍了combine。
方法4:Map端连接和半连接
如果连接的数据集太大而不能在map端的连接中使用。那么可以考虑第4章和第7章中介绍的超大数据集的连接优化方案。
方法5:数据大小倾斜的自定义策略
在map端或reduce端的数据大小倾斜都会对缓存造成较大的影响,乃至导致OutOfMemoryError异常。处理这种情况并不容易。可以参考以下方法。
设置mapred.linerecordreader.maxlength来限制RecordReader读取的最大长度。RecordReader在TextInputFormat和KeyValueTextInputFormat类中使用。默认长度没有上限。
通过org.apache.hadoop.contrib.utils.join设置缓存的数据集的记录数上限。在reduce中默认的缓存记录数上限是100条。
考虑使用有损数据结构压缩数据,如Bloom过滤器。
- Hadoop MapReduce 减小数据倾斜的性能损失
- MapReduce 性能调优:减小数据倾斜的性能损失
- MapReduce性能优化_7. 减小数据倾斜的性能损失
- Hadoop MapReduce 性能调优:减小数据倾斜的性能损失
- mapreduce处理数据倾斜的一些方法
- mapreduce解决数据倾斜的思路
- 解决MapReduce数据倾斜
- 解决MapReduce数据倾斜
- hadoop 数据倾斜
- Hadoop 中的数据倾斜
- Hadoop 中的数据倾斜
- hadoop 数据倾斜
- hadoop 数据倾斜
- hadoop 数据倾斜
- hadoop 数据倾斜详解
- hadoop数据倾斜总结
- MapReduce 数据分布倾斜性
- MapReduce的分片规则及其数据倾斜的解决思路
- VBS之CreateObject调用对象
- 网页开发按顺序执行 script function 返回 undefined ,
- UVA10313- Pay the Price
- java 图像特效之霓虹
- UML中的各种关系在代码中的实现
- Hadoop MapReduce 减小数据倾斜的性能损失
- hdu 1083 Courses(二分图匹配 匈牙利算法)
- Oracle decode函数
- 菜鸟学android——正则表达式,替换
- 线段树2练习
- Servlet第三课 Form 表单的应用
- spring3.0.5MVC 文件下载IE提示无法下载问题解决
- 用chnroutes鉴别国内外DNS地址加快VPN速度
- pdf转换成excel转换器