hive一些参数
来源:互联网 发布:万德数据库 怎么用 编辑:程序博客网 时间:2024/06/05 00:57
Group By
- Map 端部分聚合:
- 并不是所有的聚合操作都需要在 Reduce 端完成,很多聚合操作都可以先在 Map 端进行部分聚合,最后在 Reduce 端得出最终结果。
- 基于 Hash
- 参数包括:
- hive.map.aggr = true 是否在 Map 端进行聚合,默认为 True
- hive.groupby.mapaggr.checkinterval = 100000 在 Map 端进行聚合操作的条目数目
- 有数据倾斜的时候进行负载均衡
- hive.groupby.skewindata = false
- 当选项设定为 true,生成的查询计划会有两个 MR Job。第一个 MR Job 中,Map 的输出结果集合会随机分布到 Reduce 中,每个 Reduce 做部分聚合操作,并输出结果,这样处理的结果是相同的 Group By Key 有可能被分发到不同的 Reduce 中,从而达到负载均衡的目的;第二个 MR Job 再根据预处理的数据结果按照 Group By Key 分布到 Reduce 中(这个过程可以保证相同的 Group By Key 被分布到同一个 Reduce 中),最后完成最终的聚合操作。
文件数目过多,会给 HDFS 带来压力,并且会影响处理效率,可以通过合并 Map 和 Reduce 的结果文件来消除这样的影响:
- hive.merge.mapfiles = true 是否和并 Map 输出文件,默认为 True
- hive.merge.mapredfiles = false 是否合并 Reduce 输出文件,默认为 False
- hive.merge.size.per.task = 256*1000*1000 合并文件的大小
- hive一些参数
- 【Hive】Hive参数
- hive参数
- Hive参数
- hive参数
- Hive 参数
- Hive 参数
- Hive 参数
- Hive参数
- hive参数
- Hive学习之Hive参数
- hive 参数设定
- hive 配置参数说明
- hive 配置参数说明
- Hive命令行参数
- hive 参数配置
- hive 配置参数说明
- hive命令参数
- eclipse 查看原始类出现The jar file rt.jar has no source attachment解决方法
- ubuntu 13.04 重置unity及compiz
- Application failed codesign verification。。。
- UTC 转换为Date
- 2440SDRAM讲解
- hive一些参数
- 浅谈STM32的DMA模块的使用
- web-inf
- 关于STM32 ADC DMA 使用心得(2)
- Kafka&MetaQ
- Oracle10g技术问题总结(一)Oracle10g的安装与卸载
- C语言位运算详解
- 虚函数
- EditorGridPanel禁用某一行