hadoop(2)

来源:互联网 发布:php 二进制转字符串 编辑:程序博客网 时间:2024/06/06 12:19

性能调优点:

1.考虑关闭THP

2.将可能存在单点的节点放在一起,提供冗余

3.ulimit文件打开限制limits.conf

4.内存overcommit,50%小

5.ACPI关闭

6.充足的内存

7.合理的HDFS blocksize,默认推荐128M

8.dfs.replication,复制数量

9.datanode的可用磁盘空间,单独分区

10.考虑dfs的权限分配

11.hdfs的nfs服务,portmap服务可能有冲突,可以先关闭,然后hdfs加载hdfs的portmap和nfs3

12.Hive 关闭speculative

13.Hive 打开并行执行hive.exec.parallel,增加hive.exec.parallel.thread.number设置大一些

14.MapJoin,小表自动放入内存中变成MapJoin

15.Local Mode关掉,不让在本地执行

0 0
原创粉丝点击