hadoop(2)
来源:互联网 发布:php 二进制转字符串 编辑:程序博客网 时间:2024/06/06 12:19
性能调优点:
1.考虑关闭THP
2.将可能存在单点的节点放在一起,提供冗余
3.ulimit文件打开限制limits.conf
4.内存overcommit,50%小
5.ACPI关闭
6.充足的内存
7.合理的HDFS blocksize,默认推荐128M
8.dfs.replication,复制数量
9.datanode的可用磁盘空间,单独分区
10.考虑dfs的权限分配
11.hdfs的nfs服务,portmap服务可能有冲突,可以先关闭,然后hdfs加载hdfs的portmap和nfs3
12.Hive 关闭speculative
13.Hive 打开并行执行hive.exec.parallel,增加hive.exec.parallel.thread.number设置大一些
14.MapJoin,小表自动放入内存中变成MapJoin
15.Local Mode关掉,不让在本地执行
0 0
- hadoop(2)
- Hadoop技术内幕:Hadoop shell介绍(2)
- hadoop集群(hadoop-1.1.2)
- Hadoop 1与Hadoop 2的区别
- <Hadoop>Hadoop 2.7.2 集群安装
- [Hadoop] 源码编译Hadoop 2.7.2
- Hadoop Learning (2)
- Hadoop Inside (2)
- Hadoop 部署 2
- Hadoop分布式系统 2
- hadoop总结2
- Hadoop权威指南-2
- hadoop学习2
- Hadoop 优化(2)
- 默默耕耘2 hadoop
- Compile Hadoop-1.0.2
- Hadoop入门(2)
- hadoop运行随记2
- Beyond video games: New artificial intelligence beats tactical experts in combat simulation
- 实现背景透明文字不透明
- IntelliJ IDEA 配置 Tomcat8
- Electric Power Systems Research (EPSR) 的审稿周期
- oracle undo 解析
- hadoop(2)
- Android基础----BroadcastReceiver
- 剑指offer(46)-把字符串转换成整数
- ubuntu wifi 硬件关闭的临时处理方法
- 64位Win7,Win8和Win8.1使用VC++6.0方法。
- Win8系统执行自己Vc编写的程序时回车闪退解决方法。
- matlab中三种计算程序运行时间方法
- 2014.11.27
- Keil中 "STARTUP.A51" SET (SMALL) DEBUG EP问题解决方法