(hadoop运维 三) hadoop集群负载均衡

来源:互联网 发布:windows 许可证过期 编辑:程序博客网 时间:2024/05/16 13:38

当hadoop集群中增加节点、删除节点或者某个节点磁盘占用率比较高的情况下,节点之间的存储就会不均衡,此时就需要对集群进行重新的负载均衡,在做负载均衡之前,首先要调整dfs.balance.bandwidthPerSec参数,该参数表示集群负载均衡的带宽,我的CDH集群中默认为10M/S,我一般将它设置为100M/S。集群默认的threshold=10。

如果已经搭建了cloude-manager,就可以在CM管理界面直接操作,进入HDFS->balancer,点击右上角的操作,选择重新平衡即可,平衡的过程中可以随时中止操作,并且无需重启hadoop集群。如下图所示:







如果没有搭建cloude-manager,则需要在命令行操作,选一个节点(一定是非namnenode节点),然后运行命令:

$HADOOP_HOME/bin/start-balancer.sh -threshold




原创粉丝点击