Hadoop之——Hadoop 2.6.3动态增加/删除DataNode节点
来源:互联网 发布:大学生网络受骗原因 编辑:程序博客网 时间:2024/05/21 07:48
转载请注明出处:http://blog.csdn.net/l1028386804/article/details/78255746
假设集群操作系统均为:CentOS 6.7 x64
Hadoop版本为:2.6.3
一、动态增加DataNode
1、准备新的DataNode节点机器,配置SSH互信,可以直接复制已有DataNode中.ssh目录中的authorized_keys和id_rsa
2、复制Hadoop运行目录、hdfs目录及tmp目录至新的DataNode
3、在新DataNode上启动hadoop
..sbin/hadoop-daemon.sh start datanode..sbin/yarn-daemon.sh start datanode4、在NameNode上刷新节点
..bin/hdfs dfsadmin -refreshNodes..sbin/start-balancer.sh5、为方便下次启动,可以将新DataNode的域名和ip加入/etc/hosts中
二、动态删除DataNode
1、配置NameNode的hdfs-site.xml,适当减小dfs.replication副本数,增加dfs.hosts.exclude配置
<property> <name>dfs.hosts.exclude</name> <value>/usr/local/hadoop2/etc/hadoop/excludes</value> </property>2、在对应路径(/etc/hadoop/)下新建excludes文件,并写入待删除DataNode的ip或域名
3、在NameNode上刷新所有DataNode
..bin/hdfs dfsadmin -refreshNodes..sbin/start-balancer.sh4、此时,可以在web检测界面(ip:50070)上可以观测到DataNode逐渐变为Dead。
阅读全文
0 0
- Hadoop之——Hadoop 2.6.3动态增加/删除DataNode节点
- Hadoop 2.6.3动态增加/删除DataNode节点
- Hadoop 2.6.3动态增加/删除DataNode节点
- hadoop动态增加删除节点
- [Nutch]Hadoop动态增加DataNode节点和TaskTracker节点
- [Nutch]Hadoop动态删除DataNode节点和TaskTracker节点
- hadoop集群中动态增加新的DataNode节点
- hadoop动态增加和删除节点
- hadoop和hbase增加动态删除节点
- Hadoop动态添加/删除节点(datanode和tacktracker)
- hadoop动态增加节点
- hadoop之——datanode节点超时时间设置
- Hadoop在线水平增加删除datanode
- Hadoop动态删除节点
- Hadoop集群动态添加datanode节点步骤
- hadoop集群增加删除节点
- hadoop增加和删除节点
- Hadoop集群节点的动态增加与删除
- 爬虫基础_01——正则
- JSP自定义标签(三)自定义日期选择标签
- 进程和线程的区别和联系
- 最适合做特工的挑战者性格ESTP职业规划要素
- 博客搬家啦!!!
- Hadoop之——Hadoop 2.6.3动态增加/删除DataNode节点
- 解决mnist各种错误,优化提升
- 由C++类指针初始化引起的问题汇总
- TotalSort全排序(抽样取中值)
- CF Round 441,无尽的遗憾
- Java设计模式--合成模式
- 洛谷P1510 精卫填海
- WEB服务器、应用程序服务器、HTTP服务器区别
- 第八周codeforces 853A