hadoop 2.2.0 运维
来源:互联网 发布:剑侠情缘网络单机版1 编辑:程序博客网 时间:2024/05/21 20:28
1. 从secondary name node 回复数据:
config: hdfs-site.xml
<property> <name>dfs.secondary.http.address</name> <value>second_namenode:50090</value> <description> The secondary namenode http server address and port. If the port is 0 then the server will start on a free port. </description></property>
secondary name node 默认checkpoint dir is:
<property> <name>fs.checkpoint.dir</name> <value>${hadoop.tmp.dir}/dfs/namesecondary</value> </property>
2. 回复checkpoint从secondary namenode
rm -rf dfsname/*scp -r secondaryNameNode root@NameNode:/*/dfsname
3. 同时可以配置checkpoint Node 和 BackUPNode (新功能)
4.配置datanode rack信息 (配置完机架信息后,hadoop fs -cat filename 读文件出现 nullpoint 异常,怀疑是dns域名需要修改)
rack命名规范: /rack1 etc.
配置core-site.xml in name node
<property><name>topology.script.file.name</name><value>/path/to/topology_rack.sh</value></property>
编写机架映射脚本
#!/bin/bashipaddr=$1if [ $ipaddr = "ip1" -o $ipaddr = "ip2" ]thenecho "/rack1"fiif [ $ipaddr = "ip3" -o $ipaddr = "ip4" ]thenecho "/rack2"fi
测试机架topology:
hdfs dfsadmin -printTopology
5. 安全模式:
NameNode在启动的时候首先进入安全模式,如果datanode丢失的block达到一定的比例(1- dfs.safemode.threshold.pct),则系统会一直处于安全模式状态即只读状态。 dfs.safemode.threshold.pct(缺省值0.999f)表示HDFS启动的时候,如果DataNode上报的block个数达到了 元数据记录的block个数的0.999倍才可以离开安全模式,否则一直是这种只读模式。如果设为1则HDFS永远是处于SafeMode。
安全模模式控制命令:
hdfs dfsadmin -safemode
0 0
- hadoop 2.2.0 运维
- hadoop(hadoop-2.2.0) 安装
- hadoop 2.2.0 参考资料
- hadoop 2.2.0安装
- hadoop 2.2.0 安装
- 编译 hadoop 2.2.0
- 编译 hadoop 2.2.0
- hadoop 2.2.0安装
- 构建Hadoop 2.2.0
- Hadoop 2.2.0
- Hadoop-2.2.0学习之一Hadoop-2.2.0变化简介
- Hadoop-2.2.0学习之一Hadoop-2.2.0变化简介
- Hadoop-2.2.0学习之一Hadoop-2.2.0变化简介
- hadoop-HA Hadoop 2.2.0版本HDFS的HA配置
- Hadoop 2.2.0编译hadoop-eclipse-plugin插件
- ubuntu 32 hadoop 2.2.0
- hadoop 2.2.0编译WordCount
- hadoop-2.2.0源码编译
- Ubuntu 12.04安装Sun JDK(替代OpenJDK)
- 如何提高团队管理能力9
- gpu数组赋值各种方法性能测试
- 使用 Blobstore Java API 在Java App Engine 中存放大文件
- MySQL入门(1)--安装,配置,基本语法
- hadoop 2.2.0 运维
- Windows Socket五种IO模型
- 再次遇到谓词推入
- Hadoop作业JVM堆大小设置优化
- NYOJ 585 取石子(六)
- 五一带着WiFi共享精灵回家,路途不寂寞
- 下载文件对话框
- web.xml的一份配置(备忘)
- ios实现基于socket tcp/ip 的通讯