为Hadoop的namenode做NFS灾备步骤
来源:互联网 发布:有哪些好的数据库应用 编辑:程序博客网 时间:2024/05/11 19:16
这里我简单的描述下如何给Hadoop的namenode做NFS灾备(以ubuntu为例)
1.首先选定一台灾备机器作为NFS服务器
(1)安装如下:
apt-get install nfs-kernel-server (NFS服务器,提供nfs服务)
apt-get install portmap (端口映射服务器,主要是RPC程序号转化为Internet的端口号)
(2)在/etc/exports文件中 设置需要挂载为nfs服务的目录
注: /home/hadoop/name 表示挂载的目录
*表示任意IP,这里大家可以根据需求配置,如10.10.*.*
(rw,sync,no_subtree_check)这里指挂载目录的相关设置(详细描述见文后备注) ,此处因为要提供给namenode写权限,故应该配置为rw
(3)重新启动NFS服务(使exports修改生效,当然还有另外的命令 这里就不再多侃了)
sudo /etc/init.d/nfs-kernel-server restart 或者 sudo service nfs-kernel-server restart, 另外start,stop,status就不详述了
至于portmap的相关命令同上
(4)查看挂载目录是否成功
showmount -e
2. 在namenode上安装NFS客服端
(1)apt-get install nfs-common (NFS客户端,访问nfs)
(2)挂载NFS目录到本地
mount IP:/home/hadoop/name /home/hadoop/nfs
挂载命令 NFS服务的IP及路径 本地目录(必须为已存在的目录)
umount /home/hadoop/nfs 卸载目录 如果出现device is busy错误 可以另加 -l 参数强制卸载
3. 配置namenode下hdfs-site.xml文件的dfs.name.dir配置里加上挂载的路径/home/hadoop/nfs
如
4. 重启hadoop
然后去NFS服务器 /home/hadoop/name 目录下查看是否已经有namenode的fsimage等文件
有则证明配置成功。
如出现不能访问指定目录(/home/hadoop/nfs)的错误,请检查NFS服务器端文件权限问题是否为只可读(ro)
备注:有关NFS配置还有不明的请去参考网上其他文章,本文重点不在介绍配置NFS,故不作更多的描述。
以下是挂载文件的一些配置参数及含义,仅供参考
ro 只读访问rw 读写访问
sync 所有数据在请求时写入共享
async NFS在写入数据前可以相应请求
secure NFS通过1024以下的安全TCP/IP端口发送
insecure NFS通过1024以上的端口发送
wdelay 如果多个用户要写入NFS目录,则归组写入(默认)
no_wdelay 如果多个用户要写入NFS目录,则立即写入,当使用async时,无需此设置。
hide 在NFS共享目录中不共享其子目录
no_hide 共享NFS目录的子目录
subtree_check 如果共享/usr/bin之类的子目录时,强制NFS检查父目录的权限(默认)
no_subtree_check 和上面相对,不检查父目录权限
all_squash 共享文件的UID和GID映射匿名用户anonymous,适合公用目录。
no_all_squash 保留共享文件的UID和GID(默认)
root_squash root用户的所有请求映射成如anonymous用户一样的权限(默认)
no_root_squas root用户具有根目录的完全管理访问权限
anonuid=xxx 指定NFS服务器/etc/passwd文件中匿名用户的UID
anongid=xxx 指定NFS服务器/etc/passwd文件中匿名用户的GID
- 为Hadoop的namenode做NFS灾备步骤
- 为Hadoop的namenode做NFS灾备步骤
- hadoop集群添加namenode的步骤及常识
- hadoop namenode的恢复
- Hadoop NameNode的Federation
- hadoop namenode format做了什么?
- Hadoop的Namenode无法启动
- Hadoop的Namenode无法启动
- Hadoop的Secondary NameNode(1)
- hadoop namenode down的遭遇
- Hadoop获取namenode的命令
- hadoop关不掉namenode的解决办法
- Hadoop:HDFS的NameNode介绍
- hadoop namenode的工作机制
- Hadoop namenode的安全模式
- Hadoop的namenode没有起来
- Hadoop NameNode的ZKFC机制
- 挂载 NFS 的步骤
- Visual C++ 2008新特性速递
- redhat as 5.5上安装gcc和g++
- redhat as 5.5上安装ant
- android 调用系统联络人
- 我是一个不太一样的研究僧
- 为Hadoop的namenode做NFS灾备步骤
- ()与{}的差别
- 关于新任项目经理的转型问题
- Magento–为页面添加面包屑(breadcrumb)
- List 转成 Json
- UML2.0类之间的关系
- n个数字(0,1,…,n-1)形成一个圆圈,从数字0开始,每次从这个圆圈中删除第m个数字(第一个为当前数字本身,第二个为当前数字的下一个数字)。当一个数字删除后,从被删除数字的下一个继续删除第m个数字
- android UI进阶之自定义组合控件
- eclipse 错误