nfs3方式挂载hdfs实现高可用存储
来源:互联网 发布:mac safari下载速度慢 编辑:程序博客网 时间:2024/05/19 12:29
因为项目使用NFS共享,但是存在着单点故障,后来发现可以将hdfs目录挂载到本地,ambari HDP支持nfs,照着文档的说明去做,很简单完成了。
1.修改hdfs-site.xm
vi /etc/hadoop/conf/hdfs-site.xml
如果没有hdfs-site.xml就找hdfs-default.xml,设置为如下内容,hdp的默认值是0
<property>
<name>dfs.access.time.precision</name>
<value>3600000</value>
</property>
2.修改hdfs-site.xml,HDP的默认值比较大,4096的,这里就不修改了
<property>
<name>dfs.datanode.max.xcievers</name>
<value>1024</value>
</property>
3.设置nf3的临时存储目录
<property>
<name>dfs.nfs3.dump.dir</name>
<value>/tmp/.hdfs-nfs</value>
</property>
我尝试分别在两台节点上执行(10.11.32.53和50):
su hdfs
/usr/lib/hadoop/sbin/hadoop-daemon.sh start portmap
/usr/lib/hadoop/sbin/hadoop-daemon.sh start nfs3
10.11.32.53上
mount -t nfs -o vers=3,proto=tcp,nolock 10.11.32.53:/ /hdfs
10.11.32.50上
mount -t nfs -o vers=3,proto=tcp,nolock 10.11.32.50:/ /hdfs
我尝试挂载二级目录,就报错了,可能是只支持挂载hdfs根/目录
mount -t nfs -o vers=3,proto=tcp,nolock 10.11.32.50:/tmp /hdfs
mount.nfs: mounting 10.11.32.50:/tmp failed, reason given by server: No such file or directory
参考:
http://www.cnblogs.com/cenyuhai/p/3320075.html
1.修改hdfs-site.xm
vi /etc/hadoop/conf/hdfs-site.xml
如果没有hdfs-site.xml就找hdfs-default.xml,设置为如下内容,hdp的默认值是0
<property>
<name>dfs.access.time.precision</name>
<value>3600000</value>
</property>
2.修改hdfs-site.xml,HDP的默认值比较大,4096的,这里就不修改了
<property>
<name>dfs.datanode.max.xcievers</name>
<value>1024</value>
</property>
3.设置nf3的临时存储目录
<property>
<name>dfs.nfs3.dump.dir</name>
<value>/tmp/.hdfs-nfs</value>
</property>
操作:
我尝试分别在两台节点上执行(10.11.32.53和50):
su hdfs
/usr/lib/hadoop/sbin/hadoop-daemon.sh start portmap
/usr/lib/hadoop/sbin/hadoop-daemon.sh start nfs3
两节点都启动nfs3服务支持
ps -ef|grep nfs3
10.11.32.53上
mount -t nfs -o vers=3,proto=tcp,nolock 10.11.32.53:/ /hdfs
10.11.32.50上
mount -t nfs -o vers=3,proto=tcp,nolock 10.11.32.50:/ /hdfs
ll /hdfs 内容是一样的,可以看到hdfs上的文件了。
dd写入30M/s速度
我尝试挂载二级目录,就报错了,可能是只支持挂载hdfs根/目录
mount -t nfs -o vers=3,proto=tcp,nolock 10.11.32.50:/tmp /hdfs
mount.nfs: mounting 10.11.32.50:/tmp failed, reason given by server: No such file or directory
参考:
http://www.cnblogs.com/cenyuhai/p/3320075.html
0 0
- nfs3方式挂载hdfs实现高可用存储
- HDFS高可用实现细节
- HDFS +zookeeper实现高可用
- 使用QJM实现HDFS高可用
- HDFS的运行原理,如何实现HDFS的高可用
- HDFS高可用
- HDFS 高可用集群
- HDFS高可用配置
- HDFS使用QJM实现高可用(二)
- HDFS使用QJM实现高可用(一)
- Hadoop HDFS通过QJM实现高可用HA环境搭建
- HDFS+NFS+ZOOKEEPER实现Hadoop高可用集群
- 通过nfs3将hdfs挂载到本地
- 表格存储如何实现高可靠和高可用
- 技术实战:基于 MHA 方式实现 MySQL 的高可用
- HDFS 高可用HA搭建过程
- Hue 使用HDFS 的 高可用
- Hadoop HDFS高可用(HA)
- IOS addChildViewController方法使用及注意事项
- 欢迎使用CSDN-markdown编辑器
- JAVA导出excel(JFinal)
- Git 常用命令
- mysql查询5分钟内的数据
- nfs3方式挂载hdfs实现高可用存储
- HDU 6031 Innumerable Ancestors(LCA,树链剖分)
- linux下学习正则的一些小结
- 大都会系统MetLife小记
- java实现重建二叉树
- Python进阶之装饰器
- Ubuntu下安装MySQL及简单操作
- Edraw Office Viewer component教程(二):将Excel嵌入VB 6并使之自动化
- win10+anaconda3-4.3.1+tesorflow1.0安装过程(配置Spyder)