hadoop2.x 如何解决NameNode单节点故障问题?
来源:互联网 发布:js explode 编辑:程序博客网 时间:2024/05/18 20:33
hadoop1中只有一个NameNode节点,所以存在单节点故障问题。
在Hadoop2.x中有两个NameNode,一个是 active namenode状态是active,另一个是standy namenode 状态是standy两者是进行切换的,但是有且只有一个active!
Hadoop解决单点故障的方法有很多种,本文主要介绍目前应用比较广泛的HDFS HA解决方案,如下两种方式:
1、NFS文件共享
nfs方式是重量级的需要单独部署维护的,他作为namenode和standy namenode之间数据共享的存储,缺点是如果
active 那么node 或者standy namenode有一个和nfs之间发生网络故障,将会造成数据同步问题。
2、QJM 方式 CLOUDERA提出的
QJM方式通过zookeeper解决了nfs面临的问题,active namenode和standy namenode 之间通过一组journalnode
奇数来共享数据,active nn 把最近的edits文件写到2n+1个journalnode只有n+1个写入成功,然后standy nn 就开
始读取,这种方式支持容错!
具体:如图
0 0
- hadoop2.x 如何解决NameNode单节点故障问题?
- Hadoop2.x解决Namenode 单点故障问题
- zookeeker如何解决HBase单节点故障
- hadoop2解决 NameNode 单点故障问题的 高可用集群配置
- hadoop2.X如何将namenode与SecondaryNameNode分开配置
- hadoop2.X如何将namenode与SecondaryNameNode分开配置
- hadoop2.X如何将namenode与SecondaryNameNode分开配置
- hadoop2.X如何将namenode与SecondaryNameNode分开配置
- hadoop2.x 两个namenode 手动转换状态 问题记录
- hadoop2.x通过Zookeeper来实现namenode的HA方案以及ResourceManager单点故障的解决方案
- hadoop2.x通过Zookeeper来实现namenode的HA方案以及ResourceManager单点故障的解决方案
- hadoop2 namenode HA的问题
- hadoop2.8集群搭建(单namenode)
- hadoop2.x手动切换namenode active
- hadoop2.X动态添加删除节点及相关问题总结
- hadoop2.4 ha(双namenode自动故障转移安装)
- 单节点hadoop2.2.0 安装
- Hadoop2.2.0 单节点安装
- Linux图形界面与字符界面切换
- [Leetcode] Binary Tree Right Side View
- 创建一个空洞文件
- 解决$.ajax()请求异常~ jQuery提示parsererror错误解决办法
- github建立博客
- hadoop2.x 如何解决NameNode单节点故障问题?
- HDU 4966(GGS-DDU-最小树形图)[Template:最小树形图]
- PTA数据结构与算法题目集(中文) 函数题 (1)
- iOS9新特性 - UIStack View
- mongo导入导出
- Linux 命令
- AIX系统删除不需要的用户和组
- Java多线程实现同时进行小球的自由落体与平抛
- 表单校验的值valid、invalid、pristine和dirty