Mapreduce框架的相关问题
来源:互联网 发布:电脑连接不到网络 编辑:程序博客网 时间:2024/05/22 09:34
jobtracker的单点故障:
jobtracker和hdfs的namenode一样也存在单点故障,
单点故障一直是hadoop被人诟病的大问题,
为什么hadoop的做的文件系统和mapreduce计算框架都是高容错的,但是最重要的管理节点的故障机制却如此不好,我认为主要是namenode和jobtracker在实际运行中都是在内存操作,而做到内存的容错就比较复杂了,只有当内存数据被持久化后容错才好做,namenode和jobtracker都可以备份自己持久化的文件,但是这个持久化都会有延迟,因此真的出故障,任然不能整体恢复,另外hadoop框架里包含zookeeper框架,zookeeper可以结合jobtracker,用几台机器同时部署jobtracker,保证一台出故障,有一台马上能补充上,不过这种方式也没法恢复正在跑的mapreduce任务。
jobtracker和hdfs的namenode一样也存在单点故障,
单点故障一直是hadoop被人诟病的大问题,
为什么hadoop的做的文件系统和mapreduce计算框架都是高容错的,但是最重要的管理节点的故障机制却如此不好,我认为主要是namenode和jobtracker在实际运行中都是在内存操作,而做到内存的容错就比较复杂了,只有当内存数据被持久化后容错才好做,namenode和jobtracker都可以备份自己持久化的文件,但是这个持久化都会有延迟,因此真的出故障,任然不能整体恢复,另外hadoop框架里包含zookeeper框架,zookeeper可以结合jobtracker,用几台机器同时部署jobtracker,保证一台出故障,有一台马上能补充上,不过这种方式也没法恢复正在跑的mapreduce任务。
阅读全文
0 0
- Mapreduce框架的相关问题
- 关于框架的相关问题
- iOS第三方框架的相关问题
- jeesite框架搭建的相关问题
- ssm框架配置相关的问题。
- MapReduce的单元测试框架MRUnit
- 初始hadoop的mapreduce框架
- MapReduce的yarn框架整理
- mapreduce全局变量的问题
- mapreduce的问题
- Hadoop新一代MapReduce框架Yarn,理解时需要注意的几点问题
- Hadoop MapReduce的一些相关代码Code
- MapReduce提交jar包的相关操作
- hadoop相关 mapreduce 相关
- 关于实现自定义浏览器框架的相关细节问题
- mapreduce的全排序问题
- MapReduce编程遇到的问题
- 记录mapreduce遇到的问题
- free函数的详解
- Vue学习笔记
- MySQL配置文件mysql.ini参数详解
- python怎么给实例对象添加方法?
- 求一个图中的最大团(全连通分量) n = 40 (中途相遇法)
- Mapreduce框架的相关问题
- linux下tomcat和solr服务器整合笔记
- Java集合---ConcurrentHashMap原理分析
- Unity 回合制战斗系统(中级篇)-进阶
- mysql alter 语句用法,添加、修改、删除字段等
- 《去哪网编程题》统计字符
- jQuery动画的hover连续触发动画bug处理
- iOS MotionManager(运动管理器)~demo
- 洛谷3816