hadoop2.0之HDFS集群管理:HeartbeatManager及其报告周期问题
来源:互联网 发布:深圳数据分析师培训 编辑:程序博客网 时间:2024/05/16 19:31
心跳管理器主要用于管理DataNode的心跳,如果某DataNode在一段时间内(10分30秒)停止与NameNode发生心跳,则会将该DataNode直接标记为死亡节点,而不是先退役,因为可能该DN真的已经死亡了,而不用经历退役阶段。为了不引起一连串的DataNode被标记为死亡,每次只允许一个DataNode节点被声明为死亡,并从DatanodeManager,heartbeatManager,networktopology,blockManager中删除信息。
默认情况下,DataNode心跳的时间间隔是3秒,如果加大该时间间隔是否会引入一些问题呢?
1、 无效块删除:该功能影响比较小,因为即使在一段时间内,没有删除该块,也不会造成数据丢失,只会占用部分磁盘空间;
2、 块副本不足:对该功能影响比较大,发现集群中副本数目不足,应该及时地冗余,否则可能因为DataNode出现故障加大丢失数据的风险;
文件读写:如果读写频繁,NameNode没有及时的收集到DataNode剩余空间,可能会造成部分DataNode写数据块失败。- hadoop2.0之HDFS集群管理:HeartbeatManager及其报告周期问题
- hadoop2.0之HDFS集群管理:PendingReplicationMonitor
- hadoop2.X之HDFS集群管理:ReplicationMonitor
- Hadoop2.x:HDFS存储小文件问题及其解决方法
- hadoop2.x之HDFS
- hadoop 2.6.0 org.apache.hadoop.hdfs.server.blockmanagement。HeartbeatManager源代码分析
- Apache Hadoop2.0之HDFS均衡操作分析
- Apache Hadoop2.0之HDFS均衡操作分析
- Hadoop2.5的HDFS集群HA搭建(高可用集群)
- Hadoop集群之HDFS
- hadoop2.6.0入门及其集群搭建
- hadoop2.0集群搭建
- hadoop2.0集群搭建
- hadoop学习之HDFS(2.2):centOS7安装高可用(HA)完全分布式集群hadoop2.7.2
- Hadoop2.6集群环境搭建(HDFS HA+YARN)
- [笔记]hadoop2.4.1伪分布式集群搭建\hdfs入门
- 为Spark部署HADOOP2.6的HDFS集群
- 部署hadoop2.7.2 集群 基于zookeeper配置HDFS HA+Federation
- 字符串操作(人民币转成大写/全角字符转半角字符/去掉字符串中重复的子字符串/过滤常见特殊字符/反过滤特殊字符/判断是不是合法手机/字符串匹配的算法)
- 走出浮躁的泥沼:关于技术与工作
- redis 源代码之数据结构(4)--zipmap实现
- PYTHON类中“__”和“_”用法小记
- 所有的数据库连接字符(connectionstring)
- hadoop2.0之HDFS集群管理:HeartbeatManager及其报告周期问题
- jquery easyui 获取select 的值
- R和R-Studio安装
- txt转xml类
- 走出浮躁的泥沼:学会享受学习过程的乐趣
- 理解矩阵(一)
- 哲理故事二则
- 走出浮躁的泥沼:把一件事做到某种境界
- 集合类介绍