HDFS

来源:互联网 发布:java生日提醒功能 编辑:程序博客网 时间:2024/06/03 23:23
一、HDFS的架构




二、HDFS文件系统图






三、NameNode和SecondaryNameNode

1、edits和fsimage
(1)、概念:
fsimage保存了最新的元数据检查点。
edits保存自最新检查点后的命名空间的变化。
(2)、工作原理:
从最新检查点后,hadoop将对每个文件的操作都保存在edits中,为避免edits不断增大,secondary namenode就会周期性合并fsimage和edits成新的fsimage,edits再记录新的变化。
SecondaryNameNode 可以当做备份原理是:当NameNode挂掉,当中的fsimsge丢失,但是SecondaryNameNode中储存有从NameNode中下载下来的edits和fsimage,然后会将新合成的fsimage传给NameNode)
这种机制有个问题:因edits存放在Namenode中,当Namenode挂掉,edits也会丢失,导致利用secondary namenode恢复Namenode时,会有部分数据丢失(所以说SecondaryNameNode不能作为热备)。


----




2、副本数量的配置优先级
     (1)、服务端hdfs-site.xml中可以配置
     (2)、在客户端指定dfs.replication的值,客户端指定的优先级更高

3、Block存放的策略     
(1)、先在客户端所连接的datanode上存放一个副本
(2)、再在另一个机架上选择一个datanode存放第二个副本
(3)、最后在本机架上根据负载情况随机挑选一个datanode存放第三个副本

原创粉丝点击
热门问题 老师的惩罚 人脸识别 我在镇武司摸鱼那些年 重生之率土为王 我在大康的咸鱼生活 盘龙之生命进化 天生仙种 凡人之先天五行 春回大明朝 姑娘不必设防,我是瞎子 没写欠条的债该怎么办 被尾随回家知道住处怎么办 微信记录全没了怎么办 微信记录没有了怎么办 ipad登录不了下不了软件怎么办 苹果手机打开自动时间不对怎么办 魅族手机时间不同步怎么办 小米手环时间不准怎么办 电脑网络dns配置错误怎么办 去泰国手机要打电话怎么办 苹果6s音量小怎么办 三星0n7充电慢怎么办 在国外接受不到验证码怎么办 ip地址错误网络无法连通怎么办 注册微信收不到验证码怎么办 安卓手机收不到短信怎么办 手机被短信验证码轰炸怎么办 美国访学一年手机卡怎么办方便 小狗吃了葡萄皮怎么办 ios迅雷下载不了的资源怎么办 ipad软件商店内容少怎么办? 脸摔伤后留下黑印怎么办 不确定孩子是不是老公的怎么办 孩子接种证丢了怎么办 孩子的出生证丢了怎么办 私秘边上肿了怎么办 书法作品少写一个字怎么办 炉石传说ios闪退怎么办 ck手表表链大了怎么办 天梭手表卡扣坏了怎么办 机械表平时不戴怎么办 天梭机械表慢了怎么办 手表每天慢10秒怎么办 浪琴机械表不走了怎么办 大提单号被修改了怎么办 入户中山没有三年居住证明怎么办 加拼关单号舱单信息没有怎么办 外贸中交货期晚了怎么办 履约保函到期了怎么办 续贷高校未通过怎么办 安卓手机网速慢怎么办