HDFS读写过程
来源:互联网 发布:中颖单片机 编辑:程序博客网 时间:2024/05/29 04:38
HDFS写入流程
1、 使用HDFS提供的客户端Client,向远程的Namenode发起RPC请求
2、Namenode会检查要创建的文件是否已经存在, 创建者是否有权限进行操作, 成功则会为文件创建一个记录, 否则会让客户端抛出异常;
3、 当客户端开始写入文件的时候,客户端会将文件切分成多个packets, 并在内部以数据队列“data queue( 数据队列) ”的形式管理这些packets,并向Namenode申请blocks, 获取用来存储replicas的合适的datanode列表,列表的大小根据Namenode中replication的设定而定;
4、 开始以pipeline( 管道)的形式将packet写入所有的replicas中。 开发库把packet以流的方式写入第一个datanode, 该datanode把该packet存储之后,再将其传递给在此pipeline中的下一个datanode, 直到最后一个datanode, 这种写数据的方式呈流水线的形式。
5、最后一个datanode成功存储之后会返回一个ack packet( 确认队列) , 在pipeline里传递至客户端, 在客户端的开发库内部维护着”ackqueue”, 成功收到datanode返回的ack packet后会从”ack queue”移除相应的packet。
6、 如果传输过程中,有某个datanode出现了故障, 那么当前的pipeline会被关闭, 出现故障的datanode会从当前的pipeline中移除,剩余的block会继续剩下的datanode中继续以pipeline的形式传输, 同时Namenode会分配一个新的datanode,保持replicas设定的数量。
7、 客户端完成数据的写入后,会对数据流调用close()方法, 关闭数据流;
8、 只要写入了dfs.replication.min的复本数(默认为1) , 写操作就会成功, 并且这个块可以在集群中异步复制, 直到达到其目标复本数( dfs. replication的默认值为3) ,因为namenode已经知道文件由哪些块组成, 所以它在返回成功前只需要等待数据块进行最小量的复制。
从上面的图中,我们可以清楚的看出NameNode对应于用户的三个动作分别
以create、 addBlock、complete来进行相关的处理。现在,我就来详细的分析NameNode的这三个动作是如何实现的。
1.NameNode的create动作主要是为客户端传过来的文件名在HDFS的Namesystem中申请一个名字空间,并为之建立一个响应的iNode,当然,这个iNode的状态是underConstruction,然后为这个客户创建一个该文件的租约,就是文件的独占锁,以防止其它的客户端对这个文件同时写。
2.NameNode的addBlock动作主要是为文件创建一个新的Block,并为这个Block的副本分配存储DataNode节点,最后给客户端返回一个LocatedBlock对象,该对象包含Block的副本应该存放的位置。在这里我想说得是,NameNode节点此时并不保存该Block的副本位置,而是等到成功接收该Block的数据节点自动报告时它才正式记录该Block的一个副本的位置,这样做是由于HDFS不能保证Block一开始分配的数据节点都能成功结束Block。
3.NameNode的complete动作就是更改与当前文件节点相关的状态,同时释放文件的租约。另外,NameNode还要判断文件的所有Blocks的副本是否已满足,对于还不满足的Blocks,NameNode将其放入neededReplications队列中,让其它的后台线程来负责这些Block的副本情况。
block是datanode存放数据的基本单位
HDFS读取流程
1、 使用HDFS提供的客户端Client,向远程的Namenode发起RPC请求;
2、Namenode会视情况返回文件的部分或者全部block列表, 对于每个block, Namenode都会返回有该block拷贝的DataNode地址;
3、客户端Client会选取离客户端最近的DataNode来读取block; 如果客户端本身就是DataNode, 那么将从本地直接获取数据;
4、 读取完当前block的数据后,关闭当前的DataNode链接, 并为读取下一个block寻找最佳的DataNode;
5、 当读完列表block后,且文件读取还没有结束, 客户端会继续向Namenode获取下一批的block列表;
6、 读取完一个block都会进行checksum验证,如果读取datanode时出现错误, 客户端会通知Namenode, 然后再从下一个拥有该block拷贝的datanode继续读。
- HDFS读写过程解析
- HDFS读写过程解析
- HDFS读写数据过程
- HDFS读写过程解析
- HDFS读写过程
- HDFS文件读写过程
- 3-hdfs 读写过程
- HDFS读写过程
- HDFS读写过程解析(zz)
- HDFS数据的读写过程
- hdfs体系结构与读写过程
- HDFS读写文件的过程
- Hadoop之HDFS文件读写过程
- Hadoop中hdfs的读写过程
- 【HDFS基础】常用命令与读写数据过程
- Hadoop学习总结之二:HDFS读写过程解析
- Hadoop学习总结之二:HDFS读写过程解析
- Hadoop学习总结之二:HDFS读写过程解析
- 网络获取图片的优化
- saltstack部署openstack
- C语言中的符号重载
- 算法导论(七)——跳跃表&自组织表,竞争性分析
- opencv2.49+vs 2012配置(编译器x64,系统win7 64位)
- HDFS读写过程
- TQ210裸机编程——led
- 蓝牙的运用
- spring集成--数据库连接池配置方法
- java学习笔记(一)基础知识
- java算法之冒泡排序
- UML中的关系
- 如何开始从事bigdata
- 查看Docker容器日志