2-HDFS介绍
来源:互联网 发布:unity3d怎么加控制 编辑:程序博客网 时间:2024/06/06 17:18
对外部客户机而言,HDFS就像一个传统的分级文件系统,可以创建、删除、移动、重命名文件等等,其实,HDFS的架构是基于一组特定的结点构建的,这是由它自身的特点决定的。这些节点包括 NameNode(仅一个),它在 HDFS 内部提供元数据服务;DataNode,它为 HDFS 提供存储块。由于仅存在一个 NameNode,因此这是 HDFS 的一个缺点(单点失败)。
存储在 HDFS 中的文件被分成块,然后将这些块复制到多个计算机中(DataNode)。这与传统的 RAID 架构大不相同。块的大小(通常为 64MB)和复制的块数量在创建文件时由客户机决定。NameNode 可以控制所有文件操作。HDFS 内部的所有通信都基于标准的 TCP/IP 协议。
HDFS基本概念介绍
1、Block:HDFS默认的基本存储单位是64M的数据块,和普通文件系统相同的是,HDFS中的文件是被分成64M一块的数据块存储的。 不同于普通文件系统的是,HDFS中,如果一个文件小于一个数据块的大小,并不占用整个数据块存储空间。
2、元数据节点(NameNode)和数据节点(DataNode)
元数据节点保存内容:
a、主要用来管理文件系统的命名空间,其将所有的文件和文件夹的元数据保存在一个文件系统树中。 这些信息也会在硬盘上保存成以下文件:命名空间镜像(namespace image)及修改日志(edit log)
b、其还保存了一个文件包括哪些数据块,分布在哪些数据节点上。然而这些信息并不存储在硬盘上,而是在系统启动的时候从数据节点收集而成的。
数据节点保存内容
真正存储数据的地方。客户端(client)或者元数据信息(namenode)可以向数据节点请求写入或者读出数据块。 其周期性的向元数据节点回报其存储的数据块信息。
3、从元数据节点(secondary namenode)
从元数据节点并不是元数据节点出现问题时候的备用节点,它和元数据节点负责不同的事情。 其主要功能就是周期性将元数据节点的命名空间镜像文件和修改日志合并,以防日志文件过大。这点在下面会相信叙述。 合并过后的命名空间镜像文件也在从元数据节点保存了一份,以防元数据节点失败的时候,可以恢复。
- 2-HDFS介绍
- Hadoop学习2:HDFS介绍
- HDFS介绍
- hdfs介绍
- HDFS介绍
- HDFS介绍
- HDFS介绍
- HDFS介绍
- HDFS介绍
- HDFS Federation(HDFS 联盟)介绍
- HDFS Federation(HDFS 联盟)介绍
- HDFS Federation(HDFS 联盟)介绍
- HDFS Federation(HDFS 联盟)介绍
- HDFS Federation(HDFS 联盟)介绍
- HDFS详细介绍
- HDFS Raid 介绍
- MapReduce 和 HDFS介绍
- hadoop之HDFS介绍
- if any if ever if anything
- 『学习』MySQL实践
- 如何关闭Win7桌面窗口自动排列和吸附?
- You can't specify target table 'compares' for update in FROM clause mysql错误总结之一
- Microsoft Visual C++ Package Server 已停止工作
- 2-HDFS介绍
- NGUI 九宫格切图
- 编程实现strcmp函数
- static静态代码块执行顺序
- 零编程经验的我是如何找到工作的
- Android面试复习
- 详细探究Spark的shuffle实现
- Bitmap index引发的死锁
- Hunter Tip #2 Nullie the Elephant