hadoop学习笔记二

来源:互联网 发布:淘宝情趣内衣网店 编辑:程序博客网 时间:2024/05/18 01:28

一次改变文件所属用户和所属组

      hadoop fs -chown  -R(递归修改) supergroup:root  /wcout


hadoop1.0命令  hadoop fs -ls -R/

hadoop2.0后命令变为    hdfs dfs -ls -R/

查看帮助: hadoop fs -help ls(查看ls命令帮助)


NameNode

整个文件系统的管理节点。它维护着整个文件系统的文件目录树,文件/目录的元信息和每个文件对应的数据块列表

文件包括:

1.fsimage:元数据镜像文件。存储某一时段NameNode内存元数据信息(2.0已能做到实时同步)

2.edits:操作日志文件

3.fstime:保存最近一次checkpoint时间(还原点)

(以上文件保存在linux文件系统中,hadoop2.4.1/tmp/dfs/)

namenode始终在内存中保存metadata,用于处理“读请求”。有“写请求”时,namenode首先向edits文件中写日志,成功返回后,才修改内存,并向客户端返回。

DataNode

提供真实文件数据的存储服务

文件块:最基本的存储单位,不同于普通文件系统的是HDFS中,如果一个文件小于一个数据块的大小,并不占用整个数据块存储空间。datanode与namenode保存心跳机制,当长时间未向namenode报告,则视为该datanode死机,namenode会重新备份该datanode上的数据块。





0 0
原创粉丝点击