通过shell命令来控制hdfs
来源:互联网 发布:企业阿里云邮箱登陆 编辑:程序博客网 时间:2024/05/22 21:07
<1>. hadoop文件系统权限简介
hadoop文件系统实现的文件权限模型和posix模型极其类似。每个文件和目录和一个owner和group相关联。可以使用下面的命令来查看/tmp/目录下的所有文件及其权限:
其中对于文件而言,r表明的是读取该文件的权限,w是写该文件的权限;对于目录而言的话,r权限表明的是能够读取该目录下的文件列表,w权限表明的是能够在目录下创建或者是删除文件和目录,x权限表示能够从该目录进入其子目录中。和posix模型不同的是,在hdfs中是不存在所谓的sticky,setuid和setgid。
<2>. 命令简介
hdfs设计之处的主要目的是对海量数据进行处理,也就是说在其上能够存储很大量文件(可以存储TB级的文件),hdfs将这些文件分割之后,存储在不同的DataNode上,但是对外却提供了一个简单的事实:
这还是个简单完整的文件,只不过这个文件比较大。
hdfs处理文件的命令和linux上命令基本上是相同的,键入./bin/hadoop fs将输出能够支持的命令的列表:
如果熟悉linux的话,这些命令基本上就不怎么需要解释了。 但是下面还是列出了几个常用场景下的命令:
1. 增加文件和目录
./bin/hadoop fs -mkdir /newdir
ls查看一下:
xuqiang@ubuntu:~/hadoop/src/hadoop-0.21.0$ ./bin/hadoop fs -ls /
xuqiang@ubuntu:~/hadoop/src/hadoop-0.21.0$ ./bin/hadoop fs -put ./README.txt .
这里需要注意的是.代表的含义,在hdfs中对于每个登录的用户都会存在一个默认的工作目录/user/$LOGINNAME(类似于linux下的home目录),.代表的就是这个默认工作目录。
2. 下载文件
- 通过shell命令来控制hdfs
- 通过shell命令来控制hdfs
- 通过shell命令来控制hdfs
- 通过shell命令来控制hdfs
- 通过获取HDFS目录/文件夹大小来控制reduce个数
- Hadoop HDFS Shell 命令
- HDFS Shell 命令
- HDFS常见shell命令
- hdfs shell命令记录
- hdfs shell命令
- HDFS shell 命令
- [Hadoop]HDFS shell命令
- Hadoop HDFS Shell命令
- HDFS的Shell命令
- hdfs shell 命令
- HDFS Shell 命令
- hdfs的shell命令
- Hadoop2 HDFS shell命令
- 我要精通的
- CvTermCriteria 迭代终止规则
- Core Java小练习 - 反转文字
- 定制new和delete
- 设置ssh登录无需密码
- 通过shell命令来控制hdfs
- C++ 动态内存分配
- 两部影响前半生的影片
- 堆和栈
- 引用 最简单的硬盘安装VISTA 2008 Win7 WIN2008R2方法
- 前端面试题
- Java Socket 实例
- 01背包问题的求解
- Goahead 文件上传速度过慢原因分析