hadoop-hdfs简介(三)

来源:互联网 发布:网络歌曲飘雪 编辑:程序博客网 时间:2024/05/16 19:03

1.操作 HDFS 的基本命令

1) 打印文件列表(ls)

hadoop fs -ls hdfs:/ #hdfs: 明确说明是 HDFS 系统路径

简写:hadoop fs -ls / #默认是 HDFS 系统下的根目录

hadoop fs -ls /package/test/ #HDFS 系统下某个目录

2) 上传文件、目录(put、copyFromLocal)

上传新文件:

hdfs fs -put file:/root/test.txt hdfs:/ #上传本地 test.txt 文件到HDFS根目录,HDFS根目录须无同名文件,否则“File exists”

hdfs fs -put test.txt /test2.txt #上传并重命名文件。

hdfs fs -put test1.txt test2.txt hdfs:/ #一次上传多个文件到 HDFS 路径。

上传文件夹:

hdfs fs -put mypkg /newpkg #上传并重命名了文件夹。

覆盖上传:

hdfs fs -put -f /root/test.txt / #如果 HDFS 目录中有同名文件会被覆盖

上传文件并重命名:

hadoop fs -copyFromLocal file:/test.txt hdfs:/test2.txt

覆盖上传:

hadoop fs -copyFromLocal -f test.txt /test.txt

3) 下载文件、目录(get、copyToLocal)

拷贝文件到本地目录1:
hadoop fs -get hdfs:/test.txt file:/root/拷贝文件并重命名,
可以简写:hadoop fs -get /test.txt /root/test.txt
拷贝文件到本地目录2:hadoop fs -copyToLocal hdfs:/test.txt file:/root/拷贝文件并重命名,
可以简写:hadoop fs -copyToLocal /test.txt /root/test.txt
4) 拷贝文件、目录(cp)
从本地到 HDFS:
hadoop fs -cp file:/test.txt hdfs:/test2.txt 
从 HDFS 到 HDFS:

hadoop fs -cp hdfs:/test.txt hdfs:/test2.txthadoop fs -cp /test.txt /test2.txt

5) 移动文件(mv)

hadoop fs -mv hdfs:/test.txt hdfs:/dir/test.txt

hadoop fs -mv /test.txt /dir/test.txt

6) 删除文件、目录(rm)

删除指定文件:

hadoop fs -rm /a.txt

删除全部 txt 文件:

hadoop fs -rm /*.txt

递归删除全部文件和目录:

hadoop fs -rm -R /dir/

7) 读取文件(cat、tail)

hadoop fs -cat /test.txt    #以字节码的形式读取

hadoop fs -tail /test.txt

8) 创建空文件(touchz)

hadoop fs - touchz /newfile.txt

9) 创建文件夹(mkdir)

hadoop fs -mkdir /newdir /newdir2    #可以同时创建多个

hadoop fs -mkdir -p /newpkg/newpkg2/newpkg3    #同时创建父级目录

10) 获取逻辑空间文件、目录大小(du)

hadoop fs - du /    #显示 HDFS 根目录中各文件和文件夹大小

hadoop fs -du -h /    #以最大单位显示 HDFS 根目录中各文件和文件夹大小

hadoop fs -du -s / #仅显示 HDFS 根目录大小。即各文件和文件夹大小之和

原创粉丝点击