HDFS 指令(二)moveFromLocal,moveToLocal,tail,rm,expunge,chown,chgrp,setrep,du,df
来源:互联网 发布:淘宝客鹊桥插件手机版 编辑:程序博客网 时间:2024/06/10 01:13
目的
本文主要学习hadoop hdfs 从hdfs移动到本地,从本地移动到hdfs,tail查看最后,rm删除文件,expunge清空 trash,chown 改变拥有者,setrep 改变文件副本数,chgrp改变所属组,,du,df磁盘占用情况
moveFromLocal
复制一份本地文件到hdfs,当成功后,删除本地文件
指令用法
moveFromLocal <localSrc> <dest>
例子
hdfs dfs -moveFromLocal /home/dataflair/Desktop/sample /user/dataflair/dir1
moveToLocal
类似于-get,但是当复制完成后,会删除hdfs上的文件
指令用法
moveToLocal <src> <localDest>
例子
hdfs dfs -moveToLocal /user/dataflair/dir2/sample /user/dataflair/Desktop
tail
类似于linux中的tail,把文件最后1kb给打印到console 或者 stdout.
指令用法
hdfs dfs -tail [-f] <filename>
例子
hdfs dfs -tail /user/dataflair/dir2/purchases.txthdfs dfs -tail -f /user/dataflair/dir2/purchases.txt
rm
移除文件或者清空路径下的数据
指令用法
rm <path>
例子
hdfs dfs -rm /user/dataflair/dir2/sample
递归删除
hdfs dfs -rm -r /user/dataflair/dir2
expunge
清空 trash
HDFS中的数据删除也是比较有特点的,并不是直接删除,而是先放在一个类似回收站的地方(/trash),可供恢复
对于用户或者应用程序想要删除的文件,HDFS会将它重命名并移动到/trash中 ,当被覆盖或者到了一定的生命周期(现在默认为6小时),hdfs才会从文件中删除,并且只有这个时候,Datanode上相关的磁盘空间才能节省出
而 expunge 就类会清空/trash,类似于清空回收站
指令用法
hdfs dfs -expunge
例子
hdfs dfs -expunge
chown
类似于linux中的chown,用户应该是超级用户才能做次操作
改变文件拥有者
指令用法
hdfs dfs -chown [-R] [OWNER][:[GROUP]] URI [URI ]
例子
hdfs dfs -chown -R dataflair /opt/hadoop/logs
chgrp
类似于linux中的chgrp,用户应该是超级用户才能做次操作
改变文件所有组
指令用法
hdfs dfs -chgrp [-R] <NewGroupName> <file or directory name>
例子
hdfs dfs -chgrp [-R] New Group sample
setrep
指令用法
用来改变文件的副本数,如果是文件夹,那么次命令会针对该文件夹下的所有文件都会改变副本数
-w 表示副本数改为多少
使用-R选项可以对一个目录下的所有目录+文件递归执行改变副本个数的操作
setrep [-R] [-w] rep <path>
例子
hdfs dfs -setrep -w 3 /user/dataflair/dir1
du
类似于linux中的du , 统计个目录下各个文件大小,可以加-h 提高文件可读性
指令用法
du <path>
例子
hdfs dfs -du /user/dataflair/dir1/sample
df
类似于linux中的du ,查询某个目录的空间大小,可以加-h 提高文件可读性
指令用法
hdfs dfs -df [-h] URI [URI ...]
例子
hdfs dfs -df -h
翻译原文:http://data-flair.training/blogs/most-used-hdfs-commands-tutorial-examples/
- HDFS 指令(二)moveFromLocal,moveToLocal,tail,rm,expunge,chown,chgrp,setrep,du,df
- useradd、userdel、passwd、groupadd、chgrp、chown、df、du、sort、wget
- Linux指令--df,du
- linux chown 和 chgrp 指令
- linux常用的简单命令(二) cp/mv、rm、passwd、su、groupadd/useradd、chgrp/chown、chmod
- Linux学习--第三天--linux文件目录、ls、mkdir、mv、rm、touch、cat、tac、more、less、head、tail、ln、chmod、chown、chgrp、umask
- linux命令之chown、chgrp、cmp、dd、du
- shell脚本学习笔记(五) —— diff、locale、top、du/df、tail
- HDFS shell 中-du -df 用法详解
- 四、Linux常用命令之文件操作篇(cat、more、head、tail、ln、chmod、chown、chgrp、umask)
- chgrp&chown
- Linux基础命令(二)之du、df详解
- linx指令du,df,top,free,pastack
- Linux学习笔记二、权限操作,ls,chgrp,chown,chmod,cp,mkdir,touch,rm,su,exit,cat,.,..,uname -r,lsb_release -a
- df du
- du&df
- linux查看文件/目录 大小(du)、权限(ls ll),用户及组(user/group)增、删、改 (chmod/chown/chgrp)
- linux指令解析-mount df du fdisk apt-get dd
- 蓝桥决赛之最小距离
- phprpc服务端客户端实例
- Centos 6.5安装docker及相关常用用法
- CVE-2015-7547漏洞分析从原因到利用到补丁(非常适合小白)
- 读书笔记《Effective C++》条款21:必须返回对象时,别妄想返回其reference
- HDFS 指令(二)moveFromLocal,moveToLocal,tail,rm,expunge,chown,chgrp,setrep,du,df
- 各操作系统中的换行符差异
- java并发编程(四)——中断
- 第7篇:ui-router登录检查实现权限控制
- 求出方程ax^2+bx+c=0的实根
- 1513 求Sn=1!+2!+3!+4!+5!+…+n!之值,其中n是一个数字。
- java.sql.SQLException: Can not issue data manipulation statements with executeQuery()
- 序列化的概念和序列化ID的作用?
- PAT (Advanced Level) Practise 1125 Chain the Ropes (25)