LZOP解压查看文件
来源:互联网 发布:手机淘宝新人专享礼包 编辑:程序博客网 时间:2024/05/01 04:52
我们的HDFS中有一部分落地数据是用LZO格式来压缩的(另一部分采用gz压缩的RCFile,MapReduce中间结果采用snappy压缩)。第一是因为它的压缩比和压缩/解压速度综合下来比较令人满意,第二是它只需要少量effort就能支持可切分(生成LZO文件后跑单机或分布式建索引程序),这样能充分利用MapReduce分而治之的编程思想和数据本地性。
之前要查看已经put到HDFS的LZO文件,都是先get到本地,再用lzop命令解压出来查看,但是有时候我们只是想预览下lzo文件的几行信息,前面一种方式就比较麻烦了,替代方案可以使用如下命令:
hadoop fs -cat /share/data/log/web/2013-08-22/2013-08-22_log.lzo | lzop -dc | head -1
lzop会接受输入流然后解压输出流给head显示第一行
但是如果不加后面的重定向命令,照道理应该输出到终端上,但是事实并非如此
hadoop fs -cat /share/data/log/web/2013-08-22/2013-08-22_log.lzo | lzop -dc
会报错“lzop: <stdout>: uncompressed data not written to a terminal”
而对于gzip命令和zcat命令,没有发生这种情况
hadoop fs -cat /tmp/temp.txt.gz | gzip -d hadoop fs -cat /tmp/temp.txt.gz | zcat
其实这是lzop故意这样设计的,因为解压后的数据可能非常大,如果不加限制全部输出到终端会撑爆终端的,所以不管文件大小一律先报错,可以做这样一个实验
[hadoop@h162 tmp]$ echo "chenyukang" | gzip -c | gzip -d chenyukang
[hadoop@h162 tmp]$ echo "chenyukang" | lzop -c | lzop -dc lzop: <stdout>: uncompressed data not written to a terminal
如果确实要打印全部数据到终端有两种办法
1. 后面跟重定向到cat命令
[hadoop@h162 tmp]$ echo "chenyukang" | lzop -c | lzop -dc | cat chenyukang
2. 使用lzop的-f参数或者--force,强制输出
[hadoop@h162 tmp]$ echo "chenyukang" | lzop -c | lzop -dcf chenyukang
- LZOP解压查看文件
- LZOP解压查看文件小trick
- linux解压日志文件并查看
- 查看rpm包内容和解压获取rpm包文件
- 查看rpm包内容和解压获取rpm包文件
- 不解压tar.gz文件查看其中的文件大小
- 不解压tar.gz文件查看其中的文件大小
- linux下不解压tar.gz文件查看文件大小
- android 查看解压后的.xml文件代码(axmlprinter2)
- 查看.tar.gz文件内容(不需要解压)
- linux之压缩文件,查看压缩文件,解压文件的操作命令
- 安装lzop
- LZO,LZOP
- 解压文件
- 解压文件
- 解压文件
- 解压文件
- 解压文件
- FFmpeg学习总结
- onvif新版本发现不了老版本onvif的ipc问题
- 定制iOS 7中的导航栏和状态栏
- 如何向App Store提交应用
- PHP+MySql+jQuery实现的“顶”和“踩”投票功能
- LZOP解压查看文件
- 调整你的汽车音响,提供最佳的性能
- Restrictions +Criteria DetachedCriteria 联系与区分
- 笔记,
- 用HTTP analyzer找出网页脚本不可见的信息
- div滚动条控制
- 谁需要它无论如何在线音频图书租赁服务
- Java程序员常犯的10个错误
- android即时消息处理机制