hive中对lzo压缩文件建立索引实现并行处理
来源:互联网 发布:js延时函数 编辑:程序博客网 时间:2024/05/16 19:06
1,确保创建索引
$HADOOP_HOME/bin/hadoop jar $HADOOP_HOME/lib/hadoop-lzo-0.4.10.jar com.hadoop.compression.lzo.DistributedLzoIndexer /user/hive/warehouse/flog
2 如果在hive中新建外部表的语句为
CREATE EXTERNAL TABLE foo ( columnA string, columnB string ) PARTITIONED BY (date string) ROW FORMAT DELIMITED FIELDS TERMINATED BY "\t" STORED AS INPUTFORMAT "com.hadoop.mapred.DeprecatedLzoTextInputFormat" OUTPUTFORMAT "org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat" LOCATION '/path/to/hive/tables/foo';
3 对于已经存在的表修改语句为
ALTER TABLE foo SET FILEFORMAT INPUTFORMAT "com.hadoop.mapred.DeprecatedLzoTextInputFormat" OUTPUTFORMAT "org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat";
4 alter table后对已经load进表中的数据,需要重新load和创建索引,要不还是不能分块
5 用hadoop streaming编程执行mapreduce作业语句为
hadoop jar /opt/mapr/hadoop/hadoop-0.20.2/contrib/streaming/hadoop-0.20.2-dev-streaming.jar -file /home/pyshell/map.py -file /home/pyshell/red.py -mapper /home/pyshell/map.py -reducer /home/pyshell/red.py -input /aojianlog/20120304/gold/gold_38_3.csv.lzo -output /aojianresult/gold38 -inputformat com.hadoop.mapred.DeprecatedLzoTextInputFormat -jobconf mapred.output.compress=true -jobconf mapred.output.compression.codec=com.hadoop.compression.lzo.LzopCodec
注意 如果没有-inputformat com.hadoop.mapred.DeprecatedLzoTextInputFormat 选项的话map作业也不会分片
没有-jobconf mapred.output.compression.codec=com.hadoop.compression.lzo.LzopCodec选项只设置-jobconf mapred.output.compress=true 选项的话 reduce作业输出文件的格式为.lzo_deflate
- hive中对lzo压缩文件建立索引实现并行处理
- hive中对lzo压缩文件建立索引实现并行处理
- 对TextFile格式文件的lzo压缩建立index索引
- LzoIndexer对TextFile格式文件的lzo压缩建立index索引
- hive中使用lzo
- hadoop,hive启用lzo压缩和创建lzo索引
- (转)lzo文件的并行map处理
- hadoop lzo文件的并行map处理
- lzo文件的并行map处理
- hadoop处理lzo格式的压缩文件报错
- python3对压缩文件处理
- Hive中对json处理
- 查看HDFS中LZO压缩文件内容的脚本
- Hadoop集群lzo文件的并行map处理
- 使用hive 对lzo数据分析时的报错
- hadoop lzo并行map
- hadoop lzo并行map
- hadoop使用lzo压缩文件笔记
- 怎样在网站中添加google统计代码
- IOS观察者模式_NSNotification,KVO,Delegate的使用理解
- java环境变量配置
- extjs学习03——extjs的面向对象程序设计
- verilog 中signed数据处理,负数
- hive中对lzo压缩文件建立索引实现并行处理
- OSG开发概览
- Dom编程(图片 在 某一区域内 跟随鼠标运动、仅IE浏览器支持)
- 初学abap 总结2
- 关于文献阅读和寻找新的科研题目
- Bootstrap3如何解决ie8适配的问题-云帮平台
- js之实现页面内所有图片旋转
- WebRTC源代码探索之旅——多线程篇(5 - 4)
- 如何开发一个自己的个人网站