MapReduce基础开发之七Hive外部表分区
来源:互联网 发布:网络游戏排行榜 知乎 编辑:程序博客网 时间:2024/05/01 23:57
MapReduce输出的数据在实际应用中会加载在不同子目录下,比如按照日期、地区等,然后统一到外部表,这就需要用到hive表的分区。
假设输出的数据放在/tmp/fjs/dpi父目录下,下面分别有三个类型的数据作为子目录保存,分别是/tmp/fjs/dpi/adsl、/tmp/fjs/dpi/3g、/tmp/fjs/dpi/4g,具体分区如下:
Hive表:tmp_fjs_dpi
1) 建表脚本:
设置分区为DPI类型,分别是adsl、3g、4g
CREATE EXTERNAL TABLE`tmp_fjs_dpi`(
`account` string,
`date` string,
`city` string,
`domain` string,
`para` string,
`value` string)
PARTITIONED BY (
`dpitype` string)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY '|'
STORED AS INPUTFORMAT
'org.apache.hadoop.mapred.TextInputFormat'
OUTPUTFORMAT
'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat'
LOCATION
'hdfs://nameservice-ha/tmp/fjs/dpi';
2)分区脚本:
查看分区:show partitionstmp_fjs_dpi;
增加分区:
alter table tmp_fjs_dpiadd partition (dpitype ='adsl') location 'adsl';
alter table tmp_fjs_dpiadd partition (dpitype ='3g') location '3g';
alter table tmp_fjs_dpiadd partition (dpitype ='4g') location '4g';
删除分区:
alter table tmp_fjs_dpidrop partition (dpitype ='4g');
3)查询结果:
select count(*) fromtmp_fjs_dpi where dpitype='adsl';
结果:92564960
select count(*) fromtmp_fjs_dpi where dpitype='3g';
结果:636277
select count(*) fromtmp_fjs_dpi where dpitype='4g';
结果:3828847
select para, count(*)from tmp_fjs_dpi group by para;
结果:
imei 97030084
- MapReduce基础开发之七Hive外部表分区
- hive外部表及分区
- MapReduce基础开发之九JDBC连接Hive
- MapReduce基础开发之三字段处理并输出Hive表
- hive 内部表,外部表,分区
- hive外部表使用分区partition
- Hive 外部表使用分区 Partition
- Hive创建外部表以及分区
- hive创建带分区的外部表
- E-MapReduce上Hive创建基于oss的外部表
- hive中的表、外部表、分区和桶的理解
- mapreduce之partition分区
- Hive 基础之:分区、桶、Sort Merge Bucket Join
- Hive 基础之:分区、桶、Sort Merge Bucket Join
- Hive 基础之:分区、桶、Sort Merge Bucket Join
- Hive 基础之:分区、桶、Sort Merge Bucket Join
- Hive 基础之:分区、桶、Sort Merge Bucket Join
- Hive 基础之:分区、桶、Sort Merge Bucket Join
- 开发工具使用和介绍
- BZOJ4551——[Tjoi2016&Heoi2016]树
- git常用命令
- 在 Visual C# 中,怎样为 TextBox 控件添加水印文字
- 模仿百度搜索
- MapReduce基础开发之七Hive外部表分区
- iOSUIWebView 的图片,文字大小适应
- javascript继承机制的设计思想
- SSL多域名绑定证书的解决方案
- android工具收藏
- 支付宝集成获取私钥与公钥【原创】
- mpandroidchart地址
- Android-->回调(interface/abstract)的用法(通俗易懂)
- linux下实时查看tomcat运行日志