hadoop hive建表及装载数据
来源:互联网 发布:mactype仿mac配置文件 编辑:程序博客网 时间:2024/06/04 21:09
必须在表定义时创建partition
a、单分区建表语句:create table day_table (id int, content string) partitioned by (dt string);单分区表,按天分区,在表结构中存在id,content,dt三列。
以dt为文件夹区分
b、 双分区建表语句:create table day_hour_table (id int, content string) partitioned by (dt string, hour string);双分区表,按天和小时分区,在表结构中新增加了dt和hour两列。
先以dt为文件夹,再以hour子文件夹区分
添加分区表语法(表已创建,在此基础上添加分区):ALTER TABLE table_name ADD
partition_spec [ LOCATION 'location1' ]
partition_spec [ LOCATION 'location2' ] ...
ALTER TABLE day_table ADD
PARTITION (dt='2008-08-08', hour='08')
location '/path/pv1.txt'
删除分区语法:ALTER TABLE table_name DROP
partition_spec, partition_spec,...
用户可以用 ALTER TABLE DROP PARTITION 来删除分区。分区的元数据和数据将被一并删除。例:
ALTER TABLE day_hour_table DROP PARTITION (dt='2008-08-08', hour='09');数据加载进分区表中语法:
LOAD DATA [LOCAL] INPATH 'filepath' [OVERWRITE] INTO TABLE tablename [PARTITION (partcol1=val1, partcol2=val2 ...)]例:
LOAD DATA INPATH '/user/pv.txt' INTO TABLE day_hour_table PARTITION(dt='2008-08- 08', hour='08'); LOAD DATA local INPATH '/user/hua/*' INTO TABLE day_hour partition(dt='2010-07- 07');
当数据被加载至表中时,不会对数据进行任何转换。Load操作只是将数据复制至Hive表对应的位置。数据加载时在表下自动创建一个目录
基于分区的查询的语句:SELECT day_table.* FROM day_table WHERE day_table.dt>= '2008-08-08';查看分区语句:
hive> show partitions day_hour_table;
OK
dt=2008-08-08/hour=08
dt=2008-08-08/hour=09
dt=2008-08-09/hour=09
转:http://blog.csdn.net/macyang/article/details/7259416
- hadoop hive建表及装载数据
- hive 表装载数据详解
- Hive装载数据命令
- hadoop-hive-创建表及LOAD数据相关
- Hive通过动态分区装载数据
- Hive 视图 索引 动态分区装载数据
- Hive通过动态分区装载数据
- Hadoop 从零开始学习系列-hive与hbase外部关联表建立及数据导入
- Python将Mysql分表数据按小时增量装载到Hive示例
- hive 使用方法-建表及导入导出数据(一)
- hadoop数据迁入到hive
- hadoop数据迁入到hive
- Hadoop 及 Hive 压缩应用
- Hadoop 及 Hive 压缩应用
- Python自动化拉取Mysql数据并装载到Hive
- Python自动化拉取Mysql数据并装载到Hive
- Hive中装载数据的几种方式
- hive 表创建及数据加载
- 图文并茂使用CocosBuilder制作Cocos2D游戏
- Linux下的虚拟Bridge实现
- ECSHOP account_log,pay_log,user_account 三个表的用途与区别
- 心得之----XCode修改SVN地址方法
- 人脸检测、跟踪与人脸识别
- hadoop hive建表及装载数据
- 在FFMPEG中使用libRTMP的经验
- linux下忘记了mysql的root用户密码解决办法
- 监测SDcard卡状态
- Protocol &Private等VLAN
- iOS网络编程之Socket
- php 面试
- 技术人员谈管理之进度管理案例论文
- weka工具使用方法及C4.5算法示例