[一起学Hive]之七-向Hive表中加载数据
来源:互联网 发布:破解 百度离线 知乎 编辑:程序博客网 时间:2024/05/21 04:43
在Hive中建好表之后,需要将数据加载进来,以便做后续查询分析,本文介绍向Hive表中加载数据的几种方式。
6.1 建表时候直接指定
如果你的数据已经在HDFS上存在,已经为结构化数据,并且数据所在的HDFS路径不需要维护,那么可以直接在建表的时候使用location指定数据所在的HDFS路径即可。
比如:
这里内部表和外部表都可以指定,但需要注意,如果是内部表,那么在DROP该表的时候,同时会将LOCATION所指定的目录一起删除。
6.2 从本地文件系统或者HDFS的一个目录中加载
如果数据在本地,或者HDFS的某一个目录下,需要加载到目标中或分区中,那么使用LOAD DATA命令即可加载数据:
- 加载本地文件
LOAD DATA LOCAL INPATH ‘/home/lxw1234/t_lxw1234/’
INTO TABLE t_lxw1234 PARTITION (day = ‘2015-06-15’);
- 加载HDFS文件
LOAD DATA INPATH ‘/user/lxw1234/t_lxw1234/’
INTO TABLE t_lxw1234 PARTITION (day = ‘2015-06-15’);
6.3 从一个子查询中加载数据
这个比较简单,就是将一个查询结果插入到目标表或分区中:
INSERT overwrite TABLE t_lxw1234 PARTITION (day = ‘2015-06-15’)
SELECT day,url from source_table;
6.4 导出Hive中的数据到文件系统
这里也介绍一下从Hive中导出数据到文件系统(HDFS和本地文件系统)。
语法为:
如果指定了LOCAL关键字,则为导出到本地文件系统,否则,导出到HDFS。
使用ROW FORMAT关键字可以指定导出的文件分隔符,比如:
该语句将t_lxw1234表的所有数据导出到本地文件系统/tmp/lxw1234/目录,字段间的分隔符为逗号。
cat /tmp/lxw1234/000000_0
2015-05-10,url1
2015-05-10,url2
2015-06-14,url1
2015-06-14,url2
2015-06-15,url1
2015-06-15,url2
更多关于Hive数据加载和导出的介绍,请参考官方文档:
https://cwiki.apache.org/confluence/display/Hive/LanguageManual+DML#LanguageManualDML-Loadingfilesintotables
- [一起学Hive]之七-向Hive表中加载数据
- [一起学Hive]之七-向Hive表中加载数据
- [一起学Hive]之七-向Hive表中加载数据
- [一起学Hive]之十七-从Hive表中进行数据抽样-Sampling
- [一起学Hive]之十-Hive中Join的原理和机制
- [一起学Hive]之十一-Hive中Join的类型和用法
- [一起学Hive]之十-Hive中Join的原理和机制
- [一起学Hive]之十一-Hive中Join的类型和用法
- [一起学Hive]之十-Hive中Join的原理和机制
- [一起学Hive]之二–Hive函数大全-完整版
- [一起学Hive]之四-Hive的安装配置
- [一起学Hive]之五-Hive的视图和分区
- [一起学Hive]之六-Hive的动态分区
- [一起学Hive]之八-使用Hive命令行
- [一起学Hive]之九-Hive的查询语句SELECT
- [一起学Hive]之二–Hive函数大全-完整版
- [一起学Hive]之四-Hive的安装配置
- [一起学Hive]之五-Hive的视图和分区
- Torch7深度学习教程(二)
- 添加Page_Init事件
- springMVC dao层中通过反射获取entityClass
- 知识普及之:CSS: body{font-size: 62.5%;}这种写法为什么???
- Mysql学习总结(15)——Mysql错误码大全
- [一起学Hive]之七-向Hive表中加载数据
- 织梦dedecms中arclist标签下无法嵌套图片<img>
- 国内外各种建站免费面板和一键包汇总
- 设计模式C++学习笔记之十三(Decorator装饰模式)
- Request获取url各种信息的方法
- [一起学Hive]之八-使用Hive命令行
- 安卓ADT项目及升级AS(Android Studio)全攻略
- 第十一周项目1-点-圆-圆柱类族的设计(3)
- CSS强制性换行