hive中的内部表、外部表、分区表
来源:互联网 发布:淘宝发物流怎么填单号 编辑:程序博客网 时间:2024/05/29 10:54
内部表和外部表
hive的表分为内部表(管理表)和外部表(托管表),对于外部表,在创建的时候,需要加上EXTERNAL关键字,不使用EXTERNAL关键字创建的表为内部表:
create EXTERNAL table IF NOT EXISTS bhive.people( id string COMMENT 'student id', //字段描述 name string , sex string)COMMENT 'student table' //表的描述ROW FORMAT DELIMITED FIELDS TERMINATED BY ' ' //从文件中将数据导入数据表的时候,文件中的数据每行各个字段之间的分隔符STORED AS TEXTFILE //从文件中获取数据时,指定文件所属的类型(默认是文本文件,企业开发一般使用ORC和PARQUET)LOCATION /user/hive/warehouse/bhive/people; //指定数据表在hdfs文件系统中的存储的位置
现在假设hive表的元数据信息存储在mysql数据库中,不管是内部表和外部表,在表的创建的时候,将会在mysql数据库中存储hive表的元数据信息,在hdfs文件系统中存储真正的数据信息。
对于内部表来说,如果删除创建的hive表时,此时会将mysql数据库中的元数据信息删除的同时也会将hdfs文件系统中的真正的数据信息删除。
对于外部表来说,删除创建的hive、表的时候,只会删除mysql数据库中的元数据信息,不会删除hdfs文件系统中的真正的数据信息。
分区表
分区表就是在创建的时候使用PARTITIONED BY指定表的分区,所谓分区,就是在hdfs文件系统中的相应的目录下创建相应的分区目录。在查询时候通过where子句中条件指定相应的分区。
//创建分区表create table IF NOT EXISTS bhive.people( name string , sex string)PARTITIONED BY (col_name data_type, ...... );//加载数据load data local inpath '/path' into table table_name partition (part_name = 'part_name');//查询分区数据select * from table_name where part_name = 'part_name';
注意:在加载数据的时候需要指定将数据加载到那个分区下,此时加载数据的时候会自动创建分区目录。
如果在加载数据之前在相应的目录下创建分区目录,如果将数据上传到相应的分区目录下,此时查询将会无法查询到数据。
原因是,自动创建的分区,在mysql数据库的元数据信息中将会添加分区的元数据信息,而手动创建的分区,分区的元数据信息将不会保存到mysql数据库中。此时通过以下操作可以解决:
(1)方式一:修复表
msck repair table table_name
(2)方式二:为指定的表添加分区
alert table dept_name add partition(part_name = 'part_name');
阅读全文
0 0
- hive中的内部表、外部表、分区表
- Hive内部表、外部表、分区表介绍
- hive内部表、外部表、分区表、视图
- Hive 外部表 分区表
- Hive数据加载(内部表,外部表,分区表)
- Hive笔记三之内部表,外部表,分区表,桶表
- hive 分区表、外部表、桶表
- Hive学习笔记 3 Hive的数据模型:内部表、分区表、外部表、桶表、视图
- Hadoop学习笔记(十八)---Hive内部表,外部表,分区表,桶表
- Hive的数据存储(内部表,外部表,分区表,桶表,视图)
- hive内部表,外部表,分区表,桶表,函数及自定义函数
- Hive关于内部表外部表以及分区表数据删除总结
- Hive内部表、外部表
- hive内部表、外部表
- hive 分区表、桶表和外部表
- Hive之管理表 外部表 分区表
- hive 建表,建外部表,建分区表
- Hive 之 分区表,外部表,桶表
- 把更改后的uboot烧写到开发板及遇到的问题
- Unity3D Shader之路 VS2015下Graphics Debugger调试Shader
- 欢迎使用Markdown编辑器写博客
- C#数据结构中的二叉树
- 函数、函数的递归、重载、委托的声明
- hive中的内部表、外部表、分区表
- Spring Boot系列十 Spring MVC全局异常处理总结
- 深入Spring Boot:排查@Transactional引起的NullPointerException
- 深入理解Java虚拟机-垃圾收集器与内存分配策略(三)
- org.apache.maven.archiver.MavenArchiver.getManifest错误
- 浏览器报错:ReferenceError: require is not defined
- 《软件测试的艺术(原书第2版)》【PDF】下载
- SQL语句删除单表中的重复数据
- 【CVPR2017论文】Loss Max-Pooling for Semantic Image Segmentation