hive建表存储格式造成的问题

来源:互联网 发布:网络学硬笔书法 编辑:程序博客网 时间:2024/06/05 06:47

用create table tableY as select 字段A,regexp_extractA,字段B,regexp_extractB from tableX 之后,

数据比原来多了5条

经查找,这5条都是其中一个字段为NULL,另外的字段全部=''


百思不得其解


后查询了下tableY建表的存储格式是默认的text,而tableX建表时用的是rcfile

将tableY用建表语句指定rcfile格式建表后,insert into table select 重新插入数据,就不会出现数据多的情况了

具体原因待查

这是源表的建表格式

ROW FORMAT SERDE
'org.apache.hadoop.hive.serde2.columnar.LazyBinaryColumnarSerDe'
STORED AS INPUTFORMAT
'org.apache.hadoop.hive.ql.io.RCFileInputFormat'
OUTPUTFORMAT
'org.apache.hadoop.hive.ql.io.RCFileOutputFormat'
0 0
原创粉丝点击