[bigdata-022] hive和impala的对hbase的精细order by操作

来源:互联网 发布:乔布斯编程能力 编辑:程序博客网 时间:2024/05/02 23:35

1. 要用hive给hbase的表创建一个外部表。不能用impala,因为它在这块有缺陷。

2. 在hive创建一个本地表,注意,一定不要创建在hbase上。

3. 在hive里,执行order by命令,对外部表进行排序,然后将排序结果写入到2创建的hive本地表。这时候,因为order by是在一个reducer里进行的,所以结果一定是有序的。但如果写入到在hive里创建的hbase表,就是无序的。这一点要尤其注意。

4. 用impala读取结果表,因为这样比较快。注意:要先做一个invalidate metadata操作。

5. 尽量不要用impala做order by,因为它对数据要求高,不容错,hive能做排序的数据,impala会抛错。



0 0
原创粉丝点击