加入收藏 | 设为首页 | 会员中心 | 我要投稿 厦门网 (https://www.xiamenwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

[bigdata-022] hive和impala的对hbase的精细order by操作

发布时间:2020-12-31 13:55:28 所属栏目:大数据 来源:网络整理
导读:1. 要用hive给hbase的表创建一个外部表。不能用impala,因为它在这块有缺陷。 2. 在hive创建一个本地表,注意,一定不要创建在hbase上。 3. 在hive里,执行order by命令,对外部表进行排序,然后将排序结果写入到2创建的hive本地表。这时候,因为order by是

1. 要用hive给hbase的表创建一个外部表。不能用impala,因为它在这块有缺陷。

2. 在hive创建一个本地表,注意,一定不要创建在hbase上。

3. 在hive里,执行order by命令,对外部表进行排序,然后将排序结果写入到2创建的hive本地表。这时候,因为order by是在一个reducer里进行的,所以结果一定是有序的。但如果写入到在hive里创建的hbase表,就是无序的。这一点要尤其注意。

4. 用impala读取结果表,因为这样比较快。注意:要先做一个invalidate metadata操作。

5. 尽量不要用impala做order by,因为它对数据要求高,不容错,hive能做排序的数据,impala会抛错。

(编辑:厦门网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    热点阅读