Hive严格模式
来源:互联网 发布:淘宝买东西不用验证码 编辑:程序博客网 时间:2024/06/13 11:00
Hive严格模式
Hive提供了一个严格模式,可以防止用户执行那些可能产生意向不到的不好的效果的查询。说通俗一点就是这种模式可以阻止某些查询的执行。通过如下语句设置严格模式:
hive> set hive.mapred.mode=strict;设置为严格模式后,可以禁止3种类型的查询:
(1):带有分区的表的查询
如果在一个分区表执行hive,除非where语句中包含分区字段过滤条件来显示数据范围,否则不允许执行。换句话说就是在严格模式下不允许用户扫描所有的分区。进行这个限制的原因是,通常分区表都拥有非常大的数据集,而且数据增加迅速。如果不进行分区限制的查询会消耗巨大的资源来处理,如下不带分区的查询语句:
hive> SELECT DISTINCT(planner_id) FROM fracture_ins WHERE planner_id=5;执行后会出现如下错误:
FAILED: Error in semantic analysis: No Partition Predicate Found for Alias "fracture_ins" Table "fracture_ins解决方案是在where中增加分区条件:
hive> SELECT DISTINCT(planner_id) FROM fracture_ins > WHERE planner_id=5 AND hit_date=20120101;
(2):带有order by的查询
对于使用了order by的查询,要求必须有limit语句。因为order by为了执行排序过程会将所有的结果分发到同一个reduce中进行处理,强制要求用户增加这个limit语句可以防止reduce额外消耗资源,如下是不带limit关键字的查询语句:
hive> SELECT * FROM fracture_ins WHERE hit_date>2012 ORDER BY planner_id;出现如下错误:
FAILED: Error in semantic analysis: line 1:56 In strict mode,limit must be specified if ORDER BY is present planner_id解决方案就是增加一个limit关键字:
hive> SELECT * FROM fracture_ins WHERE hit_date>2012 ORDER BY planner_id > LIMIT 100000;
(3):限制笛卡尔积的查询
对关系型数据库非常了解的用户可能期望在执行join查询的时候不适用on语句而是使用where语句,这样关系型数据库的执行优化器就可以高效的将where语句转换成那个on语句了。不幸的是,Hive并不支持这样的优化,因为如果表非常大的话,就会出现不可控的情况,如下是不带on的语句:
hive> SELECT * FROM fracture_act JOIN fracture_ads> WHERE fracture_act.planner_id = fracture_ads.planner_id;出现如下错误:
FAILED: Error in semantic analysis: In strict mode, cartesian productis not allowed. If you really want to perform the operation,+set hive.mapred.mode=nonstrict+
解决方案就是加上on语句:
hive> SELECT * FROM fracture_act JOIN fracture_ads > ON (fracture_act.planner_id = fracture_ads.planner_id);
0 0
- hive严格模式
- Hive严格模式
- hive开启严格模式
- hive严格模式
- HIVE严格模式
- Hive严格模式
- 浅析hive严格模式(strict mode)
- 浅析hive严格模式(strict mode)
- 严格模式
- 严格模式
- 严格模式
- 严格模式
- 严格模式
- 严格模式
- DOCTYPE 严格模式与JS严格模式
- MySQL 严格模式 sql_mode
- JavaScript严格模式
- Javascript 严格模式详解
- ios 页面传值
- poj1845
- 检测 Linux 内存使用情况的 free 命令的10个例子
- 模型选择与特征选择
- Android 4.4 Graphic Architecture
- Hive严格模式
- 【Android】开发过程中值得注意的问题及解决方案
- java中volatile关键字的含义
- sql清空表方法
- 学习C++的个人心得
- CSS3的正方体自动旋转
- Windows安装和使用zookeeper
- lua和c/c++互相调用实例分析
- HTML中<link rel="next".../> start next prev 属性值