hadoop-impala十大优化之(6)—控制资源使用最佳实践

来源:互联网 发布:javascript dom编程 编辑:程序博客网 时间:2024/06/05 11:01

1.1 hadoop-impala十大优化之(6)—控制资源使用最佳实践

有时,平衡原始查询性能对可扩展性需要限制的资源量,如内存或中央处理器,使用一个单一的查询或组查询。Impala可以使用多种机制,有助于消除负荷重的同时使用时,产生更快的整体查询时间和资源在Impala查询,MapReduce工作共享,以及其他在CDH集群工作负载:

Impala的接纳控制功能使用快速、分布式机制来阻止超过并行查询或使用的内存量的限制查询。查询是排队的,并执行其他查询完成和资源可用。您可以控制并发限制,并为不同的用户组指定不同的限制,根据不同类别的用户的优先级来划分群集资源。这个功能是新的Impala1.3,并与CDH 4和CDH5。查看接纳控制和查询队列的详细信息。

 你可以限制内存Impala的储备量在查询执行过程中通过指定的impalad守护的mem_limit选项。看到修改细节Impala的启动选项。此限制仅适用于内存的查询直接引用;Impala储备额外的内存在启动时,例如举行缓存元数据。

 生产部署,Cloudera的建议你实现资源隔离使用机制如C组,您可以使用Cloudera管理。详情在Cloudera管理文档查看静态资源池。

0 0
原创粉丝点击