YARN常用的3种调度器

来源:互联网 发布:阿里云lamp环境搭建 编辑:程序博客网 时间:2024/06/07 17:01

参考链接:
http://blog.csdn.net/suifeng3051/article/details/49508261
http://www.cnblogs.com/BYRans/p/5567650.html
http://www.jianshu.com/p/7151ba6c5e03
集群资源是非常有限的,在多用户、多任务环境下,需要有一个协调者,来保证在有限资源或业务约束下有序调度任务,YARN资源调度器就是这个协调者。目前在很多大数据平台,例如hadoop,都是用YARN来协调资源使用。
1. FIFO Scheduler
FIFO Scheduler就是将应用按照提交的顺序排成一个队列,在资源分配时,先给队列中对头分配资源,等到对头上的应用资源使用完后,在分配给队列中的下一个。
缺点:并不适用于共享集群,大的应用可能会占用所有集群资源,这就导致其它应用被阻塞。
在共享集群中,更适合采用Capacity SchedulerFair Scheduler,这两个调度器都允许大任务和小任务在提交的同时获得一定的系统资源。
2. Capacity Scheduler
Capacity 调度器允许多个组织共享整个集群,每个组织可以获得集群的一部分计算能力。通过为每个组织分配专门的队列,然后再为每个队列分配一定的集群资源,这样整个集群就可以通过设置多个队列的方式给多个组织提供服务了。除此之外,队列内部又可以垂直划分,这样一个组织内部的多个成员就可以共享这个队列资源了,在一个队列内部,资源的调度是采用的是先进先出(FIFO)策略。
在正常的操作中,Capacity调度器不会强制释放Container,当一个队列资源不够用时,这个队列只能获得其它队列释放后的Container资源。当然,我们可以为队列设置一个最大资源使用量,以免这个队列过多的占用空闲资源,导致其它队列无法使用这些空闲资源,这就是”弹性队列”需要权衡的地方。
3. Fair Scheduler
Fair调度器的设计目标是为所有的应用分配公平的资源(对公平的定义可以通过参数来设置)。举个例子,假设有两个用户A和B,他们分别拥有一个队列。当A启动一个job而B没有任务时,A会获得全部集群资源;当B启动一个job后,A的job会继续运行,不过一会儿之后两个任务会各自获得一半的集群资源。如果此时B再启动第二个job并且其它job还在运行,则它将会和B的第一个job共享B这个队列的资源,也就是B的两个job会用于四分之一的集群资源,而A的job仍然用于集群一半的资源,结果就是资源最终在两个用户之间平等的共享。