欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 文旅 > 文化 > Hadoop3:Yarn框架的三种调度算法

Hadoop3:Yarn框架的三种调度算法

2024/10/24 19:13:29 来源:https://blog.csdn.net/Brave_heart4pzj/article/details/139992369  浏览:    关键词:Hadoop3:Yarn框架的三种调度算法

一、概述

目前,Hadoop作业调度器主要有三种:FIFO、容量(Capacity Scheduler)和公平(Fair Scheduler)Apache Hadoop3.1.3默认的资源调度器是Capacity Scheduler
CDH框架默认调度器是Fair Scheduler

配置:yarn-default.xml

<property><description>The class to use as the resource scheduler.</description><name>yarn.resourcemanager.scheduler.class</name>
<value>org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler</value>
</property>

二、先进先出调度器(FIFO)

算法逻辑:单队列,根据提交作业的先后顺序,先来先服务。
在这里插入图片描述
生产环境中基本不用

三、容量调度器(Capacity Scheduler)[重点]

Capacity SchedulerYahoo开发的多用户调度器。
在这里插入图片描述

案例说明

在这里插入图片描述

四、公平调度器(Fair Schedulere)

Fair SchedulereFacebook开发的多用户调度器。
在这里插入图片描述

缺额

在这里插入图片描述
比如,一个任务,应获得的资源是10G内存,但是,实际分配到的只有6G内存,所以,缺额为4G

DRF策略

在这里插入图片描述

Fair策略

在这里插入图片描述

案例说明

在这里插入图片描述在这里插入图片描述

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com