分布式资源调度系统 YARN
来源:互联网 发布:淘宝店铺怎么看退货率 编辑:程序博客网 时间:2024/05/21 22:56
文章地址:http://www.haha174.top/article/details/259707
1.YARN产生背景
1. hadoop 1.x 时:
MapReduce:Master/Slave 架构 1个JobTracker带多个TaskTracker
JobTracker: 负责 资源调度和作业调度
TaskTracker: 定期向jt 汇报本节点的健康状况、资源使用、作业执行的情况;
接收来自JT的命令启动任务和杀死任务。
MapReduce1.X 存在的问题: 单点故障 & 节点压力大不易扩展
架构图:
2.YARM的诞生
YARM: 不同的计算框架,可以共享一个hdfs 集群上的数据,享受整体的资源调度。
XXX on YARN 与其他计算框架共享集群资源,按需分配进而提高集群资源的利用率。
XXX Spark/MabReduce/……
架构图:
3.YARM的概述
架构:
1)ResourceManager :RM
整个集群提供服务的RM只有一个,负责集群资源的统一管理个调度,处理客户端的请求:提交一个作业,杀死一个作业、监控NodeManager ,一旦NM 挂啦 需求告诉AM进行如何处理
2)NodeManager :NM
1.整个集群中有多个,负责单个节点的资源管理和使用
2.定时向RM汇报节点的资源使用情况
3.接收并处理来自RM的命令启动Container
4.处理来自AM的命令
3)ApplicationManager:AM
负责应用程序的管理、为应用程序申请资源,分配给task
需要与NM通信启动/停止task,AM 和task运行在Container
4)Container:
封装了CPU,Memory的容器。
是一个任务运行环境的抽象
5)Client:
提交作业
查看作业的进度
杀死作业
4.YARN 的执行流程
如下图:
5.YARN 环境搭建
1)mapred-site.xml
<property><name>mapreduce.framework.name</name><value>yarn<value></property>
2)yarn-site.xml
<property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle<value></property>
3)启动yarn
start-yarn.sh 在sbin 目录下执行脚本启动yarn
可以通过jps 或者浏览器查看是否启动成功
jps
浏览器:
http://192.168.1.223:8088/cluster (192.168.1.223 虚拟机ip)
6.提交作业到YARN上运行
这里直接使用hadoop提供的一个MapReduce的example运行
在hadoop 安装目录 cd share/hadoop/mapreduce
ls 查看一下
有个 hadoop-mapreduce-examples-2.9.0.jar 这个是hadoop提供的一个例子。
使用命令 hadoop jar 执行 假设我们来计算PI(3.14…. 那个)
如下:
hadoop jar hadoop-mapreduce-examples-2.9.0.jar pi 2 3
http://192.168.1.223:8088/cluster 可以在 页面检测运行 状态
可以在控制台查看结果 :
- 分布式资源调度系统 YARN
- 分布式调度系统01-yarn
- Yarn 资源调度策略
- Yarn 资源调度器
- YARN资源调度策略
- 资源调度框架YARN
- Yarn资源调度策略
- yarn 资源调度问题排查
- Yarn的原理与资源调度
- Yarn的原理与资源调度
- yarn中资源调度fair schedule详解
- Spark on Yarn资源调度源码解析
- YARN资源调度策略之Capacity Scheduler
- Yarn的原理与资源调度
- Hadoop2.x 资源调度框架Yarn
- YARN应用场景、原理与资源调度
- 一张图熟知yarn资源调度流程
- Yarn的资源调度与erlang进程调度二三事
- 2017.12.16江苏开璇智能科技有限公司
- 51nod 1245 Binomial Coefficients Revenge kummer定理+数位dp
- 波动序列
- 在阿里云ECS里安装Windows 7 32位中文版
- android自定义View之仿通讯录侧边栏滑动,实现A-Z字母检索
- 分布式资源调度系统 YARN
- css基础———box-sizing—标准盒模型&怪异盒模型
- AutoCAD .Net EntityJig – Jig Line by Start and End Points
- rabbitmq--延时队列
- JavaScript 开发者:最喜欢 React,Vue.js 比 Angular 更值得尝试 | 2017 JS 调查报告
- 【kafka】kafka安装配置以及遇到的问题
- Core2.0_EF_DbFirst的安装
- 【智能零售】60页实地调研报告诉你,零售老板从哪里打响逆袭第一枪?
- 【共享经济】披着共享经济外衣的租赁经济