YARN的区别
来源:互联网 发布:淘宝买东西寄到英国 编辑:程序博客网 时间:2024/05/17 10:29
因为日益增长的数据规模,导致了mapreduce1.x的局限性开始凸显,编程模型和资源管理过于密集,迫使开发者滥用mapreduce编程模型,并且中心化的控制也影响了系统的可扩展性;,所以Arun设计了handoop 2.x架构来修复mapreduce1.x的局限性;
增强了可扩展性:1.x中,jobtracker同时负责资源管理和作业控制,YARN则分成两个独立的程序即全局资源管理(ResourceManager)和针对每个应用的应用Master(ApplicationMaster)
同时YARN还支持不同的编程模型如Spark,Storm,Tez等;
可靠性:JobTracker和HDFS的namenode存在单点故障,以YARN为资源管理系统使得hadoop不再局限于MapReduce计算,而支持多样化的计算框架,提高了计算能力的可靠性;
资源利用率:hadoop1.x中资源管理是由资源表示模型和资源分配模型组成,采用了基于槽位(Slot)的粗粒度资源划分,这种划分过于粗糙,而且资源之间的隔离是靠JVM的隔离机制;这种机制还不是真正的资源隔离,所以会导致同一节点上的任务之间严重并造成资源浪费;而YARN是靠ResourceManager和NodeManager共同完成资源管理;其中ResourceManager中的调度器负责资源的分配;NodeManager负责资源的攻击和隔离,资源的分配不再基于slot的粗粒度划分,而是直接让任务直接向调度器申请自己所需要的资源,提高了资源的利用率;NodeManager按照需求为任务模块提供相应的资源并保证资源的独占,为任务运行提供基本保证,提供隔离;
- YARN的区别
- Yarn-cluster 与 Yarn-client的区别
- yarn-client、yarn-cluster 的区别
- YARN与MapReduce的区别
- Spark-submit模式yarn-cluster和yarn-client的区别
- Spark下Yarn-Cluster和Yarn-Client的区别
- Spark on yarn和Hadoop on yarn的区别
- Yarn框架的详解,MRv1的区别
- mesos和yarn区别
- mesos和yarn区别
- YARN-02-YARN的框架
- Hadoop、MapReduce、YARN和Spark的区别与联系
- 分析spark on yarn cluster 与 client 模式的区别
- spark on yarn cluster 与 client 模式的区别
- 一文看懂npm、yarn、pnpm之间的区别
- spark on yarn中yarn-cluster与yarn-client区别
- yarn学习心得 yarn上的程序开发
- Spark:Yarn-cluster和Yarn-client区别与联系
- 版本管理之gitlab实践教程:基础篇(3)
- POJ 2633 Funny Games 笔记
- servlet
- 7月水题集锦
- 转:一位资深程序员大牛给予Java初学者的学习路线建议
- YARN的区别
- HTML+CSS编写静态网站-26 创建画册样式
- c++学习笔记----malloc函数
- 二分查找
- “fullLoad” app(一)之介绍
- 拓扑排序的原理及其实现
- CodeForces 442A Borya and Hanabi
- c++学习笔记-----const指针
- 【Linux C/C++】 第09讲 HTTP协议与浏览器显示网页