Spark学习(二)-Spark的相关概念
来源:互联网 发布:百度地图js api ios10 编辑:程序博客网 时间:2024/06/08 09:04
学习Spark,有几个重要的术语需要弄清楚。
- Application:用户在spark上构建的程序,包含了driver程序以及集群上的executors.
- Driver Program :运行main函数并且创建SparkContext的程序。 客户端的应用程序,DriverProgram类似于hadoop的wordcount程序的main函数。
- Cluster Manager 集群的资源管理器,在集群上获取资源的外部服务。 Such as Standalone、Mesos、Yarn。 拿Yarn举例,客户端程序会向Yarn申请计算我这个任务需要多少的内存,多少CPU,etc。 然后Cluster Manager会通过调度告诉客户端可以使用,然后客户端就可以把程序送到每个Worker Node上面去执行了。
- Worker Node: 集群中任何一个可以运行spark应用代码的节点。 Worker Node就是物理节点,可以在上面启动Executor进程。
- Executor: 在每个WorkerNode上为某应用启动的一个进程,该进程负责运行任务,并且负责将数据存在内存或者磁盘上,每个任务都有各自独立的Executor。
Executor是一个执行Task的容器。它的主要职责是:
1、初始化程序要执行的上下文SparkEnv,解决应用程序需要运行时的jar包的依赖,加载类。
2、同时还有一个ExecutorBackend向cluster
manager汇报当前的任务状态,这一方面有点类似hadoop的tasktracker和task。
总结:Executor是一个应用程序运行的监控和执行容器。 - Job: 包含很多task的并行计算,可以认为是Spark RDD 里面的action,每个action的计算会生成一个job。用户提交的Job会提交给DAGScheduler,Job会被分解成Stage和Task。
- Stage: 一个Job会被拆分为多组Task,每组任务被称为一个Stage就像Map Stage, Reduce Stage。
Stage的划分在RDD的论文中有详细的介绍,简单的说是以shuffle和result这两种类型来划分。在Spark中有两类task,一类是shuffleMapTask,一类是resultTask,第一类task的输出是shuffle所需数据,第二类task的输出是result,stage的划分也以此为依据,shuffle之前的所有变换是一个stage,shuffle之后的操作是另一个stage。stage的边界就是产生shuffle的地方 - Task 被送到executor上的工作单元。 Spark上分为2类task。
1.shuffleMapTask * A ShuffleMapTask divides the elements of an RDD into multiple buckets (based on a partitioner * specified in the ShuffleDependency).
2.resultTask * A task that sends back the output to the driver application. - Partition:Partition类似hadoop的Split,计算是以partition为单位进行的,当然partition的划分依据有很多,这是可以自己定义的,像HDFS文件,划分的方式就和MapReduce一样,以文件的block来划分不同的partition。总而言之,Spark的partition在概念上与hadoop中的split是相似的,提供了一种划分数据的方式。
附录:
RDD的一大卖点就是有依赖关系存储在每一个RDD里面,当某一个RDD计算的时候发现parent RDD的数据丢失了,那它就会从parent的parent RDD重新计算一遍以恢复出parent数据,如果一直没找到,那么就会找到根RDD,有可能是HadoopRDD,那么就会从HDFS上读出数据一步步恢复出来。当然如果完全找不到数据,那么就恢复不出来了。在论文中称之为RDD的lineage信息。
数据本地性是指:确定数据在哪个节点上,就到哪个节点上的Executor上去运行。
阅读全文
0 0
- Spark学习(二)-Spark的相关概念
- spark相关概念
- spark 并发度相关的一些概念
- Spark学习之一-Spark的概念机器发展简史
- Spark RDD概念学习系列之Spark的算子的分类(十一)
- (二)Spark学习系列
- Spark学习笔记(二)
- Spark机器学习的一些概念整理
- Spark学习之RDD的概念
- Spark学习笔记之-Spark常用概念
- Spark基础知识之概念<二>
- Spark机器学习(一)—Spark相关
- Spark的核心概念
- Spark-MLlib机器学习相关的数据类型
- Spark学习(二):使用Spark开发wordcount程序
- Spark学习之(二)Spark 集群环境搭建(standalone)
- Spark的使用方法(二)
- spark学习笔记二
- Kippo实现邮件通知抓到攻击者
- Android Framework学习笔记 -- Audio调节音量流程
- Linux 内核编译 LOCALVERSION 配置(分析内核版本号自动添加的"+"号)
- 进程间通信
- JAVA一些基础概念 火推
- Spark学习(二)-Spark的相关概念
- 在CentOS中添加Swap交换文件,防止内存不足时MYSQL崩溃
- iOS开发-dispatch_sync阻塞主线程造成死锁
- 学习二叉树
- VSS无法访问 (0x80072EFD) 转载
- Search in Rotated Sorted Array I
- 软件工程
- (三十)Snackbar 使用及其源码分析
- java邮件发送的简单实现