Mapreduce(二):MR的执行过程分析

来源:互联网 发布:成都姣美网络 编辑:程序博客网 时间:2024/06/05 08:04

1.MR的作业执行流程图

       

        (1).客户端提交一个mr的jar包给JobClient(提交方式:hadoop jar ...)


(2).JobClient通过RPC和JobTracker进行通信,返回一个存放jar包的地址(HDFS)和jobId


(3).client将jar包写入到HDFS当中(path = hdfs上的地址 + jobId)


(4).开始提交任务(任务的描述信息,不是jar, 包括jobid,jar存放的位置,配置信息等等)


(5).JobTracker进行初始化任务

        (6).读取HDFS上的要处理的文件,开始计算输入分片,每一个分片对应一个MapperTask


(7).TaskTracker通过心跳机制领取任务(任务的描述信息)


(8).下载所需的jar,配置文件等


(9).TaskTracker启动一个java child子进程,用来执行具体的任务(MapperTask或ReducerTask)


(10).将结果写入到HDFS当中

0 0
原创粉丝点击