MapReduce源码分析之Eclipse中的代码如何提交给JobTracker
来源:互联网 发布:腾讯软件恶意绑定 编辑:程序博客网 时间:2024/06/06 11:04
我们在Eclipse中的代码是如何提交给JobTracker运行的呢,本文在源码级别给予详述,
博文风格依旧,重图轻文易理解,哈哈,开始啦
本文使用的hadoop版本是hadoop-1.1.2,各位看客注意哟
Firstly,找到源码分析的激活点:
没错,就是它——job.waitForCompletion(true),一切从它入手,下面就闲话少说,快快上图...
使用Eclipse强大的源码分析功能,直接跟踪进去,下面是每次跟踪的结果截图
首先,跟踪上图中的“1”,跟踪到
类JobClient的构造函数:
连接到服务端(JobTracker),并创建了JobTracker的代理对象后。跟踪上图中的“2”,可跟踪到
上图方法submitJobInternal() 的第983行,关键代码:
跟踪“1“”2”,终得结果。可以看出,最终是类JobClient通过RPC机制(Hadoop集群间通信,机架感知,怎能没有它?)调用了类JobTracker的submitJob()提交作业方法,实现了Eclipse中的代码提交给JobTracker。
下面是源码分析过程中,非常重要的类,给予简单介绍
JobTracker
负责接收用户提交的作业,负责启动、跟踪任务执行。
注意通信接口:
JobSubmissionProtocol 是JobClient与JobTracker通信的接口。
InterTrackerProtocol 是TaskTracker与JobTracker通信的接口。
TaskTracker
负责执行任务。
JobClient
是用户作业与JobTracker交互的主要接口。
负责提交作业的,负责启动、跟踪任务执行、访问任务状态和日志等。
O了,截图整理略有不易,如若转载,请注明http://blog.csdn.net/aaronhadoop
0 0
- MapReduce源码分析之Eclipse中的代码如何提交给JobTracker
- mapreduce源码分析之JobTracker
- MapReduce源码解读系列之——作业如何提交到JobTracker
- 学习总结八:在eclipse中的写的代码如何提交作业到JobTracker中的?
- Hadoop之JobTracker源码分析
- 代码如何提交到JobTracker的?
- hadoop 源码分析(一) jobClient 提交到JobTracker
- MapReduce作业提交源码分析
- mapreduce提交job源码分析
- MapReduce源码分析之MapReduce如何读取、解析输入文件
- MapReduce(六): 向JobTracker提交任务
- Hadoop源码之JobTracker
- Hadoop源码之JobTracker
- mapreduce源码分析作业提交、初始化、分配、计算过程之提交篇
- mapreduce中jobtracker进程的分析
- 如何提交代码给openstack
- 如何提交代码给openstack
- Hadoop JobTracker提交job源码浅析
- 利用鼠标实现画图功能 java
- 地址有关码和地址无关码
- cuda优化-展开循环
- 第6周作业-图像缩放显示
- 软件开发文档范例
- MapReduce源码分析之Eclipse中的代码如何提交给JobTracker
- PHP遍历数组效率分析
- PDF如何转换成Word
- 结构体位域操作
- OCP-1Z0-051 第8题 子查询和多表关联查询和情况
- 设置 Linux 的 LD_LIBRARY_PATH 变量
- 关于.NET编译的目标平台(AnyCPU,x86,x64)
- IOS获取图片方法,避免内存过大闪退
- 实现一个可限制最大连接数的Proactor服务器