大数据学习笔记:Hadoop中的IPC与RPC
来源:互联网 发布:百度云传智播客java 编辑:程序博客网 时间:2024/05/18 15:51
还记得入口程序中等待job完成的那一行代码吗:
job.waitForCompletion(true);在Job类中找到其源码,发现它调用了submit()方法:
if (state == JobState.DEFINE) { submit();}再往上追溯,submit()返回了一个调用submitJobInternal()方法的JobSubmitter类型变量:
return submitter.submitJobInternal(Job.this, cluster);进入JobSubmitter类,找到submitJobInternal()方法,正真提交作业在代码片的末尾:
// Now, actually submit the job (using the submit name)printTokens(jobId, job.getCredentials());status = submitClient.submitJob(jobId, submitJobDir.toString(), job.getCredentials());而submitJob()方法属于ClientProtocol接口:
其具体实现类为:
实际上Hadoop的通信模型大致如下:最底层为socket套接字 ,由JDK的NIO功能将其转为异步方式的通信,客户端与服务器以字节流的形式传输数据协议采用的是谷歌的ProtobufRpcEngine。
IPC建立在RPC之上,RPC会将IPC协议的header与massage进行打包封装,然后发送给远程节点。
阅读全文
0 0
- 大数据学习笔记:Hadoop中的IPC与RPC
- 大数据与Hadoop简单入门[学习笔记]
- Hadoop大数据平台架构与实践学习笔记
- hadoop IPC/RPC 机制
- hadoop ipc.RPC
- Hadoop学习笔记之RPC
- 大数据学习-hadoop -第三课附加- hadoop RPC源码分析
- 大数据之hadoop[MapReduce]学习 笔记
- 大数据-Hadoop学习笔记01
- 大数据-Hadoop学习笔记02
- 大数据-Hadoop学习笔记03
- 大数据-Hadoop学习笔记04
- 大数据-Hadoop学习笔记05
- 大数据-Hadoop学习笔记07
- 大数据-Hadoop学习笔记08
- 大数据-Hadoop学习笔记09
- 大数据-Hadoop学习笔记10
- ipc,hadoop RPC,java RMI
- 扑克牌的顺子
- PHP 5 Array 函数
- Mysql主从数据库配置详解
- Unity3D面试题
- FZU
- 大数据学习笔记:Hadoop中的IPC与RPC
- mime-type与content-type
- 实现字符串反转
- PHP 5 Calendar 函数
- 电脑挑选注意事项
- 理清gcc、libc、libstdc++的关系
- thinkPHP 怎么修改数据库的一个值,连贯操作,或者修改指定的值,在原来的基础上增添值
- 代码巧用
- inode以及软硬链接