hadoop 源代码阅读(一 环境准备)
来源:互联网 发布:mac电脑铃声剪辑软件 编辑:程序博客网 时间:2024/06/06 04:01
hadoop 是apache开源用于分布式计算与存储的顶级项目。其核心主要包括HDFS分布式存储以及map-reduce 分布式计算,由于本人一直在工作中使用hadoop,对hadoop的内部实现比较感兴趣,故打算把自己分析hadoop源码的心得通过博客与大家分享下。
1) 首先下载一个hadoop版本,由于hadoop目前存在多个版本,有最新的hadoop2.0 beta,以及1.X,0.2x版本等,他们核心实现类似,为了方便阅读,我选择了比较经典的hadoop-0.20.2版本。下载地址:http://archive.apache.org/dist/hadoop/core/hadoop-0.20.2/ 选择 hadoop-0.20.2.tar.gz进行下载。
解压后目录结构如下:
bin 目录是hadoop的启动以及停止脚本:
conf目录为hadoop配置文件目录:
src目录为hadoop源代码目录,lib为jar包依赖
打开eclipse 新建hadoop project,讲src下的代码copy到项目src下 lib conf也复制进来:
最终代码结构如下:
首先 我们从bin目录开始,因为hadoop启动脚本为bin/start-all.sh
我们可以看到start-all 分别调用了hadoop-config.sh, start-dfs.sh 以及start-mapred.sh.
其中hadoop-config.sh初始化系统配置文件,
- hadoop 源代码阅读(一 环境准备)
- 1.2 准备源代码阅读环境
- hadoop环境搭建(一)环境准备
- 搭建Hadoop源代码阅读环境
- hadoop实践(一)环境准备
- hadoop(一) - 环境安装准备
- Hadoop入门进阶步步高(一)-环境准备
- Hadoop学习之路(一)环境准备
- Hadoop源码阅读准备
- 1.3 准备Hadoop源代码
- Hadoop从入门到精通 (一):Hadoop环境搭建准备
- qlwm源代码阅读(一)
- 手把手教你阅读Hadoop源代码0.21、0.22+总体了解(一)
- Hadoop源码阅读(一)
- hadoop 环境准备
- hadoop环境准备
- Hadoop源代码分析(一)
- Hadoop源代码分析(一)
- Android Expansion 总结
- 树链剖分 模板
- 虚拟网卡及网卡聚合
- android ril 调试分析
- UDT::recv 函数
- hadoop 源代码阅读(一 环境准备)
- 为什么很多人说 Java 不适合编写桌面应用?
- 函数
- Understanding and using c pointers 第四章读书笔记
- 飞思卡尔感悟
- POJ 2686 Traveling by Stagecoach 壮压DP
- RIL 调试log
- GRE计划
- poj 3259 (Bellman_Ford判断负环)