hadoop——配置eclipse下的map-reduce运行环境
来源:互联网 发布:怎样加入淘宝网全球购 编辑:程序博客网 时间:2024/06/05 19:02
1.通过修改实例模板程序来实现自己的map-reduce:
为了让示例程序run起来:
1)安装eclipse
2)安装map-reduce的eclipse插件
eclipse的map-reduce插件可以很方便的创建hadoop项目(自动导入所依赖的map-reduce jar包)和打开map-reduce视图(在里面可以像查看本机文件系统一样直观的看到hdfs文件系统的结构)
安装详细步骤:
i)查找eclipse的安装路径:
$:whereis eclipse
1.通过修改实例模板程序来实现自己的map-reduce:
为了让示例程序run起来:
1)安装eclipse
2)安装map-reduce的eclipse插件
eclipse的map-reduce插件可以很方便的创建hadoop项目(自动导入所依赖的map-reduce jar包)和打开map-reduce视图(在里面可以像查看本机文件系统一样直观的看到hdfs文件系统的结构)
安装详细步骤:
i)查找eclipse的安装路径:
$:whereis eclipse
显然,我们的eclipse安装在/usr/lib/eclipse下,
将map-reduce的eclipse插件copy到/usr/lib/eclipse/plugins目录下:
sudo cp -rf [插件名称] /usr/lib/eclipse/plugins
ii)重启eclipse
iii)配置eclipse中map-reduce插件的设置:
在eclipse-window-preference中,配置当前hadoop的安装路径(eclispe会自动搜索路径下的jar包)
(IV)开启eclipse map-reduce视图:
window View中选择other view,选择map-reduce
(V)开启后,在eclispe的下边栏目中可以看到map-reduce的配置:
(VI)右键,点击配置hadoop的位置:
特别注意:这里的配置要与hadoop的配置文件一样:
Map/Reduce Master的配置在${HADOOP_HOME}/etc/hadoop/map-red.site文件中:
我的配置是:
DFS master的配置在
${HADOOP_HOME}/etc/hadoop/core-site.xml
我的配置是:
由于我配置的是伪分布式,因此map-red master和hdfs master位置都是localhost,将以上配置填入eclipse后确定,就可以在项目栏中看到:
我们可以方便的查看和下载上传本地文件到hdfs中
至此,hadoop map-reduce的eclispe开发环境已经搭建完成。
附件:
1)示例模板程序:
2)map-reduce eclipse插件下载
百度云盘: http://pan.baidu.com/s/1nt5jqyt
为了让示例程序run起来:
1)安装eclipse
2)安装map-reduce的eclipse插件
eclipse的map-reduce插件可以很方便的创建hadoop项目(自动导入所依赖的map-reduce jar包)和打开map-reduce视图(在里面可以像查看本机文件系统一样直观的看到hdfs文件系统的结构)
安装详细步骤:
i)查找eclipse的安装路径:
$:whereis eclipse
显然,我们的eclipse安装在/usr/lib/eclipse下,
将map-reduce的eclipse插件copy到/usr/lib/eclipse/plugins目录下:
sudo cp -rf [插件名称] /usr/lib/eclipse/plugins
ii)重启eclipse
iii)配置eclipse中map-reduce插件的设置:
在eclipse-window-preference中,配置当前hadoop的安装路径(eclispe会自动搜索路径下的jar包)
(IV)开启eclipse map-reduce视图:
window View中选择other view,选择map-reduce
(V)开启后,在eclispe的下边栏目中可以看到map-reduce的配置:
(VI)右键,点击配置hadoop的位置:
特别注意:这里的配置要与hadoop的配置文件一样:
Map/Reduce Master的配置在${HADOOP_HOME}/etc/hadoop/map-red.site文件中:
我的配置是:
DFS master的配置在
${HADOOP_HOME}/etc/hadoop/core-site.xml
我的配置是:
由于我配置的是伪分布式,因此map-red master和hdfs master位置都是localhost,将以上配置填入eclipse后确定,就可以在项目栏中看到:
我们可以方便的查看和下载上传本地文件到hdfs中
至此,hadoop map-reduce的eclispe开发环境已经搭建完成。
附件:
1)示例模板程序:
2)map-reduce eclipse插件下载
百度云盘: http://pan.baidu.com/s/1nt5jqyt
0 0
- hadoop——配置eclipse下的map-reduce运行环境
- 云计算Hadoop配置(四)——Eclipse中搭建Map-reduce开发环境
- hadoop——在命令行下编译并运行map-reduce程序
- Windows xp 环境下通过MyEclipse运行hadoop map reduce程序
- hadoop下的Map-Reduce最高温度例子
- Linux下配置Eclipse、hadoop的运行
- eclipse下的plugins导入hadoop-eclipse-plugin-2.7.1.jar,Preference下没有hadoop Map/Reduce的解决方法
- mac下配置eclipse的hadoop环境
- eclipse中配置hadoop开发环境-----删除之前版本的hadoop插件、编译hadoop eclipse插件、安装插件、eclipse下运行hadoop程序
- hadoop节点运行的reduce和map任务数
- Eclipse下配置hadoop环境
- hadoop学习6 运行map reduce出错
- windows下Eclipse的Hadoop运行调试环境搭建
- Hadoop :Map/Reduce的理解
- Hadoop Map/Reduce的工作流
- Hadoop平台的map-reduce
- Hadoop的Map-Shuffle-Reduce
- 配置Disco——基于erlang的map-reduce架构
- hadoop-运行WordCount实例
- sakila-dwh-schema文件
- how-old.net告诉我们,得民心者得天下
- Django学习笔记(1):初会Django
- 字节码资料2:
- hadoop——配置eclipse下的map-reduce运行环境
- 关于startActivityForResult()
- 问题提出:Java为什么可以跨平台???
- cuda初学-02(大部分转载,小部分总结)
- 黑马程序员-----------JAVA基础-------异常机制
- hadoop——在命令行下编译并运行map-reduce程序
- RequireJS进阶(一)
- Vector的用法和操作
- javascript设计模式理论和示例深入分析(上)