windows10(64x)平台下eclipse里运行hadoop2.2程序
来源:互联网 发布:ip8823网络广播终端 编辑:程序博客网 时间:2024/06/07 16:46
今天总算可以抛开黑漆漆的linux系统,以可视界面运行hadoop了。おめでとうO(∩_∩)O
中间虽然也报了很多异常erro,包括 缺少winutils.exe,没有输入路径等问题,不过一个一个解决了,最后整理出这样一份环境配置手册。
1、连接hadoop的hdfs
a.将hadoop-eclipse-plugin-2.2.0.jar放入eclipse的plugin中,重新启动eclipse
b.进入eclipse,连接hdfs。 连接部分和效果部分如下。注意map/reduced对应mapred-site.xml文件,dfs master对应core-site.xml
c.配置下面的路径,目的是将所有的hadoop-jar包导入工程中 注:该文件由来是linux-hadoop环境里配置好的hadoop文件夹拷贝到windows本机
2、配置windows大环境
将hadoop-common-2.2.0-bin-master.zip解压,(下载地址:http://download.csdn.net/detail/luoyepiaoxin/88600290)
配置环境变量,增加变量HADOOP_HOME,值是下载的zip包解压的目录,然后在系统变量path里增加$HADOOP_HOME\bin 即可。
3、新建mapreduce工程(wordcount为例)
a.创建log4j.properties文件
在src目录下创建log4j.properties文件,内容如下:
log4j.rootLogger=debug,stdout,R
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%5p - %m%n
log4j.appender.R=org.apache.log4j.RollingFileAppender
log4j.appender.R.File=mapreduce_test.log
log4j.appender.R.MaxFileSize=1MB
log4j.appender.R.MaxBackupIndex=1
log4j.appender.R.layout=org.apache.log4j.PatternLayout
log4j.appender.R.layout.ConversionPattern=%p %t %c - %m%n
log4j.logger.com.codefutures=DEBUG
b.拷贝wordcount源码到wordcount.java中
c.点击WordCount.java,右键,点击Run As—>Run Configurations,配置运行参数,即输入和输出文件夹
hdfs://hadoopm:8010/data/wordcount
hdfs://hadoopm:8010/output1 (其中output1为hdfs里原本没有的文件)
路径就是连接的dfs的路径,上图可供参考
最后run on hadoop即可~♪(^∇^*)
可以查看dfs文件,看运行结果
- windows10(64x)平台下eclipse里运行hadoop2.2程序
- hadoop2.x job Eclipse下只运行在local上
- 在Eclipse下运行Heritrix3.2.0(环境windows10 64位)
- mac电脑的eclipse把mapreduce程序提交到hadoop2.x集群虚拟机上运行
- Eclipse调用hadoop2运行MR程序
- Eclipse调用hadoop2运行MR程序
- Eclipse调用hadoop2运行MR程序
- Hadoop2.x eclipse下编程环境配置
- windows下使用Eclipse编译运行MapReduce程序 Hadoop2.6.0/Ubuntu
- Windows下使用eclipse编译打包运行自己的MapReduce程序 Hadoop2.6.0
- 在windows10下通过Eclipse远程运行wordCount
- 配置Hadoop2.x的HDFS、MapReduce来运行WordCount程序
- Windows10 Pro 下 Hadoop2.7.3 编译心得
- hadoop2.x入门:在windows上用Eclipse编写程序
- Hadoop — 使用Eclipse编译运行MapReduce程序(Hadoop2.6.0)
- 创建编译运行MapReduce程序(Eclipse+Ubuntu14.04+Hadoop2.7.2)
- hadoop2.2.0配置eclipse运行wordcount程序问题及解决方法
- 使用Eclipse编译运行MapReduce程序 Hadoop2.6.0/Ubuntu
- HDU 2075 A|B?
- [日常记录]Caused by
- Http协议相关知识
- 返品について
- java中"\t"的显示问题
- windows10(64x)平台下eclipse里运行hadoop2.2程序
- 1s定时器
- C语言克鲁斯卡尔算法的实现
- No module named _tkinter
- 0120
- Android Permission大全
- 数据字典
- php魔术方法__invoke
- Unity3D Android视频播放插件