Hadoop2.7.1 eclipse plugin Install

来源:互联网 发布:小非农数据 编辑:程序博客网 时间:2024/05/16 19:07

在eclipse 中安装Hadoop插件用了很长时间,所以仅以此文来纪念那些被浪费的时间....

此文默认Hadoop2.7.1已安装成功。


一、开发环境

Hadoop2.7.1(Host Ip 192.168.80.19 ,  uname: zzchun)

eclipse-mars-4.5.1

(下载地址:http://ftp.yzu.edu.tw/eclipse/technology/epp/downloads/release/mars/1/eclipse-jee-mars-1-win32-x86_64.zip)


二、准备资料,包括Hadoop插件和一些需要的文件

链接:http://pan.baidu.com/s/1hqNSUBM 密码:gyn7


三、插件配置

       1、使用二中下载文件,将hadoop-eclipse-plugin-2.7.1.jar放到Eclipse的plugins目录下,重新启动Eclipse,这里的eclipse版本必须是JavaEE的。

    


2、设置Hadoop的安装路径(这里实际为Hadoop的解压路径),windows—>preferences—>Hadoop Map/Reduce 

   

3、添加mapreduce view, window/show view/ MapReduce Tools,然后选择Map/Reduce Locations,在Hadoop location视图中右键New Hadoop Location,添加Hadoop的相关信息,如下图所示。其中,Host为Hadoop所在主机IP(从左到右分别与mapreduce-site.xml,core-site.xml相同,默认为9001和9000),用户名设立必须是服务器的用户名。

   


4、连接上后,会在DFS下显示HDFS的文件信息,到这里说明成功了一半了,可以在这里对HDFS进行简单操作,如创建文件夹,上传、下载文件等。


5、设置环境变量HADOOP_HOME,PATH下面添加%HADOOP_HOME%\bin

 

 

6、 将在第二步中下载的以下几个文件hadoop.dll,winutils.exe(全部)放到%HADOOP_HOME%\bin目录下面。

7、将hadoop.dll放到C:\Windows\System32下面(可能要重启电脑,本次配置过程没有重启,也可以执行程序)。


8、启动%HADOOP_HOME%\bin下面的winutils.exe,若没有报错那么恭喜你,如果有问题,也不用着急,主要可能是缺少.dll文件,根据错误信息找度娘解决,此处不作详细介绍。


9、测试WordCount程序

 创建mapreduce工程,这里会自动把对应的jar都导入到工程中。然后将hdfs-site.xml,core-site.xml,log4j.properties文件copy到src目录下面。

10、在run configuration里面添加输入和输出目录,input output,然后便可以执行该程序。还可以通过,run on hadoop的方式来执行程序。

11、可能出现的问题org.apache.hadoop.security.AccessControlException:Permissiondenied:user=zhengcy,access=WRITE,inode="/user/root/output":root:supergroup:drwxr-xr-x

解决方案:在etc/hadoop下的hdfs-site.xml添加
  <property> 
      <name>dfs.permissions</name> 
      <value>false</value> 
  </property>

 设置没有权限,不过在正式的服务器上不能这样设置。


     12、若在配置过程中遇到其它问题,请参考一下博客进行配置
http://www.bkjia.com/ASPjc/931209.html


最后,祝各位配置顺利~

2 0