Myeclipse 的hadoop环境搭建

来源:互联网 发布:seo by yoast 编辑:程序博客网 时间:2024/06/02 03:35

Windows 下配置 MyEclipse 连接 linux下 Hadoop 完全分布式集群 开发环境


环境及配置:

MYEclipse 8以上版本(window)

Hadoop Eclipse插件

插件包 hadoop-eclipse-plugin-x.x.x.jar 根据自己使用的hadoop版本选择对应的插件包


LINUX下hadoop完全分布式安装

略(自己可以上网找,有很多教程)


1)插件安装:(MyEclipse x.x)
将插件包 hadoop-eclipse-plugin-x.x.x.jar 放到 MyEclipse-x.x/dropins 下,并删除 MyEclipse-x.x\configuration 下的 org.eclipse.update 文件夹,(myeclipse 10版本下update删不删都行),重启MyEclipse



2)配置 MyEclipse Hadoop
点击window->preference,配置 Hadoop-MapReduce的路径(要解压后的hadoop)


图是我网上随便找的


三 选择Windows->show view->others下的MapReduce Locations




三 选择Windows->show view->others下的MapReduce Locations



4)选择Map/reduce Location标签,点击标签最右边的大象图标,即齿轮图标右侧的大象图标,打开参数设置页面。

 

注意:用红色框标注的参数设置一定要正确,

首先,Location name设置为linux的主机名,可以用hostname查看。Host为linux主机用户名。(可随便写)

左边的PortMapReduce的端口号,之前在linux下配置Hadoop的conf下mapred-site.xml文件已经配过了,按照配置的端口号配置就可以了。

右边的为hdfs的端口号,在linux下配置Hadoop的conf下core-site.xml文件已经配过了。配置完后点finish。

user name : 这个是重点,要与linux的用户一致,我当初创建的就是master,slave0,slave1都是hadoop用户创建的,所以这块写hadoop,有的人用root创建的就写root。


5)接着点击Advanced parameters,从中找到hadoop.tmp.dir,修改为Hadoop集群core-site.xml中配置的值。


6)接着在Advanced parameters中配置dfs.permssions,修改为false,与Hadoop集群【hdfs-site.xml】中配置的一致;将dfs.replication的值改为1.



其他需要更改的配置信息,可以看hadoop-conf下的配置信息,保持与Advanced parameters 一致就行。

Advanced parameters很长的右侧有滚动条


点击 window->Open Perspective->other 选择 Map/Reduce,OK
myeclipse和Hadoop插件配置

7)配置完成后,若在Project Explorer中出现如下信息,这表明配置成功

配置中后如果没有出现上图
Cannot connect to the Map/Reduce location: Hadoop…….
则需要把core-site.xml和mapred-site.xml里面写成ip而不是localhost

新建工程-选other-有map/reduce  就创建成功了。自带hadoop包