使用mave开发mapreduce
来源:互联网 发布:西安行知中学是83中吗 编辑:程序博客网 时间:2024/06/09 18:44
1.安装mvn(可以省略)
1.1上传安装包到linux
1.2解压maven安装包
mkdir /usr/maven
tar -zxvf apache-maven-3.2.1-bin.tar.gz -C /usr/maven
1.3添加maven到环境变量
vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.7.0_55
export MAVEN_HOME=/usr/maven/apache-maven-3.2.1
export HADOOP_HOME=/cloud/hadoop-2.4.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$MAVEN_HOME/bin:.
2.将m2.tar.gz解压到当前用户的家目录下
tar -zxvf m2.tar.gz -C ~/
3.在Eclipse下新建maven project,如果出错,在当前项目的pom.xml中添加如下内容,刷新即可(需要有网络)
<dependencies>
<dependency>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-resources-plugin</artifactId>
<version>2.4.3</version>
</dependency>
</dependencies>
4.编写hadoop程序
hdfs程序需要引入依赖:
<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.8.2</version>
<scope>test</scope>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.4.1</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-hdfs</artifactId>
<version>2.4.1</version>
</dependency>
</dependencies>
mr程序需要引入依赖:
<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.8.2</version>
<scope>test</scope>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.4.1</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-mapreduce-client-core</artifactId>
<version>2.4.1</version>
</dependency>
</dependencies>
1.1上传安装包到linux
1.2解压maven安装包
mkdir /usr/maven
tar -zxvf apache-maven-3.2.1-bin.tar.gz -C /usr/maven
1.3添加maven到环境变量
vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.7.0_55
export MAVEN_HOME=/usr/maven/apache-maven-3.2.1
export HADOOP_HOME=/cloud/hadoop-2.4.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$MAVEN_HOME/bin:.
2.将m2.tar.gz解压到当前用户的家目录下
tar -zxvf m2.tar.gz -C ~/
3.在Eclipse下新建maven project,如果出错,在当前项目的pom.xml中添加如下内容,刷新即可(需要有网络)
<dependencies>
<dependency>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-resources-plugin</artifactId>
<version>2.4.3</version>
</dependency>
</dependencies>
4.编写hadoop程序
hdfs程序需要引入依赖:
<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.8.2</version>
<scope>test</scope>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.4.1</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-hdfs</artifactId>
<version>2.4.1</version>
</dependency>
</dependencies>
mr程序需要引入依赖:
<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.8.2</version>
<scope>test</scope>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.4.1</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-mapreduce-client-core</artifactId>
<version>2.4.1</version>
</dependency>
</dependencies>
0 0
- 使用mave开发mapreduce
- mave使用私有仓库
- mave 学习,项目使用
- mave
- 使用MapReduce开发WordCount应用程序
- mave,spring,redis使用小总结
- centos下使用eclipse开发mapreduce
- 使用maven开发hadoop的mapreduce应用
- MapReduce基础开发之十一DistributedCache使用
- 在linux中使用eclipse开发mapreduce
- Hadoop(MapReduce)入门 使用Eclipse开发
- 使用mapreduce进行流量汇总程序开发
- Mave war
- 在Windows上使用Eclipse配置Hadoop MapReduce开发环境
- MapReduce基础开发之十二ChainMapper和ChainReducer使用
- mave插件的安装和使用maven创建项目详细解说
- 开发MapReduce程序
- MapReduce开发流程
- xdoj 1154: Nhywieza 的串
- "GIS讲堂"第七课内容公布
- 初学web前端-20170427
- [安卓基础]学习第三天
- k-近邻
- 使用mave开发mapreduce
- xdoj 1151: 万神的方程
- Add Two Numbers
- 面向对象程序设计与分析--ATM机系统
- OJ中出现WA的小结
- 如何解决ajax跨域问题
- AndroidBitmap图片拷贝
- Dubbo与Zookeeper视频教程分布式架构+第三方支付
- PHP解决网站大数据大流量与高并发