在hadoop框架中编译执行程序
来源:互联网 发布:手机陀螺仪校准软件 编辑:程序博客网 时间:2024/06/03 21:29
1、eclipse3.3+hadoop0.20.2搭建的开发环境,可以用来调试程序,其中,hadoop以伪分布式方式运行。当程序在单机的伪分布式情况下运行无误时,就要到真正的分布式环境中运行mapreduce程序了。 可能真正分布式hadoop平台使用的hadoop版本与调试环境下实用的hadoop版本不一样,那么就要先在hadoop框架中编译程序,打包成jar程序,再在hadoop命令行运行程序。
2、好在可以得到wordcount的源码,安装后它被放在src/examples/org/apache/hadoop/examples/WordCount.java 中。我们可以根据需要来修改它。首先我们建立一个playground的目录结构并复制这个程序。(在hadoop安装目录下)
mkdir playground
mkdir playground/src
mkdir playground/classes
cp src/examples/org/apache/hadoop/examples/WordCount.java playground/src/WordCount.java
在Hadoop框架中编译和执行这个副本:
javac -classpath hadoop-core-1.0.4.jar:lib/commons-cli-1.2.jar -d playground/classes playground/src/WordCount.java
-d [目标目录] 需要编译的源文件,可能有多个 .java文件
打包:
jar -cvf playground/WordCount.jar -C playground/classes/ .
注意:上面一行最后的点(“.”)不能丢
运行:
bin/hadoop jar playground/WordCount.jar org.apache.hadoop.examples.WordCount input output
jar文件 WordCount与java文件中的类名相同
- 在hadoop框架中编译执行程序
- java: 在程序中编译和执行java程序
- 如何在 Source Insight 中编译和执行Java 程序
- 在 Source Insight 中编译和执行Java 程序
- Hadoop中Map任务的执行框架
- Hadoop中Reduce任务的执行框架
- Hadoop中Reduce任务的执行框架
- Hadoop中Map任务的执行框架
- hadoop在执行过程中OutOfMemory
- ubuntu中C++程序编译执行
- emacs中c++程序编译执行
- 在cmd中编译执行java文件
- hdfs c程序在hadoop伪分布式执行问题
- 如何在百度云平台上执行Hadoop MapReduce程序
- 在Eclipse中运行一个Hadoop程序
- 在eclipse中运行hadoop程序
- 在Eclipse中运行hadoop程序
- 在Eclipse中运行hadoop程序
- 一些常见svn图标的含义
- db2常用命令大全
- Android应用开发实战GPS与加速度传感器
- 自定义SqlMembershipProvider方法
- cocos2d中CCCallFunc、CCCallFuncN和CCCallFuncND的区别
- 在hadoop框架中编译执行程序
- Object转换成String的方法
- ffmpeg 从mp4上提取H264的nalu
- std::string 写入文件没错误 --------------------------- 偶然
- 程序员励志:哈佛校训
- Spring MVC 视图解析器(ViewResolver )
- flex4设置背景图片
- Apache2.2和SVN1.4.4完美组合,搭建svn版本控制平台
- DB2 常用命令小结