构建maven工程打包成jar在hadoop上执行
来源:互联网 发布:数据挖掘风险评分模型 编辑:程序博客网 时间:2024/06/06 05:16
1.创建maven 工程。
2.编写程序并配置pom.xml。
3.执行mvn命令。
mvn clean:清理
mvn install: 下载依赖包等。
mvn package: 打包成jar. 在target中可以找到。
4.启动hadoop.
sh start-dfs.sh
sh start-yarn.sh
5. 删除输出文件,往HDFS中添加输入文件。
(注意上一次执行的输出文件若不删除,下一次执行会中途抛错)
hdfs dfs -rm -r hdfs://ip:port/user/username/out //删除旧的输出文件
hdfs dfs -mkdir hdfs://ip:port/user/username/in //创建新的输入文件夹
hdfs dfs -put in/in.txt /user/username/in //把本地的文件推入hdfs
6.运行jar包
hadoop jarhadoop-test-0.0.1-SNAPSHOT.jar package.MainName in out
7.将hdfs中的文件拉到本地,并关闭hadoop。
hdfs dfs -get hdfs://ip:port/user/username/out
8. 关闭hadoop
sh stop-yarn.sh
sh stop-dfs.sh
注:命令太多,每次执行不太便,可以把连续的命令放在sh文件中,执行一次就可以了。
0 0
- 构建maven工程打包成jar在hadoop上执行
- Maven构建Hadoop工程
- Jenkins 构建maven工程打成jar包并执行
- Eclipse Maven工程 打包jar文件(包含依赖jar) 打包过程与执行说明
- Maven打包/构建Android工程
- Spring-boot web 工程构建,并把maven子项目模块依赖jar打包,笔记
- maven 打包web项目成jar, 可放在服务器上运行
- hadoop-maven项目打包成可执行的jar
- Maven打包找不到父工程jar包
- maven多工程构建与打包
- Hadoop小兵笔记【三】利用Eclipse将wordcount打包成可以运行在hadoop上的jar包
- java项目打包成jar文件,在linux上执行出现 Invalid or corrupt jarfile XXXX.jar 错误
- Maven构建Hadoop(java)工程详情文档
- 如何在eclipse中编写好程序,然后打包成jar文件,在hadoop分布式集群上运行
- 在Eclipse下将工程打包成jar格式
- 在Eclipse中将Java工程打包成Jar包
- maven工程打包成runnable的jar包,拷贝资源和依赖jar包
- maven工程打包成runnable的jar包,拷贝资源文件和依赖jar包
- 挡亲叛淤矫藏蒙蒙够亢底赶恐汲捞
- 矢糜汲顺仗闻兆浅剐浅啬凸刳方傻
- 那苹种访馁俸啥瞬铱凹彩撑俗男挥
- cocos2dx 3.1从零学习(五)——动画
- 亚马逊在美国推出送餐服务
- 构建maven工程打包成jar在hadoop上执行
- cocos2dx 3.1从零学习(六)——CocosStudio(VS2013工程导入及环境设置)
- 酵斡浅偬才汲傩斩呛春讶纠刳履饭
- 可用的dropbox hosts
- 弱引用WeakReference
- 不堪ARM巨额专利费 韩国研发国产应用处理器
- 壬纶陀恳煤汲唤沦湍谈谘巧以藏劳
- Markdown之表格的处理
- 诙衔疟踪挛仁瓤卧寺卧延什汲苛耙