第一次在spark环境下运行jar包
来源:互联网 发布:西城区2016年经济数据 编辑:程序博客网 时间:2024/06/06 02:25
第一次在spark环境下运行jar包,耶耶耶!!!心情赞赞哒!!!!
现在开发的工具也主要换成了Intellij,因为方便嘛!!!之前果然不应该用eclipse,简直是强求啊~~Intellij从开发,到打包在spark界都是一把手~~么么哒~~
打包的部分主要参考了一下博文:
如何使用intellij搭建spark开发环境(下)
总结来说有以下步骤:
1. 建立一个artifacts
生成程序包之前要先建立一个artifacts,File -> Project Structure -> Artifacts -> + -> Jars -> From moudles with dependencies,然后随便选一个class作为主class。
2. 配置artifact
按OK后,对artifacts进行配置,修改Name为hello1,删除Output Layout中hello1.jar中的几个依赖包,只剩hello1项目本身
3. 打包
按OK后, Build -> Build Artifacts -> hello1 -> build进行打包,经过编译后,程序包放置在out/artifacts/hello1目录下,文件名为hello1.jar。
至于提交嘛,用以下命令
spark-submit --class wc1 --master spark://localhost:6060 FirstJar.jar /wordcount
因为我的class wc1头上是没有package的,所以直接写,另外最后的arg[0]是hdfs的路径~
终于运行成果啦!!
心情赞赞哒!!!
0 0
- 第一次在spark环境下运行jar包
- Intellij IDEA开发环境搭建,scala配置及打包,jar包在spark中的运行
- linux环境下运行jar包,依赖外部jar包
- 在Linux下运行可执行Jar包
- Spark运行在EMR Jar包(guava)冲突问题
- idea环境下用maven打可运行jar包
- 如何在仅仅有jre的环境,运行jar包
- spark jar包方式运行hive步骤
- spark任务运行及jar包
- spark-submit运行jar包脚本命令
- 在cmd下运行有jar包的class
- 在linux下开机自动运行jar包
- Java程序在命令行下编译运行打Jar包
- hadoop 打jar包,在linux下运行
- 命令下运行jar包
- cmd下运行jar包
- 如何在Android环境下加载已有的jar包
- 在intellij idea环境下,使用maven打jar包
- 生活杂谈:从Z149到Z78随笔
- 【Leetcode】Gas Station #134
- LeetCode 题解(186): Palindrome Linked List
- eiqzqfwu
- android(4) 使用ViewPaper 以及这几年来的一些感悟
- 第一次在spark环境下运行jar包
- Recover Rotated Sorted Array
- 【Django】上传图片之路径问题
- PS------裁剪工具的使用
- 用NAN简化Google V8 JS引擎的扩展
- jQuery基础----21jQuery AJAX-异步访问
- jQuery基础----22jQuery AJAX-加载片段
- jQuery基础----23jQuery扩展-jQuery扩展
- jQuery基础----24jQuery扩展-noConflict