spark -运行

来源:互联网 发布:反差对焦算法 编辑:程序博客网 时间:2024/05/16 19:04

1.  C:\Users\lenovo\.ivy2\cache  文件被cache覆盖

2.  在intelij中导入swordfish.tar.gz 工程

3. 在src/main/scala 下新建object类

3. 在sbt-console中 运行package命令

4. 上传至服务器用 类似:

/home/jay/local/spark-1.6.1/bin/spark-submit --master yarn --queue zampda_job --conf spark.dynamicAllocation.enabled=true --conf spark.dynamicAllocation.minExecutors=16 --conf spark.dynamicAllocation.maxExecutors=128 --conf spark.shuffle.service.enabled=true --conf spark.locality.wait=15s --executor-memory 3500M --class com.zamplus.brain.tasks.autobidding.WinFold swordfish_2.10-1.0.jar 20160810 20160810

执行

0 0
原创粉丝点击