spark 上python启动脚本
来源:互联网 发布:essential phone 知乎 编辑:程序博客网 时间:2024/06/08 20:02
#!/usr/bin/python
# -*- coding: utf-8 -*-
__author__ = 'hh'
# import os
# os.system("export PYSPARK_PYTHON=python2.7.5")
from subprocess import call
file_path = "./ip_top10.py"
ok = call(["spark-submit",
"--master", "yarn-client",
"--num-executors", "25",
"--executor-memory", "10g",
"--executor-cores", "4",
"--driver-memory", "10g",
"--conf","spark.pyspark.python=python2.7",
"--queue", "root.bpp_jmart_union.bpp_jmart_formal",
file_path])
print("return status:" + str(ok))
if ok == 0:
print("-------Successfully------")
else:
print("-----------Error---------")
raise Exception('ERROR:' + str(ok))
# -*- coding: utf-8 -*-
__author__ = 'hh'
# import os
# os.system("export PYSPARK_PYTHON=python2.7.5")
from subprocess import call
file_path = "./ip_top10.py"
ok = call(["spark-submit",
"--master", "yarn-client",
"--num-executors", "25",
"--executor-memory", "10g",
"--executor-cores", "4",
"--driver-memory", "10g",
"--conf","spark.pyspark.python=python2.7",
"--queue", "root.bpp_jmart_union.bpp_jmart_formal",
file_path])
print("return status:" + str(ok))
if ok == 0:
print("-------Successfully------")
else:
print("-----------Error---------")
raise Exception('ERROR:' + str(ok))
阅读全文
0 0
- spark 上python启动脚本
- spark shell启动脚本
- Spark 启动脚本分析
- 启动spark程序脚本示例
- Spark 启动脚本——启动总结
- spark--python数据分析脚本
- python启动脚本
- Elasticsearch python 启动脚本
- python脚本中启动另一个python脚本
- Spark 源码阅读一-启动脚本
- Spark源码学习(一)---Spark的启动脚本
- 方便调试spark参数的python脚本
- 开启自启动python脚本
- linux开机启动python脚本
- Python脚本启动Java服务
- 配置定时启动python 脚本
- 树莓派开机启动python脚本
- python启动脚本--daemon形式
- JSP 自定义标签
- 获取当前的spring容器ApplicationContext 。
- Struts2框架自学之路——值栈
- Presto查询性能测试记录
- mongodb命令行group分组和java代码中group分组
- spark 上python启动脚本
- 熟练键盘的一些快捷键提升开发效率
- layoutSubviews解析
- 欢迎使用CSDN-markdown编辑器
- ffmpeg参数中文详细解释
- windows server 2012 启动目录
- 基于深度学习的目标检测算法:YOLO
- 签署您的应用——多渠道签名打包教程
- opencv3.2.0+contrib3.2.0+cuda8.0经验总结