提交Python 代码到Spark
来源:互联网 发布:赛克蓝德日志分析软件 编辑:程序博客网 时间:2024/05/22 13:25
没有设置spark环境变量的话:
cd /spark路径/bin./spark-submit /usr/qy/test_pyspark.py
test_pyspark.py:
#!/usr/bin/env python# -*- coding: utf-8 -*-# Wicle Qian# 2015.11.19# test the python in Spark without pysparkfrom pyspark import *def test(): sc = SparkContext('local','qy_test') print sc textFile = sc.textFile("file:///usr/local/cluster/spark/README.md") print textFile.count() print textFile.first()if __name__ == '__main__': test()
0 0
- 提交Python 代码到Spark
- spark 提交任务到spark
- Eclipse提交代码到Spark集群上运行
- Spark提交任务到集群
- Spark提交任务到集群
- spark代码提交流程(Standalone)
- 提交代码到github
- 提交代码到cocoapods
- 从windows上提交代码到spark集群发现driver地址不通
- 在window上提交spark代码到远程测试环境上运行
- Spark运行Python代码
- spark用程序提交任务到yarn
- Spark-submit提交任务到集群
- Java Web提交任务到Spark
- spark-submit 提交作业到集群
- <转>Java Web提交任务到Spark
- spark-submit提交任务到集群-案例
- spark-submit提交任务到集群
- Have a try
- 关于hashcode()的作用
- iOS 原生二维码扫描(可限制扫描区域)
- hibernate一对一主键关联单向(一)
- Qt实现图像自适应窗口大小之scaled()函数使用
- 提交Python 代码到Spark
- 华为oj输入一行字符,分别统计出包含英文字母、空格、数字和其他字符的个数
- Matlab在字符界面下转成C语言代码
- 吓死宝宝了——PATH 环境变量配错了,ll或ls命令都找不到了
- Qt5调用QPixmap::fromWinHICON
- mysql用户创建和权限管理
- 仿QQ5.0侧滑菜单——自定义属性
- QPixmap vs. QImage
- S3C2440 SDRAM寄存器初始化设置