Spark的Debug调试
来源:互联网 发布:linux安装zip文件 编辑:程序博客网 时间:2024/06/03 18:42
Spark调试:
本地模式调试
集群模式调试
第一种:
val conf = new SparkConf().setAppName("WC").setMaster("local[2]")
第二种
import org.apache.spark.{SparkConf, SparkContext}/** * Created by root on 2016/5/14. */object WordCount { def main(args: Array[String]) { //非常重要,是通向Spark集群的入口 val conf = new SparkConf().setAppName("WC") .setJars(Array("C:\\HelloSpark\\target\\hello-spark-1.0.jar")) .setMaster("spark://node-1.itcast.cn:7077") val sc = new SparkContext(conf) //textFile会产生两个RDD:HadoopRDD -> MapPartitinsRDD sc.textFile(args(0)).cache() // 产生一个RDD :MapPartitinsRDD .flatMap(_.split(" ")) //产生一个RDD MapPartitionsRDD .map((_, 1)) //产生一个RDD ShuffledRDD .reduceByKey(_+_) //产生一个RDD: mapPartitions .saveAsTextFile(args(1)) sc.stop() }}
阅读全文
0 0
- Spark的Debug调试
- debug调试的重要性
- Xcode的debug调试
- Xcode的debug调试
- idea的debug调试
- debug的调试方法
- idea的debug调试
- AS的Debug调试
- pycharm的debug调试
- Spark Debug
- MyEclipse下的Debug调试
- MyEclipse下的Debug调试
- MyEclipse下的Debug调试
- MyEclipse下的Debug调试
- MyEclipse下的Debug调试
- MyEclipse下的Debug调试
- MyEclipse下的Debug调试
- MyEclipse下的Debug调试
- Spring整合Shiro从源码探究机制
- java: axis2 客户端调用三种方法
- 如何成为一名优秀的全栈工程师
- Dirchlet分布
- thinkphp5 使用sdk,第三方接口,淘宝客信息查询接入
- Spark的Debug调试
- Linux---system v__信号量
- 对不起_这个官司我不服!数据隐私保护是阿里云的生命线
- IFrame父子组件之间相互调用方法
- 一步搭建phpwind网站
- 程序员的工作、学习与绩效
- Kotlin 从学习到 Android 第六章 类和继承
- 一步搭建phpwind网站
- 正则表达式_五大方法