spark--transform算子--parallelized
来源:互联网 发布:淘宝win10激活靠谱不 编辑:程序博客网 时间:2024/06/05 10:56
import org.apache.spark.{SparkConf, SparkContext}/** * Created by liupeng on 2017/6/15. */object T_parallelized { System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5") def main(args: Array[String]): Unit = { val conf = new SparkConf().setAppName("parallelized_test").setMaster("local") val sc = new SparkContext(conf) //parallelize 操作会将集合并行化为RDD val data = Array(1, 2, 3, 4, 5) val distDate = sc.parallelize(data) distDate.foreach(println) }}
运行结果:
1
2
3
4
5
2
3
4
5
阅读全文
0 0
- spark--transform算子--parallelized
- spark--transform算子--cartesian
- spark--transform算子--coalesce
- spark--transform算子--cogroup
- spark--transform算子--distinct
- spark--transform算子--filter
- spark--transform算子--flatMap
- spark--transform算子--groupByKey
- spark--transform算子--intersection
- spark--transform算子--join
- spark--transform算子--map
- spark--transform算子--mapPartitions
- spark--transform算子--mapPartitionsWithIndex
- spark--transform算子--reduceByKey
- spark--transform算子--repartition
- spark--transform算子--sample
- spark--transform算子--sortByKey
- spark--transform算子--union
- FZU2264,2265,2266 Card Game 系列 (数学,规律)(第七届福建省大学生程序设计竞赛)
- logback的简单使用
- java下载读取网页内容方式
- 李白打酒
- Nginx与Lua
- spark--transform算子--parallelized
- java的术语
- 指针和const
- 什么是主键、外键
- HDU 2973 YAPTCHA(威尔逊定理)
- 二叉树的下一个结点+对称二叉树
- zcmu1575——Decreasing String
- Unity3D学习记录——脚本生命周期
- POJ 3080 Blue Jeans 笔记