spark--transform算子--flatMap
来源:互联网 发布:淘宝用什么进销存软件 编辑:程序博客网 时间:2024/06/05 01:44
import org.apache.spark.{SparkConf, SparkContext}/** * Created by liupeng on 2017/6/16. */object T_flatMap { System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5") def main(args: Array[String]): Unit = { val conf = new SparkConf().setAppName("flatMap_test").setMaster("local") val sc = new SparkContext(conf) val nameList : List[String] = List( "hello liupeng", "hello liuxi", "hello xiaoma" ) //flatMap = flat + map返回多个元素 val nameRDD = sc.parallelize(nameList) val words = nameRDD.flatMap(line => line.split(" ")) words.foreach(println) }}
运行结果:
hello
liupeng
hello
liuxi
hello
xiaoma
liupeng
hello
liuxi
hello
xiaoma
阅读全文
0 0
- spark--transform算子--flatMap
- spark--transform算子--cartesian
- spark--transform算子--coalesce
- spark--transform算子--cogroup
- spark--transform算子--distinct
- spark--transform算子--filter
- spark--transform算子--groupByKey
- spark--transform算子--intersection
- spark--transform算子--join
- spark--transform算子--map
- spark--transform算子--mapPartitions
- spark--transform算子--mapPartitionsWithIndex
- spark--transform算子--parallelized
- spark--transform算子--reduceByKey
- spark--transform算子--repartition
- spark--transform算子--sample
- spark--transform算子--sortByKey
- spark--transform算子--union
- 微信小程序 | 来自小程序开发者的开发教程③
- 637. Average of Levels in Binary Tree
- MapReduce User Manual
- jfreechart柱形图详细属性设置
- 快速使用CSS 弹性盒子
- spark--transform算子--flatMap
- log4j将日志存储到数据库
- SSD掉电保护也是一门艺术
- LeetCode总结
- fork函数
- 使用javassist生成实体对象
- Linux Boot logo 图片的修改
- 集群RedHat6.5+JDK1.8+Hadoop2.7.3+Spark2.1.1+zookeeper3.4.6+kafka2.11+flume1.6环境搭建步骤
- 2017-07-18日看登录日志,显示十条:最早的是:2014-04-07 17:09,应该就是注册日期吧