<spark>新手helloworld
来源:互联网 发布:战地2网络对战平台 编辑:程序博客网 时间:2024/05/01 17:42
world count 程序
/** * Created by hadoop on 17-2-23. */import org.apache.spark.SparkConf;import org.apache.spark.api.java.JavaPairRDD;import org.apache.spark.api.java.JavaRDD;import org.apache.spark.api.java.JavaSparkContext;import org.apache.spark.api.java.function.FlatMapFunction;import org.apache.spark.api.java.function.Function2;import org.apache.spark.api.java.function.PairFunction;import scala.Tuple2;import java.util.Arrays;public class JavaWordCount { public static void main(String[] args)throws Exception { SparkConf conf = new SparkConf().setAppName("wordCount"); JavaSparkContext sc = new JavaSparkContext(conf); JavaRDD<String> input = sc.textFile("/home/hadoop/input/idea"); JavaRDD<String> words = input.flatMap( new FlatMapFunction<String, String>() { @Override public Iterable<String> call(String s) throws Exception { return Arrays.asList(s.split(" ")); } } ); JavaPairRDD<String,Integer> counts = words.mapToPair( new PairFunction<String, String, Integer>() { @Override public Tuple2<String, Integer> call(String s) throws Exception { return new Tuple2(s,1); } } ).reduceByKey( new Function2<Integer, Integer, Integer>() { @Override public Integer call(Integer integer, Integer integer2) throws Exception { return integer+integer2; } } ); counts.saveAsTextFile("/home/hadoop/output"); }}
0 0
- <spark>新手helloworld
- Spark primer 之helloworld
- Spark 安装 及 HelloWorld
- 新手写OFBiz的HelloWorld
- Android开发新手HelloWorld解析
- Android开发新手HelloWorld解析
- Android新手环境搭建,HelloWorld
- 新手写OFBiz的HelloWorld
- spark新手教程
- Spark Streaming新手指南
- 新手之路--spark
- spark筑基篇-01-Eclipse开发Spark HelloWorld
- spark筑基篇-01-Eclipse开发Spark HelloWorld
- spark入门(helloworld插件)
- Scala + Spark +Maven之Helloworld
- 新手入手 Spark 安装(1)
- 笔记:新手的Spark指南
- Intellij idea下spark开发HelloWorld
- js中undefined,null,NaN的区别
- runOnUiThread()方法
- 分解的素数
- Android Studio 安装及配置
- wordpress建设博客或电商网站之四:解决发送邮件和用户注册的BUG
- <spark>新手helloworld
- 主机ip查找程序
- Android Studio Api25 File Explorer 不显示内容问题的解决
- Storj:A Peer-to-Peer Cloud Storage Network(点对点云存储网络)
- 关于Function.prototype.apply.call的一些补充
- 线程安全和可重入函数的区别和联系
- 运行时异常与受检查异常有何异同(runtime exception 和 checked exception)
- 蓝桥-分解质因数
- ionic android 图片不显示