分别采用匿名类和lambda来实现spark API的接口
来源:互联网 发布:linux中的telnet命令 编辑:程序博客网 时间:2024/06/03 20:54
SparkConf conf = new SparkConf().setAppName("SparkSample").setMaster("local[*]");JavaSparkContext sc = new JavaSparkContext(conf);SQLContext sqlContext = new SQLContext(sc);JavaRDD<String> lines = sc.textFile("D:\\eclipse_1\\sparkTest\\src\\main\\java\\source\\idWordsFile.txt");
JavaPairRDD<String, String> countss = lines.filter(x -> x!="") .mapToPair(PairFunction<String,K2,V2>)/* 对于这段话的意思是mapToPair 方法里面接受一个接口叫PairFunction方法,这个PairFunction 接受三个参数,String,和K2,V2,对于K2和V2可以自己设定类型。 其中第一个String为输入类型,K2和V2为返回值的类型。 下面是两个分别用匿名类实现这个接口和用lambda实现这个方法的例子*///用匿名类 实现该接口方法:JavaPairRDD<String,String> counts = lines.filter(x -> x!="").mapToPair(new PairFunction<String ,String,String>(){public Tuple2<String, String> call(String line) throws Exception { String[] splited = line.split(":"); return new Tuple2<String,String>(splited[0],splited[1]); }});//用lambda实现该接口方法:JavaPairRDD<String, String> countss = lines.filter(x -> x!="") // 对于lambda ->前面的内容为接口方法的输入的参数, ->后面的内容为需要返回的内容 .mapToPair(w -> { String[] splited = w.split(":"); return new Tuple2<String,String>(splited[0],splited[1]); });
阅读全文
0 0
- 分别采用匿名类和lambda来实现spark API的接口
- 采用动态广播和观察者模式来分别实现验证码自动填写
- Kotlin 匿名类实现接口和抽象类的区别
- java的lambda表达式、匿名类,Predicate接口,Consumer接口的应用
- 匿名内部类 通过接口来实现
- 匿名函数和Lambda表达式的写法
- Hadoop和Spark分别实现二次排序
- Hadoop和Spark分别实现二次排序
- 和接口有关的匿名类
- java中抽象类和接口的一般实现和特殊实现(匿名类)
- 委托,匿名和Lambda
- 采用spark和openfire实现即时通讯系统
- 采用spark和openfire实现即时通讯系统
- 采用spark和openfire实现即时通讯系统
- 指导学员开发的画图软件,采用双图层染色法,分别用java和vc实现
- 采用系统API实现的二维码扫描、识别和生成
- 分别用迭代和递归来实现阶乘
- 10、匿名内部类实现接口,lambda表达式实现函数式接口
- zz错误
- selenium自动化(二)
- 信息学奥赛一本通(C++版) 第二部分 基础算法 第一章 高精度计算
- 红包分享给你,就是让你点进来的,支付宝红包
- 大数据(三十三)HBASE【Phoenix】
- 分别采用匿名类和lambda来实现spark API的接口
- 鸡鸡鸡鸡汤
- 机器学习十大算法之K-means算法
- 单点登陆解决方案以及代码分析与实现
- C语言 45章作业
- Python xrange与range的区别返回的结果不一样
- Spring Boot
- anaconda下安装opencv_python
- 1!+2!+...+n!的和