Spark-Streaming的最简单使用
来源:互联网 发布:简单编程软件 编辑:程序博客网 时间:2024/06/06 22:23
<dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-streaming_2.10</artifactId> <version>${spark.version}</version> </dependency> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-streaming-kafka_2.10</artifactId> <version>1.6.1</version> </dependency> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-streaming-flume_2.10</artifactId> <version>${spark.version}</version> </dependency>
程序1:
import org.apache.spark.{SparkConf, SparkContext}import org.apache.spark.streaming.{Seconds, StreamingContext}/** * Created by Administrator on 2017/6/6. */object StreamingWordCount { def main(args: Array[String]) { //LoggerLevels.setStreamingLogLevels() //StreamingContext val conf = new SparkConf().setAppName("StreamingWordCount").setMaster("local[2]") val sc = new SparkContext(conf) val ssc = new StreamingContext(sc, Seconds(5)) //接收数据 val ds = ssc.socketTextStream("192.168.33.62", 9999) //DStream是一个特殊的RDD //hello tom hello jerry val result = ds.flatMap(_.split(" ")).map((_, 1)).reduceByKey(_+_) //打印结果 result.print() ssc.start() ssc.awaitTermination() }}
再另一个shell中: 使用nc命令,不断向端口发送数据
yum -y install nc
nc -lk 9999
阅读全文
1 0
- Spark-Streaming的最简单使用
- spark流数据处理:Spark Streaming的使用
- spark流数据处理:Spark Streaming的使用
- Spark Streaming和Flume的结合使用
- spark streaming检查点使用
- 在Spark Streaming上使用Spark Mllib的思路实现
- Spark streaming 应用简单示例
- Spark Streaming的WindowedDStream
- zookeeper+kafka安装以及kafka+spark streaming 的简单整合
- Spark Streaming累加器与广播的简单应用
- 第97讲:使用Spark Streaming+Spark SQL来在线动态计算电商中不同类别中最热门的商品排名,
- Spark Streaming结合Spark SQL开发案例:电商中不同类别中最热门的商品排名
- 使用 Spark Streaming 检测关键词
- Spark Streaming基本使用介绍
- Spark Streaming的foreachRDD算子的正确使用
- 为什么越来越多的公司在使用Spark Streaming
- spark streaming窗口函数的使用和理解
- 为什么越来越多的公司在使用Spark Streaming
- 39_面向对象_12_继承_方法的重写
- vue 项目 使用sass
- Gradle加载很慢的问题解决方法,Building...info
- k-means算法的Python实现
- 机器学习中的损失函数
- Spark-Streaming的最简单使用
- nyoj 148
- 倍增法求lca 模板
- 2、不一样的C++系列--C++中的引用
- 动态代理
- BZOJ4810: [Ynoi2017]由乃的玉米田
- windows下安装sass与compass
- JS中的冒泡排序
- wpf利用Visifire.Chart实现实时曲线绘制