Spark学习——始
来源:互联网 发布:淘宝哪里有一元秒杀 编辑:程序博客网 时间:2024/06/06 00:32
公司项目需要,开始用spark streaming 消费消息队列来缓解之前手写consumer导致的集群资源紧张以及开销大的性能问题。于是,在这里记录一些spark知识,自己也很感兴趣,所以就好好做一个专题吧。
开篇,当然是一些老生常谈的论调:
Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架,Spark,拥Hadoop MapReduce所具有的优点;但不同于MapReduce的是Job中间输出结果可以保存在内存中,从而不再需要读写HDFS,因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。
Spark 是一种与 Hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越,换句话说,Spark 启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。
Spark 是在 Scala 语言中实现的,它将 Scala 用作其应用程序框架。与 Hadoop 不同,Spark 和 Scala 能够紧密集成,其中的 Scala 可以像操作本地集合对象一样轻松地操作分布式数据集。
尽管创建 Spark 是为了支持分布式数据集上的迭代作业,但是实际上它是对 Hadoop 的补充,可以在 Hadoop 文件系统中并行运行。通过名为 Mesos 的第三方集群框架可以支持此行为。Spark 由加州大学伯克利分校 AMP 实验室 (Algorithms, Machines, and People Lab) 开发,可用来构建大型的、低延迟的数据分析应用程序。
Spark 主要有三个特点 :
首先,高级 API 剥离了对集群本身的关注,Spark 应用开发者可以专注于应用所要做的计算本身。
其次,Spark 很快,支持交互式计算和复杂算法。
最后,Spark 是一个通用引擎,可用它来完成各种各样的运算,包括 SQL 查询、文本处理、机器学习等,而在 Spark 出现之前,我们一般需要学习各种各样的引擎来分别处理这些需求。
Spark Streaming:构建在Spark上处理Stream数据的框架,基本的原理是将Stream数据分成小的时间片断(几秒),以类似batch批量处理的方式来处理这小部分数据。Spark Streaming构建在Spark上,一方面是因为Spark的低延迟执行引擎(100ms+),虽然比不上专门的流式数据处理软件,也可以用于实时计算,另一方面相比基于Record的其它处理框架(如Storm),一部分窄依赖的RDD数据集可以从源数据重新计算达到容错处理目的。此外小批量处理的方式使得它可以同时兼容批量和实时数据处理的逻辑和算法。方便了一些需要历史数据和实时数据联合分析的特定应用场合。
- Spark学习——始
- spark学习 —— 入门
- Spark学习——RDD
- Spark学习—RDD编程
- Spark学习—PairRDD编程
- Spark学习——利用Scala语言开发Spark应用程序
- Spark学习——Spark Streaming:大规模流式数据处理
- Spark源码学习(2)——Spark Submit
- Spark源码学习(9)——Spark On Yarn
- Spark源码学习(10)——Spark Streaming
- Spark学习笔记(一)——spark简介
- Spark入门学习交流—Spark环境搭建
- Spark入门学习交流—Spark生态圈
- Spark机器学习(一)—Spark相关
- Spark学习笔记6-Spark分布式搭建(5)——ubuntu下Spark分布式搭建
- Spark 机器学习 —— ALS
- Spark 机器学习 —— KMeans
- Spark进阶学习——Stage划分
- 在centos中安装jdk
- jvm 策略与保护域,自定义类加载器
- f12只显示当前的静态页面,如果再执行任何前台操作(不与服务器进行交互),静态页面的代码是不会发生任何改变的
- delphi出现‘尚未调用CoInitialize’异常
- Java设计模式——单列模式
- Spark学习——始
- 创建多线程Extend,Runnable,Callable
- hbase 常用命令
- 线性代数-Gilbert Strang(第一部分)
- 论文阅读,写作,文献阅读
- How to add the patch in apache community?
- Delphi之virtual,dynamic,abstract
- 迷茫
- Android的Menu_Dialog----重新认识Android(8)