centOS下spark的安装部署
来源:互联网 发布:淘宝给差评有什么影响 编辑:程序博客网 时间:2024/04/29 04:47
Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。
Spark 是一种与 Hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越,换句话说,Spark 启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。
Spark 是在 Scala 语言中实现的,它将 Scala 用作其应用程序框架。与 Hadoop 不同,Spark 和 Scala 能够紧密集成,其中的 Scala 可以像操作本地集合对象一样轻松地操作分布式数据集。
spark安装部署步骤如下:
1、从官网下载:http://spark.apache.org/downloads.html
我下载的是 spark-2.1.0.tar
2、解压到文件夹:tar xvf spark-2.1.0.tar
3、进入sudo vim /etc/profile在下面添加路径:
SPARK_HOME=/home/fmm/spark/spark-2.1.0PATH=$PATH:${SPARK_HOME}/bin
这里fmm是我自己建的文件夹,spark-2.1.0 为解压后的文件夹。
4、source /etc/profile 使配置生效
5、命令行 输入 : spark-shell 测试(可在安装目录中bin里面找到)
6、进入bin目录,输入./run-example SparkPi 10(迭代次数) 计算π的值
7、5和6步 都运行成功的话,说明你已经成功安装部署了spark。
0 0
- centOS下spark的安装部署
- Centos 6.5下Redis的安装部署
- centos下saltstack的安装与部署
- centos下安装部署fusionPBX
- CentOs下Nginx安装部署
- 在Ubuntu下的Spark单机部署安装
- 【Spark】Spark的Standalone模式安装部署
- 【Spark】Spark的Standalone模式安装部署
- CentOS下快速部署WHMCS的安装环境
- centos 7下 区块链 Hyperledger 的安装和部署
- Spark 1.3与hadoop2.6在64位最小安装的CentOS 7中的部署
- centos 7 下 spark 安装(python)
- Spark 入门之一:CentOS 6.5 下Spark 1.4 的安装以及配置
- Spark编译与部署(下)--Spark编译安装
- CentOS 6.3下Zabbix安装部署
- centos下jdk和tomcat安装部署
- centos下部署安装edusoho全过程
- centos下安装部署bugfree记录
- 随笔感悟
- 互联网时代的照妖镜,妖孽哪里跑!
- 阿里巴巴 Java 开发手册(笔记)
- MyEclipse常用快捷键
- 域名申请注意事项
- centOS下spark的安装部署
- 很多企业自媒体都在建一座信息孤岛
- 11. url
- H5标签video兼容IE8
- Wireshark基本用法---分析网络协议报文
- printwriter
- eclipse复制行快捷键与屏幕旋转冲突的解决
- iOS错误 linker command failed with exit code 1(use -v to see invocation)
- 74HC595驱动LED点阵或数码管的正确用法