spark环境编译
来源:互联网 发布:淘宝登陆页面打不开 编辑:程序博客网 时间:2024/06/10 13:20
spark环境的搭建和联系
spark包括
SparkCore: 核心部分SparkSQL: Spark中交互式处理模块SparkStreaming: Spark中流式数据处理的模块SparkMLib:Spark机器学习相关模块 => MahoutSparkGraphX: Spark中图形计算的模块
编译spark
配置文件修改 make-distribution.sh文件(:130,跳转到相应的行)
修改pom文件
添加依赖服务,减少编译下载的网络消费 (/xxxx,在shell中搜索)
使用脚本文件开始编译,编译使用apache的Hadoop版本
./make-distribution.sh --tgz \-Phadoop-2.4 \-Dhadoop.version=2.5.0 \-Pyarn \-Phive -Phive-thriftserver
编译需要等待一会(半个小时左右)
0 0
- spark环境编译
- Spark编译及spark开发环境搭建
- 简单搭建spark编译环境
- Spark源码阅读环境配置,以及手动编译Spark源码
- 使用IDEA搭建Spark源码环境及编译Spark源码
- Spark-基础-Spark编译与部署环境搭建
- 搭建Spark集群环境,编译软件部分的笔记
- Spark编译与部署(上)--基础环境搭建
- hadoop Spark源码编译所需要的环境
- 基于CentOS6.4环境编译Spark-2.1.0源码
- Spark编译与部署(上)--基础环境搭建
- 基于CentOS6.4环境编译Spark-2.1.0源码
- 编译spark
- Spark编译
- Spark编译
- Spark入门实战系列--2.Spark编译与部署(上)--基础环境搭建
- Spark入门实战系列--2.Spark编译与部署(上)--基础环境搭建
- spark学习7之IDEA下搭建Spark本地编译环境并上传到集群运行
- 问题 F: Problem B
- POJ 1789 Truck History MST(水)
- 寒假03:暗恋(只是标题党)
- 机器学习中的数学(1)-回归(regression)、梯度下降(gradient descent)
- Android官方文档学习01多屏幕适配&Fragment间通信&Intent分享
- spark环境编译
- 远程计算机或设备将不接受连接,IE无法上网问题解决
- leetcode(378):Kth Smallest Element in a Sorted Matrix
- css3-transform-matrix 即矩阵实现物体旋转、缩放、移动效果
- c语言中格式化读写函数fscanf()和fprintf()
- ASP常见漏洞大全
- 【LeetCode】10. Regular Expression Matching
- 机器学习中的数学(2)-线性回归,偏差、方差权衡
- Android初级教程 - Activity 与 Fragment生命周期