spark环境编译

来源:互联网 发布:淘宝登陆页面打不开 编辑:程序博客网 时间:2024/06/10 13:20

spark环境的搭建和联系

spark包括

SparkCore: 核心部分SparkSQL: Spark中交互式处理模块SparkStreaming: Spark中流式数据处理的模块SparkMLib:Spark机器学习相关模块 => MahoutSparkGraphX: Spark中图形计算的模块

编译spark

配置文件修改 make-distribution.sh文件(:130,跳转到相应的行)

这里写图片描述

修改pom文件

这里写图片描述

添加依赖服务,减少编译下载的网络消费 (/xxxx,在shell中搜索)

这里写图片描述

使用脚本文件开始编译,编译使用apache的Hadoop版本

./make-distribution.sh --tgz \-Phadoop-2.4 \-Dhadoop.version=2.5.0 \-Pyarn \-Phive -Phive-thriftserver

编译需要等待一会(半个小时左右)

0 0
原创粉丝点击