SPARK伪分布安装

来源:互联网 发布:js实现京东放大镜效果 编辑:程序博客网 时间:2024/05/22 14:16

准备:JDK SCALA HADOOP
下载安装
下载:
解压:
SPARK_ENV:
export JAVA_HOME=/usr/java/jdk1.8.0_73
export SCALA_HOME=/opt/scala-2.11.7
export SPARK_MASTER_IP=bk25103378-B85M-DS3H-A #主机名
export SPARK_WORKER_CORES=2
export SPARK_WORKER_MEMORY=2g
export HADOOP_CONF_DIR=/opt/hadoop-2.6.4/etc/hadoop
SPARK_SLAVE
注意:需要在SPARK_conf 中加上JAVA_HOME
编程环境:IDEA(可以自定义安装各种编程语言的插件JAVA Python Scala,Maven等工程管理工具)

0 0