1-1、Spark 的local模式安装

来源:互联网 发布:淘宝店雪亮卫生纸 编辑:程序博客网 时间:2024/05/01 07:25


软件:

jdk1.8

centos6.5

hadoop2.6.0

spark-1.5.2-bin-hadoop2.6.tgz


1、解压,编辑spark-env.sh文件

[root@spark0 conf]# cp spark-env.sh.template spark-env.sh[root@spark0 conf]# vim spark-env.shSPARK_MASTER_IP=192.168.6.2


2、设置主节点IP地址:



3、设置从节点IP地址:


添加IP地址:



4、启动:

sbin/start-all.sh 


查看进程:



5、启动spark-shell:

bin/spark-shell 



6、运行一个简单的例子:

val rdd=sc.textFile("/home/spark0/spark.txt").collect



7、网页 http://192.168.6.2:4040/jobs/ 查看任务:



0 1
原创粉丝点击