linux中spark启动进程命令以及顺序

来源：互联网发布：网站搜索引擎优化方案编辑：程序博客网时间：2024/06/06 05:40

1）首先启动hadoop

① 在Master节点上进入hadoop安装目录下，执行sbin/start-dfs.sh

② 在Slave1节点上进入hadoop安装目录下，执行sbin/start-yarn.sh

③ 在Master节点上进入hadoop安装目录下，执行sbin/mr-jobhistory-daemon.sh start historyserver

④ 在Slave1节点上进入hadoop安装目录下，执行sbin/yarn-daemon.sh start proxyserver

在Master节点命令中输入jps，显示进程为NodeManager, JobhistoryServer, DataNode, NameNode

在Slave1节点中输入jps，显示进程为DataNode, NodeManager, WebAppProxyServer, ResourceManager

在Slave2节点中输入jps，显示进程为SecondaryNameNode, DataNode, NodeManager

2）启动spark

在Master节点上，进入spark安装目录，执行sbin/start-master.sh 然后执行sbin/start-slaves.sh

Master节点

[root@Master 桌面]# jps3646 JobHistoryServer3219 DataNode3119 NameNode3482 NodeManager3923 Worker10217 Jps3820 Master

Slave1节点

[root@Slave1 桌面]# jps2837 Worker2359 NodeManager2710 WebAppProxyServer4514 Jps2120 DataNode2257 ResourceManager

Slave2节点

[root@Slave2 桌面]# jps2508 Worker2186 SecondaryNameNode2327 NodeManager5136 Jps2127 DataNode

此时，Master节点多了Master和Worker进程，两个子节点上多了Worker进程，则全部启动成功，Spark UI地址为：Master:4040

阅读全文

0 0