spark UI 显示已完成应用的历史信息

来源:互联网 发布:金融分销系统源码 编辑:程序博客网 时间:2024/05/16 07:04

1,在HDFS 上创建放历史文件的目录

2,配置spark-env.sh的SPARK_HISTORY_OPTS=“-Dspark.eventLog.dir=第一步创建的目录”

3,配置spark-defaults.conf 的spark.eventLog.enabled=truespark.eventLog.dir=第一步创建的目录spark.eventLog.compress=true

4,启动spark-history-server  sbin/start-history-server.sh 第一步创建的目录.


saprk应用未执行sc.stop 程序不会结束,历史信息也不会写入。

0 0