Spark疑问1之如何查看sparkContext没有关闭的sc

来源:互联网 发布:安德烈波切利 知乎 编辑:程序博客网 时间:2024/04/29 17:26

更多代码请见:https://github.com/xubo245/SparkLearning


Spark疑问1之如何查看sparkContext没有关闭的

在跑完spark程序后有时会忘记执行sc.stop


hadoop@Master:~/cloud/testByXubo/spark/hs38DH/package$ ./cluster.sh fq0.count:105887                                                                Method 1=> Length:2971 sum:7888989 time:34715msMethod 2=> Length:2971 sum2:7888989 time:5665msMethod 3=> Length:2971 sum3:7888989.0 time:1362ms16/04/17 14:15:21 WARN QueuedThreadPool: 2 threads could not be stopped

如何查看集群中没有关闭的sc的数量?

这会不会影响集群的内存或者其他性能?

0 0
原创粉丝点击